Додека вештачката интелигенција забрзано навлегува во воените системи, политичкиот и технолошкиот свет сè погласно се соочува со прашањето каде треба да биде границата. Британскиот крал Чарлс Трети предупредува дека и брзината и насоката на развојот на ВИ се причина за сериозна загриженост, додека во Пентагон преовладува ставот дека САД не смеат да го забават развојот ако сакаат да ја задржат технолошката и воената предност.

Чарлс: Не смееме да ја изгубиме контролата врз иднината

Кралот Чарлс Трети за вештачката интелигенција ќе зборува на собир во Дамфрис хаус во шкотскиот Ершир, каде што ќе се сретнат претставници на технолошката индустрија, експерти и политичари. Во својот говор тој се очекува да предупреди дека развојот на ВИ е истовремено фасцинантен и длабоко загрижувачки, особено поради неговата брзина.

Чарлс ќе побара од технолошките компании да дадат уверувања дека човештвото нема да ја изгуби контролата врз сопствената иднина. Според пораката што се очекува да ја упати, одлуките донесени во оваа рана фаза од развојот на технологијата ќе го обликуваат светот во кој ќе живеат идните генерации.

Неговата порака е дека целта не треба да биде само забрзување на технологијата, туку нејзино користење во служба на луѓето, заедниците и природната средина. На собирот се очекува да присуствуваат извршниот директор на „Нвидиа“, Џенсен Хуанг, коосновачот на „Гугл Дипмајнд“, Демис Хасабис, и финансиската директорка на „Опенаи“, Сара Фриар. Поканети се и претставници на „Антропик“ и „Кохир“, како и британскиот министер за вештачка интелигенција Канишка Нарајан и советникот на Ватикан, Паоло Бенанти.

Во Пентагон размислуваат поинаку

Додека Чарлс повикува на претпазливост и меѓународна соработка, американското Министерство за одбрана забрзано ја интегрира ВИ во различни делови од воениот систем. Во Вашингтон стравуваат дека евентуалното забавување би можело да им овозможи на Кина и Русија да стекнат технолошка предност.

Американскиот министер за воздухопловни сили Трој Мејнк оценува дека одржувањето на предноста во ВИ е едно од најважните прашања за САД, и од аспект на воената и од аспект на економската безбедност.

„Ова е трка што САД не смеат да ја загубат“, порача тој.

Од Пентагон, пак, сметаат дека САД мора да продолжат со развојот на технологијата и истовремено да управуваат со ризиците што таа ги носи. Камерон Стенли, кој е задолжен за дигиталните технологии и вештачката интелигенција во Пентагон, предупреди дека воздржувањето од користење на ВИ може да биде ризично доколку конкурентите продолжат да ја развиваат.

Конгресот сака заштитни механизми

Истовремено, во американскиот Конгрес се разгледуваат правила за употребата на ВИ во воената сфера. Предложените мерки би вовеле дополнителна проверка на автономните системи и би требало да обезбедат човечка проценка во одлуките поврзани со нивната употреба. Се разгледуваат и нови безбедносни стандарди и правила за таканаречените ВИ агенти кои би биле интегрирани во воените системи.

Републиканскиот сенатор Мајк Раундс ги опиша предложените мерки како прв чекор кон регулирање на воената употреба на ВИ. Но, дел од законодавците сметаат дека законодавниот процес се одвива премногу бавно во споредба со темпото со кое напредува технологијата. Демократскиот конгресмен Хаким Џефрис повика на побрзо воведување нови правила, предупредувајќи на можните последици од неконтролираниот развој.

Критичарите предупредуваат на нов тип ризици

Еден од клучните проблеми е тоа што со внесувањето на ВИ во воените системи се појавуваат и нови безбедносни ризици. Демократскиот сенатор Ричард Блументал предупреди дека автономни системи би можеле да бидат искористени за напади врз интернет-страници или за нарушување на функционирањето на критични системи.

Прашањето станува уште посложено кога станува збор за системи кои можат самостојно да извршуваат задачи. Додека едната страна смета дека човечката контрола мора да остане во центарот, другата предупредува дека САД не можат да си дозволат да се откажат од технологија која веќе ја развиваат нивните конкуренти.

„Не гледам можност за забавување“

Сличен став имаат и дел од европските безбедносни претставници. Гиедримас Јеглинскас, поранешен литвански пратеник и функционер на НАТО, вели дека не гледа можност за забавување на развојот на ВИ поради нејзиното значење за економскиот раст, конкурентноста и националната безбедност. Но, во технолошкиот сектор постојат и спротивни ставови.

Сара Хек од „Антропик“ смета дека САД мора да продолжат да развиваат нови модели, додека конгресменот Грег Касар предупредува на противречноста во настојувањето една држава да стекне воена предност преку технологија која истовремено може да создаде нови глобални ризици. Така, дебатата околу ВИ сè помалку се сведува само на прашањето колку брзо технологијата може да напредува.

Сè поважно станува прашањето кој ќе ги поставува границите, технолошките компании, државите, воените структури или законодавците – и колку човечка контрола ќе остане над системите што стануваат сè поспособни да носат и извршуваат одлуки.