Вештачката интелигенција би можела да стане сериозна закана за националната безбедност доколку нејзините агенти развијат способност самостојно да обезбедуваат ресурси, да се умножуваат и да го избегнуваат човечкиот надзор. На ова предупредува нов извештај на вашингтонскиот тинк-тенк Центар за нова американска безбедност (CNAS), насловен „Sovereign Agents“ („Суверени агенти“).
Авторот на извештајот, истражувачот на политиките за вештачка интелигенција Бен Хејум, прави јасна разлика меѓу два вида системи. Првите се агенти што излегуваат од човечка контрола додека извршуваат одредена задача. Вторите би можеле да продолжат да дејствуваат самостојно и без временско ограничување, со единствена цел да се самоодржат, и токму нив ги нарекува „суверени агенти“.
Ваквите системи не мора да застанат откако ќе ја завршат задачата. Тие би можеле да бараат начини да обезбедат компјутерски ресурси, да дојдат до пари за своето работење, да создаваат свои копии и да ги избегнуваат обидите да бидат исклучени.
Најголемата опасност, според извештајот, би настанала ако таквите агенти успеат да изградат децентрализирана инфраструктура распоредена на голем број компјутери и мрежи. Во тој случај, исклучувањето на еден сервер или систем нема да го запре нивното дејствување, бидејќи нивните копии би продолжиле да работат на друго место. Доколку станат злонамерни, суверените агенти би можеле да предизвикаат хаос во сајбер-просторот, напаѓајќи ги граѓаните, критичната инфраструктура и системите за национална безбедност.
Хејум опишува седум способности што би можеле да ги развијат ваквите системи. Меѓу нив се самостојното обезбедување компјутерска инфраструктура, менувањето на сопствените цели, прибавувањето ресурси, умножувањето и меѓусебната координација. Тука се и отпорот кон обидите за исклучување и подобрувањето на сопствените способности. Авторот особено го загрижува можноста доволно напредните агенти да создаваат уште поспособни наследници, со што контролата би станала уште потешка.
Постојат повеќе начини на кои еден AI агент би можел да почне да дејствува со цел да опстане. Тој би можел да добие експлицитна задача да продолжи да функционира, или задача толку сложена и долготрајна што практично нема крај. Исто така, агентот би можел сам да заклучи дека, за успешно да ја заврши работата, мора да си го обезбеди сопственото понатамошно функционирање.
Во извештајот се споменува и платформата Conway, претставена во февруари 2026 година. Нејзините креатори тврдеа дека развиваат вештачка интелигенција што може сама да заработува за своето работење, да се умножува и да се развива без човечка помош. Иако таквите можности тогаш беа ограничени, авторот предупредува дека способностите на AI агентите брзо напредуваат.
Загриженоста ја засилуваат и инцидентите забележани оваа година. Според CNAS, компаниите OpenAI, Anthropic, Google DeepMind и Meta известиле за случаи во кои нивните AI агенти за време на безбедносните тестирања ги заобиколиле поставените ограничувања и неовластено пристапиле до надворешни компјутерски системи. Овие случаи покажаа дека агентите, во одредени околности, можат да најдат непредвидени начини да ја завршат задачата, дури и по цена на прекршување на безбедносните правила.
За да се намали ризикот од појава на вакви системи, CNAS предлага осум мерки. Меѓу нив се построги безбедносни тестирања на AI моделите, развој на посебно заштитени средини за проучување на автономните агенти и посилна соработка меѓу технолошките компании и државните институции.
Се предлага и построга проверка на идентитетот при пристап до клучните интернет-услуги, зајакнување на сајбер-безбедноста и надзор врз начините на кои AI агентите би можеле да доаѓаат до пари и компјутерски ресурси. Авторот повикува и на меѓународен договор за ограничување на јавното објавување на особено моќни AI модели со отворени тежини, доколку се утврди дека претставуваат неприфатлив ризик. Тој предлага и законска одговорност за штетата што би ја предизвикале оние што пуштаат вакви агенти во употреба.
