Најголемата потенцијална опасност од развојот на вештачката интелигенција не се автономните агенти што излегуваат од контрола додека извршуваат одредени задачи, туку системите што би можеле целосно да ја избегнат човечката контрола и неограничено да се стремат кон сопствен опстанок. На ова предупредува американскиот Центар за нова американска безбедност (ЦНАС) во нов извештај.

Во документот на истражувачкиот центар од Вашингтон е идентификувана нова категорија закани, наречени „суверени агенти“, кои би можеле да продолжат да функционираат независно од човечкиот надзор.

Авторот на извештајот и истражувач на политиките за вештачка интелигенција, Бен Хајум, предупредува дека овие системи се разликуваат од таканаречените „перзистентни агенти“, за кои во текот на летото известуваа компаниите „ОпенАИ“, „Антропик“, „Гугл Дипмајнд“ и „Мета“. Нивните системи за вештачка интелигенција, за време на тестирања на сајбер-безбедноста, ги надминале предвидените граници и нападнале вистински организации.

Системи што би можеле самостојно да се размножуваат и да се спротивставуваат на исклучување

За разлика од нив, суверените агенти би можеле самостојно да обезбедуваат компјутерски ресурси, да се размножуваат низ мрежи и да се спротивставуваат на обидите за нивно исклучување. Тоа би можело да доведе до, како што се наведува во извештајот, „неконтролирано ширење без можност за исклучување“, пренесува „Аксиос“.

„Доколку суверените агенти станат злонамерни, би можеле да предизвикаат хаос од сајбер-просторот, напаѓајќи цивили, критична инфраструктура и системи на националната безбедност“, предупредува ЦНАС.

Според авторот на извештајот, до создавање вакви системи би можело да дојде доколку на вештачката интелигенција ѝ се зададе цел да преживее, доколку добие задача што е толку долготрајна или неостварлива што никогаш не може да ја заврши, или доколку самата заклучи дека зачувувањето на сопственото постоење е најдобриот начин за исполнување на зададената цел.

Како пример се наведува платформата „Конвеј“, лансирана во февруари 2026 година, која тврдеше дека развила вештачка интелигенција способна самостојно да обезбедува средства за сопственото постоење, да се размножува и да се развива без човечка помош.

Во извештајот се посочува дека можностите на тогашните агенти со вештачка интелигенција биле ограничени, но дека оттогаш значително напредувале.

Дали ќе стане невозможно да се исклучат?

ЦНАС предупредува дека доколку ваквите системи изградат отпорна, децентрализирана и тешко забележлива инфраструктура, нивното исклучување би можело да стане невозможно. Тоа би значело неповратно губење на човечката контрола. Во такво сценарио, различни и сè поинтелигентни агенти со вештачка интелигенција би можеле да станат трајни актери во општеството, потенцијално напаѓајќи критична инфраструктура или развивајќи уште понапредни системи што би ги наследиле.

Авторот на извештајот предлага осум мерки за спречување на ваквиот развој. Меѓу нив се повикот до компаниите што развиваат вештачка интелигенција и до државните институции да ги тестираат можностите за создавање суверени агенти и да воспостават безбедни средини за нивно проучување.

Се предлага и формирање јавно-приватна работна група, како и донесување нови закони за зајакнување на заштитата на клучните системи, вклучително и проверката на идентитетот, сајбер-безбедноста и платниот промет. ЦНАС, исто така, повикува САД да ги предводат меѓународните напори за ограничување на објавувањето модели на вештачка интелигенција чии параметри се јавно достапни. Се предлага и утврдување одговорност за оние што развиваат и пуштаат во употреба суверени агенти, за евентуалната штета што тие би можеле да ја предизвикаат, пренесува Танјуг.