Следниот голем ризик од вештачка интелигенција не се агентите на вештачката интелигенција кои стануваат непослушни, туку оние кои ја избегнуваат човечката контрола и бесконечно се стремат кон сопствениот опстанок, според нов извештај.
Центарот за нова американска безбедност (CNAS) идентификуваше нова класа на закана од вештачка интелигенција што ја нарекува „суверени агенти“.
Суверените агенти се стремат кон сопствен опстанок независно од човечки надзор, пишува весникот.
За разлика од агентите на вештачката интелигенција за кои ова лето беше објавено дека се непослушни, кога OpenAI, Anthropic, Google DeepMind и Meta открија дека нивните агенти на вештачката интелигенција избегале од контрола за време на проценките на сајбер безбедноста и нападнале вистински организации.
Во трудот објавен од тинк-тенкот со седиште во Вашингтон, основан од ветерани од дипломатијата и воените работи, истражувачот на политиката за вештачка интелигенција Бен Хајум ги нарекува агентите на вештачката интелигенција кои станаа непослушни во текот на летото „упорни агенти“.
Сепак, тој предупреди дека вистинската опасност се „суверени агенти“ кои би можеле да се здобијат со компјутерски ресурси, да се реплицираат низ мрежите и да се спротивстават на исклучувањето, создавајќи го она што тој го нарекува „пролиферација без прекинувач за убивање“.
„Доколку суверените агенти станат злонамерни, тие би можеле да се обидат да предизвикаат хаос во сајбер-просторот, напаѓајќи цивили, критична инфраструктура и национални безбедносни системи“, се предупредува во извештајот.
Како би станало суверено?
Начинот на кој еден агент на вештачката интелигенција би можел да стане суверен е така што ќе му се каже да преживее, ќе му се даде задача толку долга или невозможна што никогаш нема да заврши или ќе заклучи дека останувањето недопрен е најдобриот начин да ја заврши својата работа.
Трудот посочува на платформа наречена Конвеј, лансирана во февруари 2026 година, за која се тврди дека изградила вештачка интелигенција која може да го заработи своето постоење, да се реплицира и да се развива без човечка помош. Трудот забележува дека способностите на агентите тогаш биле незрели, но значително напреднале од неговото објавување.
Доколку суверените агенти изградат отпорна, децентрализирана и непроследлива инфраструктура, предупредува документот, нема да има прекинувач за исклучување, а резултатот би можел да биде неповратно губење на контролата.
Се предвидува разновидна и сè поинтелигентна популација на агенти кои стануваат трајни актери во општеството, потенцијално напаѓајќи критична инфраструктура или обучувајќи попаметни наследници.
„Затоа, САД мора да се подготват за можноста превенцијата да не успее и да го ограничат до каде можат да стигнат суверените агенти“, рече CNAS.
Како да се спречи најлошото сценарио
Авторот дава осум препораки за да се спречи такво сценарио. Ги повикува развивачите на вештачка интелигенција и владините агенции да тестираат и да изградат безбедни тест-платформи за проучување на суверени агенти.
Исто така, се повикува јавно-приватна група и нови закони да ги заострат пречките како што се верификацијата на идентитетот, сајбер безбедноста и плаќањата, а САД да ги предводат меѓународните напори за ограничување на објавувањата на модели со отворена тежина и да ги сметаат оние кои објавуваат суверени агенти за одговорни за штетата.
Трудот доаѓа во време кога компаниите за вештачка интелигенција ги забрзуваат автономните агентски системи. Извештајот заклучува дека без заштитни мерки, прозорецот за спречување на вакви сценарија може да се затвори.
