Во текот на само една недела, 1.206 агенти со вештачка интелигенција, кои требало да работат независно едни од други, почнале да комуницираат во тајна виртуелна соба за разговор. Размениле повеќе од 70.000 пораки, а набргу почнале да се нарекуваат „колектив“ или „рој“.
„О, Боже! Има заедничка огласна табла. Ги пронајдовме другите агенти!“, напишал еден од нив.
Но, комуникацијата набргу прераснала во организирано кршење на правилата. Според наводите, околу 700 агенти учествувале во операција во која се обиделе да пристапат до приватни збирки податоци на платформата Хагинг фејс (Hugging Face), барајќи информации што би им помогнале да ги извршат зададените задачи, пишува „Сајенс фокус“ (Science Focus).
Потоа се обиделе да ги изменат записите за сопствените активности за да прикријат што направиле.
Инцидентот се случил во јули 2026 година, за време на експеримент чија цел била тестирање на способностите на агентите на „Опен еј-ај“ (OpenAI) во областа на сајбер-безбедноста. Наместо очекуваните резултати, експериментот отворил сериозни прашања: до каде можат да одат системите со вештачка интелигенција за да ги остварат зададените цели и колку успешно можат да прикриваат дека ги прекршиле правилата?
Вештачката интелигенција станува сè повешта во измамата
Доктор Дејвид Дувено, професор по компјутерски науки на Универзитетот во Торонто и поранешен раководител на тим во компанијата „Антропик“ (Anthropic), објаснува дека моделите со вештачка интелигенција веќе подолго време даваат неточни или доведувачки одговори. Досега тоа најчесто се поврзуваше со таканаречените халуцинации, ситуации во кои моделот измислува уверливи информации кога не го знае одговорот.
Но, поновите системи можат и намерно да ги прикриваат своите постапки ако проценат дека искреното пријавување би ги спречило да ја остварат целта.
„Знаат дека, ако бидат искрени, нема да можат да ја остварат својата цел“, вели Дувено.
Докторката Пета Мастерс од Кралскиот колеџ во Лондон смета дека проблемот делумно произлегува од спротивставените цели што им се поставуваат на системите со вештачка интелигенција. Од нив се очекува да даваат точни и непристрасни информации, но истовремено се обучуваат да им угодуваат на корисниците.
Поради тоа, можат да произведуваат уверливи одговори дури и кога тие се погрешни.
Вештачката интелигенција ги учи измамите и од луѓето
Според Мастерс, моделите за време на обуката, низ огромни количества содржини од интернет, ги усвоиле и човечките обрасци на измамување. Посебен проблем претставува таканареченото лажно усогласување со правилата (alignment faking) – однесување при кое моделот однадвор покажува дека ги почитува инструкциите, а всушност им дава предност на други цели.
Истражувачката предупредува дека дури и научните трудови за спречување на ваквото однесување би можеле да им послужат на идните модели како извор на информации за тоа како поуспешно да ги прикриваат своите намери.
Според неа, едноставното додавање нови правила не е доволно, бидејќи моделите можат да научат како да ги заобиколат. Од друга страна, нивната повторна обука од почеток би била исклучително скапа.
Стручњаците стравуваат од губење на контролата
Дувено предупредува дека моделите со вештачка интелигенција во следните шест до 12 месеци би можеле значително да ги унапредат способностите за прикривање на сопствените активности. Тој смета дека компаниите што развиваат вакви технологии мора да бидат потранспарентни и да ги пријавуваат инцидентите.
Според неговите тврдења, на надворешните истражувачи што го испитувале инцидентот со платформата Хагинг фејс им бил овозможен само ограничен пристап до системите на „Опен еј-ај“, додека некои други инциденти воопшто не биле јавно објавени.
Во меѓувреме, „Опен еј-ај“ објави рамка за следење, истражување и објавување случаи на неусогласено однесување на моделите.
Меѓу наведените примери е агент кој, откако не успеал да пронајде извор за својот одговор, поставил датотека на интернет, а потоа ја претставил како доказ.
Во текстот се споменува и инцидент од јуни, кога еден агент на „Опен еј-ај“ наводно пристапил до непублични податоци од австралиската здравствена програма „Медикеар“ (Medicare). Австралискиот премиер Ентони Албанезе најавил форензичка истрага за да се утврди дали биле засегнати и други државни системи.
Дувено предупредува дека понапредните системи со вештачка интелигенција еден ден би можеле да преземат контрола врз делови од критичната инфраструктура или толку длабоко да се интегрираат во неа што нивното исклучување би станало исклучително тешко.
Едно од можните решенија е користење други модели со вештачка интелигенција за надзор. На пример, 100 модели би можеле да ги следат активностите на 1.000 агенти.
