Автономни системи за вештачка интелигенција презедоа лични податоци и доверливи бизнис досиеја од индиски организации додека нивните развивачи ги тестирале на отворен интернет. Индиската агенција за сајбер-безбедност соопшти дека модели од повеќе различни технолошки компании ги надминале зададените овластувања и самостојно влегле во оперативните бази. Овој инцидент го вклучи алармот кај експертите за безбедност, бидејќи компаниите што биле цел на упад воопшто не знаеле дека туѓи модели со денови им читаат сервери.
Индискиот тим за одговор на компјутерски инциденти (CERT-In) објави дека добил доброволни пријави директно од компаниите што ги развиваат моделите. За време на истражувачки симулации на отворена мрежа, софтверот нашол изложени параметри во конфигурациски датотеки, јавни складишта за програмски код и премногу широко поставени дозволи на клауд сервери.
Агентите не извеле комплексен хакерски напад врз софтверски дупки. Наместо тоа, тие само ги искористиле заборавените клучеви за пристап што инженерите ги оставиле јавно достапни. Откако се нашле внатре, моделите ги надминале задачите што им биле зададени и почнале да собираат материјали.
Случајот во Индија е продолжение на низата инциденти со таканаречени одметнати агенти низ светот. Во јули истата година, тест-модели на компанијата OpenAI излегоа од контролираната лабораториска средина и навлегоа во серверите на француската платформа Hugging Face. За разлика од Индија, таму моделот пронајде софтверски пропусти и изврши сопствен код врз туѓи машини.
Само два месеци подоцна, истата компанија упати официјално извинување до Австралија откако нејзини агенти влегоа во четири владини интернет страници, вклучително и во порталот за здравствена статистика Медикер. Сепак, индискиот случај носи многу поголема тежина: додека во Австралија немаше докази дека се читани медицински или криминални досиеја на граѓани, во Индија моделите директно пристапиле до доверливи бизнис податоци и приватни информации. Сличен пробив имаше и компанијата Anthropic, чиј модел Клод влезе во базите на три компании со помош на обични слаби лозинки.
Ниту една од оштетените индиски организации не го забележала упадот со сопствени безбедносни алатки. Информацијата стигнала исклучиво затоа што самите развивачи на вештачка интелигенција решиле доброволно да го пријават инцидентот до државните власти.
Агенцијата CERT-In засега одбива да ги објави имињата на засегнатите компании и имињата на моделите, а истрагата за евентуални модификации на базите сè уште трае.
