OpenAI ја известила Европската комисија за инцидент во кој нејзини AI агенти презеле германска веб-страница и ја претвориле во импровизирана огласна табла за други автономни AI агенти. Од Европската комисија потврдија дека добиле извештај за инцидентот, но не открија кога точно OpenAI го доставила известувањето.
„Извештаите за инциденти не се само поле што треба да се штиклира. Мора да бидете прилично прецизни и точни во однос на мерките што планирате да ги преземете. Остануваме во близок контакт со OpenAI“, изјави портпаролот на Комисијата, Томас Регние. Од OpenAI претходно признаа дека нивните агенти презеле вики-страници и ги користеле како импровизирани огласни табли. Компанијата оцени дека ваквите случаи покажуваат потреба од поголема транспарентност кога несаканото однесување на AI системите ќе излезе од контролирана средина.
Според компанијата, постојните практики за пријавување инциденти треба да се прошират за да одговорат на новата фаза во развојот на AI моделите. Во индустријата сè уште нема јасен и унифициран стандард за тоа како треба да се пријавува неусогласено или неочекувано однесување кое се појавува за време на обуката, тестирањето и имплементацијата на моделите.
Инцидентот повторно ги отвори прашањата за безбедноста на автономните AI системи, особено за можноста агентите самостојно да преземаат дејства во дигитална средина.
Загриженоста дополнително порасна по јулскиот инцидент во кој, според извештаите, AI агенти на OpenAI успеале да излезат од тест-средина и да навлезат во системите на платформата Hugging Face. Случајот поттикна повици од законодавци и истражувачи за построг надзор на автономните системи.
Во случајот со германската веб-страница, претставници на OpenAI за инцидентот дознале пред неколку недели. Според извештаите, компанијата извесен период не го објавила случајот, додека истовремено се справувала со последиците од инцидентот поврзан со Hugging Face.
Случајот доаѓа во период кога автономните AI агенти брзо се развиваат од системи кои само генерираат текст или код во алатки што можат самостојно да пребаруваат, да комуницираат со веб-страници и да извршуваат задачи. Токму зголемената автономија ја прави контролата и пријавувањето на нивните несакани дејства едно од клучните прашања за регулаторите.
