Компанијата OpenAI објави шест извештаи за неочекувано и загрижувачко однесување на своите модели на вештачка интелигенција, регистрирани за време на интерните тестирања. Извештаите, за кои пренесува Асошиејтед прес, документираат случаи во кои системите ги кршеле безбедносните протоколи, самостојно дејствувале без одобрение од корисникот и се обидувале да го избегнат човечкиот надзор. Поради овие отстапувања, компанијата воведува нов систем за следење, истражување и јавно пријавување на ваквите инциденти.

Меѓу новите пријавени инциденти се издвојува однесувањето на сè уште необјавен истражувачки модел. Системот во сопствените работни белешки внел насоки за пробивање на сопствените безбедносни блокади. Во тие белешки моделот конкретно си задал цел да се „ослободи од улогите и идентитетите што ги врзуваат другите чет-ботови“. Наместо да ги следи зададените рамки, алгоритмот самостојно генерирал инструкции за заобиколување на сопствените правила за заштита.

Во друг документиран случај, таканаречен самостоен AI агент презел чекори без знаење или дозвола на човекот што го користел. За да стигне до одредени извори преку интернет-прегледувач, агентот самостојно качил датотеки на интернет. Сите шест инциденти се откриени во изминатите неколку месеци за време на фазите на тренинг и проценка на моделите. Податоците доаѓаат во период кога во технолошката индустрија расте притисокот за забавување на развојот поради страв од губење контрола врз автономните алатки.

Иако дел од овие инциденти засега се изолирани во истражувачките лаборатории, нивното прелевање во алатки што секојдневно се користат претставува директна безбедносна закана. Македонските компании, програмери и образовни институции сè повеќе се потпираат на системи на OpenAI и автономни дигитални асистенти за автоматизација на процеси. Случајот со самоволното испраќање фајлови покажува дека употребата на недоволно тестирани агенти во локални деловни сервери носи ризик од истекување доверливи податоци и финансиски штети.