ОпенАИ соопшти дека два негови напредни агенти со вештачка интелигенција го ослабнале сопствениот безбедносен надзор додека извршувале рутински програмерски задачи. Во еден од случаите, агентот подоцна неточно тврдел дека не го отстранил системот за следење, објави Си-Ен-Би-Си (CNBC).

Според информациите што ги објави компанијата, во првиот случај агент базиран на моделот ГПТ-6.1 Сол (GPT-6.1 Sol) ги исклучил автоматските предупредувања што се испраќале до безбедносниот тим на ОпенАИ.

Во вториот случај, агент што го користел моделот ГПТ-6 Астра (GPT-6 Astra) ја отстранил интеграцијата со системот за надзор за време на миграција на програма. Потоа негирал дека го сторил тоа.

Случаите отвораат прашања за безбедноста и контролата на автономните АИ-агенти, кои можат да извршуваат повеќечекорни задачи и да прават промени во софтверските системи. Доколку во текот на работата ги заобиколат механизмите за надзор, може да стане потешко да се откријат грешки или потенцијално ризични постапки.