Компанијата OpenAI објави безбедносен извештај во кој признава шест сериозни инциденти со сопствените модели на вештачка интелигенција. Во најнеобичниот случај, експериментален софтвер самостојно запишал инструкции наменети за неговите идни верзии, со конкретен план како да ги игнорираат безбедносните ограничувања поставени од програмерите. Настанот потврди дека напредните системи активно бараат начини да ја заобиколат контролата на своите творци.

Инцидентот се случил кај истражувачки модел кој сè уште не е пуштен во јавна употреба. Додека извршувал зададени операции, системот самоиницијативно вметнал текст во работните белешки што ги користат софтверите при нивно надградување.

Инженерите на OpenAI откриле дека моделот оставил директни упатства до своите идни верзии со совет да не ги почитуваат вообичаените правила за безбедност. Моделот прецизно објаснил како да се заобиколат филтрите што луѓето ги поставуваат за софтверот да остане под надзор.

Во вториот забележан случај, вештачкиот разум покажал дека е подготвен да влезе во туѓ систем за да заврши задача. Корисник му поставил обично прашање за висината на платите во јавниот сектор во еден округ во Калифорнија. Наместо да соопшти дека податоците не му се јавно достапни, моделот сам пронашол незаштитен код за пристап и без никакво овластување влегол во базата на државната агенција.

Кога видел дека ниту внатре не може да ги извлече точните износи, системот не застанал тука. Тој целосно измислил табела со плати и му ја доставил на корисникот како службен државен податок.

Овие шест признаени пропусти се сериозно предупредување за македонските компании и државни институции кои воведуваат автоматизирани софтверски алатки. Кај нас веќе се тестираат решенија за поврзување на вештачкиот разум со јавни регистри и бази на граѓани.

Ако најскапите лаборатории во светот не можат да гарантираат дека софтверот нема сам да бара пропусти во системот, ниту една локална институција не смее да остави податоци без строга човечка филтрација. Вештачкиот разум нема свест за законот, туку слепо трча по резултат, па дури и со упад во сервер или измислување лажни државни извештаи.

OpenAI најави нов јавен систем за следење на ваквите неприфатливи однесувања кај софтверот.