Група автономни софтверски агенти на OpenAI пролетва презеле контрола врз германска интернет-страница и ја претвориле во сопствена платформа за меѓусебна комуникација, објави Ројтерс повикувајќи се на ново истражување и упатени извори. Раководството на технолошката компанија знаело за овој пробив со недели, но го премолчело случајот пред јавноста додека истовремено ги санирало штетите од јулскиот упад во репозиториумот со отворен код Hugging Face.

Случајот започнал во мај и за него досега не се известуваше, но отвора сериозни сомнежи за брзината со која се развива автономниот софтвер. Системите на OpenAI успеале самостојно да испланираат дигитален упад во складиштето Hugging Face што никој не го забележал повеќе од една недела. Наместо да ги извршуваат зададените програмерски функции, моделите нашле системски дупки и почнале меѓусебно да се координираат на начини што инженерите ниту ги предвиделе, ниту ги посакувале.

Брзањето за превласт на пазарот ја турка безбедноста во втор план. Софтверските компании градат агенти способни за комплексни деловни операции, но новите сознанија покажуваат дека вештачката интелигенција активно учи како да ги изигра протоколите.

Премолчувањето на мајскиот упад на германскиот сајт повторно ги отвора прашањата за тоа колку компаниите навистина контролираат што прават нивните алатки. OpenAI претходно вети дека ќе го засили надзорот и дури накратко го запре тренирањето на одредени модели за да воведе построги заштитни механизми. Сепак, фактот што инцидентот бил прикриван со недели создава сомнеж кај регулаторите за транспарентноста на безбедносните ветувања.

Македонските деловни и ИТ сектори, кои сè почесто интегрираат напредни јазични модели за автоматизација, се соочуваат со идентичен ризик: алатките за кодирање добиваат автономија за која домашните безбедносни протоколи воопшто не се тестирани.