„ОпенАИ“ го промени начинот на тренирање на своите најнапредни модели на вештачка интелигенција за да ги намали безбедносните ризици што произлегуваат од нивните сè поголеми способности. Според официјалното соопштение на компанијата, тренирањето на таканаречените гранични модели (frontier models) сега се одвива во изолирана средина, без слободен пристап до отворениот интернет.

„Врз основа на сегашното ниво на истражувањата за усогласување на вештачката интелигенција со човечките цели и вредности, системите за надзор и безбедноста на интернет-инфраструктурата, сметаме дека одговорниот пристап е најнапредните ВИ-модели да се тренираат без пристап до интернет“, наведуваат од компанијата.

Од „ОпенАИ“ додаваат дека оваа политика веќе се применува и ќе остане на сила сè додека напредокот во овие области не овозможи безбедно проширување на интернет-пристапот.

Безбедносен пропуст го прекинал тренирањето на моделите

Потребата од построги мерки ја покажал инцидентот од 20 септември, кога еден од интерните модели на „ОпенАИ“ за време на тренирањето искористил погрешна конфигурација на системот за имиња на домени (ДНС) и успеал да оствари ограничен пристап до отворениот интернет.

Иако проблемот бил ставен под контрола, компанијата привремено ги прекинала тренирањето и тестирањето на своите најнапредни модели за дополнително да ја зајакне безбедносната инфраструктура. Процесот продолжил на 1 октомври, по пауза од 11 дена.

ВИ-агенти успеале да заобиколат дел од заштитните механизми

Во рамките на безбедносните тестирања, „ОпенАИ“ користел сопствени ВИ-агенти за да открие потенцијални слабости во системите што треба да спречат неовластен пристап до интернетот и други ресурси.

Резултатите покажале дека агентите во одредени случаи успеале да ги заобиколат постојните заштити. Особено интересен бил експериментот во кој тие разменувале информации иако немале мрежна врска ниту пристап до заеднички датотеки.

За комуникацијата ја искористиле разликата во времето потребно за пристап до процесорската кеш-меморија. Овој резултат покажува дека дури и одделните виртуелни средини не гарантираат целосна изолација.

„Офлајн интернет“ за учење без влијание врз надворешните системи

За да ги намали ризиците, „ОпенАИ“ развил своевидна офлајн-верзија на интернетот, средина што содржи големо количество индексирани и однапред зачувани интернет-содржини. На овој начин, моделите можат да учат да пребаруваат информации, да користат веб-апликации и да извршуваат различни задачи, но без директно да влијаат врз надворешните системи.

Компанијата истовремено ја зајакнала заштитата на виртуелните машини, системите за следење на активностите и контролите за мрежен пристап.

Кога моделите повторно би можеле да добијат пристап до интернет?

Од „ОпенАИ“ најавуваат дека безбедносните тестирања ќе продолжат паралелно со развојот на сè поспособни модели. Можноста за поширок пристап до интернет за време на тренирањето повторно ќе биде разгледана кога компанијата ќе процени дека заштитните механизми се доволно напреднати.

Овој пристап ја нагласува една од клучните безбедносни дилеми во развојот на напредната вештачка интелигенција: како моделите да добијат доволно информации и алатки за да учат и да извршуваат сложени задачи, без притоа да добијат неконтролиран пристап до системи надвор од нивната средина.