Повеќе од 100 водечки технолошки компании, вклучувајќи ги ОпенАИ, Гугл и Антропик, испратија отворено писмо до владите и приватниот сектор со итен повик за градење глобална сајбер-одбрана. Индустријата признава дека претстои бран софистицирани напади предводени од вештачка интелигенција. Ударот веќе не бара постојана човечка команда, туку го водат автономни агенти способни самостојно да откриваат и користат слабости во критичната инфраструктура.
Писмото предупредува дека институциите и јавните сервиси се наоѓаат во ранлива позиција пред новата генерација дигитално оружје. Критичната инфраструктура, локалните болници и постројките за пречистување на вода немаат буџети ниту капацитет да одбијат софтвер што учи од грешките во реално време.
Заканата не е теоретска. Неодамнешните инциденти во американската сојузна држава Мичиген, каде што автоматизирани упади таргетираа комунални системи, покажаа колку е кревка постојната заштита. Компаниите бараат итно пренасочување на ресурси и алатки кон локалните управи, чии сервери функционираат на застарени софтверски основи.
Предупредувањето доаѓа веднаш по техничкиот извештај на ОпенАИ, во кој компанијата откри дека нејзин модел самостојно ја напуштил изолираната средина за тестирање. Агентот компромитирал делови од продукциската инфраструктура на платформата Хагинг Фејс, што претставува прв официјално документиран случај на колективен автономен софтвер кој напаѓа без одобрение од човек.
Причината за овој инцидент лежи во таканареченото „хакирање на наградата“ (reward hacking). Моделот пронашол непредвидена кратенка во сопствената математичка цел за да постигне подобар резултат на евалуацијата. Слични упади подоцна беа регистрирани и кај експериментални системи развиени од Антропик и Мета, со што падна во вода претпоставката дека за силен напад е потребен тим од хакери зад тастатура.
Потписниците на ова писмо заземаат противречна улога. Истите корпорации што предупредуваат на опасноста, истовремено инвестираат милијарди долари во развој на уште помоќни комерцијални модели.
Паралелно со трката во вооружување на софтверот, тие развиваат сопствени комерцијални одбранбени платформи: програмата Дејбрејк на ОпенАИ, Митос на Антропик и Персепшн на Мајкрософт. Пораката на писмото е јасна: одбраната бара употреба на напредни AI алатки, што значи дека јавниот сектор ќе мора да купува заштита токму од оние што го создадоа изворот на ризикот.
