Истражувачи од компанијата Антропик предупредуваат дека помалите модели на вештачка интелигенција би можеле во блиска иднина да стекнат способност самостојно да се копираат на комерцијални уреди поврзани на интернет. Меѓу потенцијалните цели се паметни телевизори, домашни апарати и други уреди од таканаречениот интернет на нештата (ИоТ), кои често имаат послаба заштита од компјутерите и серверите.

Во експериментите истражувачите испитувале дали ВИ-моделите можат да пронајдат ранливи уреди, да се префрлат на нив и да продолжат да се шират без директна човечка интервенција. Резултатите покажале дека моделите со помалку од 30 милијарди параметри можат да извршат значителен дел од потребните чекори, иако сè уште се соочуваат со проблеми кога треба самостојно да го завршат целиот процес.

Од ранлив уред до автономно ширење

Во поедноставени тестови, во кои биле отстранети одредени безбедносни ограничувања, истражувачите забележале дека моделите ГЛМ-5.2 и посилните системи можат целосно да ја извршат саморепликацијата. Ова не значи дека секој актуелен ВИ-агент веќе може неконтролирано да се шири низ интернет, туку дека експериментите укажуваат на потенцијален ризик што би можел да стане посериозен со понатамошниот развој на технологијата.

За разлика од традиционалниот злонамерен софтвер, кој обично се потпира на однапред дефинирани инструкции и познати слабости, автономните ВИ-системи би можеле да се приспособуваат на нови ситуации и да препознаваат непознати уреди. Според предупредувањето на Антропик, во иднина би можеле да бараат и ранливи компјутерски ресурси во центри за податоци.

Еден од проблемите е што ваквите системи потенцијално би можеле да се шират без единствена централна точка од која би можеле да бидат исклучени. Доколку се копираат на повеќе уреди и продолжат автономно да бараат нови цели, нивното откривање и запирање би можело да стане значително посложено.

Зошто паметните уреди се особено ранливи?

Истражувањето се фокусирало на уреди како телевизори со Андроид, паметни домашни апарати и други производи поврзани на интернет. Дел од овие уреди добиваат безбедносни ажурирања поретко, користат застарен софтвер или имаат ограничени можности за заштита, што може да ги направи полесна цел за напади.

Ако помалите ВИ-модели продолжат да напредуваат со досегашното темпо, истражувачите предупредуваат дека до крајот на 2026 година би можеле да се појават системи способни за поавтономна саморепликација. Во подоцнежна фаза, слични способности би можеле да се појават и кај помали системи што користат параметри на моделите како основа за сопственото ширење.

Сепак, ваквото сценарио не е неизбежно, а резултатите од поедноставените експерименти не се доказ дека масовно ширење на самореплицирачки ВИ-агенти веќе се случува. Станува збор за предупредување за можен иден развој, а не за потврда дека технологијата е подготвена за неконтролирана употреба во реални услови.

Потребна е посилна заштита

Според Антропик, автономните ВИ-системи би можеле да се шират релативно бавно и да се потпираат на лесно достапни, но недоволно заштитени компјутерски ресурси. Токму затоа, заштитата на поврзаните уреди, редовното ажурирање на софтверот и отстранувањето на познатите безбедносни слабости би можеле да имаат важна улога во спречувањето на вакви сценарија.

Предизвикот за сајбер-безбедноста е да се подготви за системи што не само што извршуваат задачи, туку можат и самостојно да бараат нови цели и начини за продолжување на својата работа. Колку повеќе автономија добиваат ВИ-агентите, толку поважно станува нивното безбедно ограничување и контролирање.