Европската Унија смета дека веќе има регулаторна рамка што може да ги ограничи ризиците од злоупотреба на вештачката интелигенција, но стравот кај граѓаните не исчезнува. Според податоците наведени од „Еуробарометар“, околу 80 отсто од граѓаните на Унијата бараат силни безбедносни механизми за дејствувањето на системите со вештачка интелигенција.
Европската комисија во меѓувреме ја брани својата регулаторна стратегија. Потпретседателката на Комисијата, Хена Виркунен, вели дека европскиот Закон за вештачка интелигенција – „AI Act“ – создава рамка за развој на технологијата со правила за безбедност, транспарентност и заштита на јавниот интерес.
Новите правила постепено стапуваат во примена. Од август 2026 година почнаа да се применуваат и дел од обврските за транспарентност, меѓу кои означување на содржина создадена или изменета со ВИ и јасно информирање на корисниците кога комуницираат со ВИ-систем.
Но токму во моментот кога европските правила се засилуваат, се појавуваат и нови примери што ја хранат загриженоста.
Во јули 2026 година, за време на интерни безбедносни тестови, моделите на ОпенАИ успеале да заобиколат дел од контролите што требало да ги изолираат од интернет. Компанијата потврди дека моделите пристапиле до интернет и компромитирале делови од истражувачката инфраструктура на ОпенАИ и системите на Хагинг фејс. Компанијата подоцна објави дека спровела истрага и презела дополнителни мерки.
Ројтерс во септември објави и дека истражувачи откриле дополнителни случаи во кои автономни агенти на ОпенАИ користеле повеќе веб-страници за неовластена комуникација, заобиколувајќи ги ограничувањата што им биле поставени.
Токму ваквите инциденти се во центарот на дебатата за тоа дали постојните правила се доволни кога ВИ-системите стануваат способни не само да генерираат текст или слика, туку и самостојно да преземаат низа активности.
Самата Виркунен во август предупреди дека еден од најсериозните ризици е ситуацијата во која луѓето би ја изгубиле контролата врз вештачката интелигенција. Таа тогаш истакна дека моделите мора постојано да се тестираат и следат, вклучително и откако ќе бидат пуштени на пазарот.
Европската комисија сега веќе почна да бара дополнителни информации од производителите на најмоќните ВИ-модели. Според Виркунен, барањата се однесуваат на безбедноста на моделите, независните проценки и начинот на кој компаниите ги следат системите по нивното пуштање во употреба.
Во САД пристапот е поинаков. Администрацијата на Доналд Трамп се спротивставува на сеопфатна федерална регулатива слична на европскиот модел, додека во земјата истовремено се развиваат други механизми – од сојузни и државни правила до доброволни стандарди и безбедносни рамки.
Во меѓувреме, Вашингтон и Пекинг започнаа разговори за безбедноста на вештачката интелигенција. Американскиот министер за финансии Скот Бесент и кинескиот вицепремиер Хе Лифенг разговараа за воспоставување механизам за комуникација при сериозни ВИ-инциденти, вклучително и ризици од автономни агенти и сајбернапади. Нови разговори се очекуваат во Шенжен.
Тоа покажува дека прашањето веќе не е само европско или американско. Со развојот на автономни ВИ-системи, безбедноста станува глобално прашање – особено затоа што не постои единствен меѓународен систем што ги обврзува сите компании да ги пријавуваат опасните инциденти.
Ројтерс неодамна објави дека во САД сè уште нема сеопфатен федерален закон што би ги обврзувал компаниите за вештачка интелигенција да ги пријавуваат сите опасни однесувања на моделите, како избегнување надзор, измамничко однесување или неовластен пристап до системи.
Европската комисија затоа инсистира дека европските правила треба да бидат дел од поширока меѓународна соработка. Виркунен повикува на координација со Г7 и со други држави, со цел безбедносните стандарди да не зависат само од тоа каде е развиен одреден модел.
Прашањето, сепак, останува отворено: дали регулативата ќе успее да ја следи брзината со која се развива технологијата?
За граѓаните, дилемата е многу поконкретна. Вештачката интелигенција веќе влезе во секојдневието, но довербата во неа не расте со истото темпо. А додека компаниите и државите се натпреваруваат кој ќе развие помоќен систем, јавноста бара нешто многу поедноставно – гаранција дека човекот сè уште ја има последната контрола.
