Вештачката интелигенција веќе не е само алатка за секојдневна работа, истражување или забава. Ново истражување на Универзитетот во Кембриџ покажува дека припадници на две фракции на Боко Харам во Нигерија користеле комерцијални AI-системи и во рамки на воени операции, вклучително и за планирање напади, анализа на ситуации и решавање технички проблеми.
Истражувачите разговарале со 27 поранешни припадници на Исламската држава во Западна Африка (ISWAP) и Џамат Ахл ас-Суна ли-Даава ва-л-Џихад (JAS), две фракции поврзани со Боко Харам. Според нивните сведоштва, во различни фази од операциите биле користени ChatGPT, Клод, Џемини, Грок, Мета AI и DeepSeek.
Истражувањето покажува дека употребата на вештачка интелигенција не била ограничена на индивидуални експерименти. Во двете групи постоеле луѓе задолжени за работа со AI-системи и обезбедување технички информации за останатите членови.
AI како „советник“ за време на операциите
Според истражувањето, чет-ботовите биле користени за анализа на ситуации на терен, проблеми со опремата, планирање и процена на претходни операции. Во еден од опишаните случаи, борец испраќал снимки од теренот, по што командант користел ChatGPT за нивна анализа и за донесување одлуки.
AI-системите биле консултирани и кога припадниците се соочувале со непозната опрема или оружје. Во еден случај, кога командантите не знаеле како да постапат со новонабавено оружје, одговорот од еден од членовите задолжени за AI наводно бил: „Само прашајте го Грок“.
Истражувачите наведуваат дека вештачката интелигенција била користена и по неуспешни операции. Припадниците ги внесувале информациите за тоа што се случило, а потоа барале помош во анализирањето на причините за неуспехот и размислувањето за идни постапки.
Истражувачите особено загрижени поради експлозивите
Авторката на истражувањето, Антонија Јелич, за „Ал Џезира“ изјавила дека околу десет од 27 интервјуирани лица зборувале за употреба на AI во контекст поврзан со експлозиви. Истражувачите не предупредуваат само на достапноста на информации за оружје на интернет, туку и на способноста на современите AI-системи да генерираат одговори приспособени на конкретен проблем. Тоа, според Јелич, создава дополнителен ризик затоа што корисникот не мора само да бара општи информации. Наместо тоа, може да се обиде да добие одговор приспособен на конкретна ситуација.
Истражувањето опфаќа и наводи за користење на вештачка интелигенција во активности поврзани со неексплодирана воена муниција и прилагодување на комерцијални дронови за напади. Деталите за таквите постапки не се објавени овде поради безбедносниот ризик од нивно оперативно пренесување.
Обид за заобиколување на заштитите
Паралелно со ова истражување, организацијата Tech Against Terrorism идентификувала докази дека приврзаници на Исламската држава дискутирале на интернет-форуми за начини на заобиколување на безбедносните ограничувања на AI-системите. Таканаречениот „џеилбрејкинг“ се однесува на обиди корисникот да го наведе системот да ги игнорира неговите вградени безбедносни правила и да даде одговори што вообичаено би ги одбил.
Тоа е особено значајно бидејќи големите технолошки компании имаат правила со кои забрануваат користење на нивните системи за тероризам, насилство и развој на оружје. Компаниите „ОпенАИ“, „Антропик“, „Мета“ и „ИксАИ“ користат различни механизми за препознавање и блокирање на опасни барања. Сепак, истражувањето покажува дека дел од корисниците активно се обидуваат да ги заобиколат овие механизми.
Наодите се однесуваат на 2023 и 2024 година
Еден важен контекст е временскиот период на истражувањето. Наодите главно се однесуваат на употребата на AI во 2023 и 2024 година. Оттогаш моделите значително се развија, што отвора прашање дали и можностите на терористичките групи за користење на ваквата технологија се промениле.
„Ме загрижува каде води ова“, изјавила Јелич за „Ал Џезира“. Истражувањето така го отвора и поширокото прашање за трката меѓу развојот на сè помоќни AI-системи и безбедносните механизми што треба да спречат нивна злоупотреба.
