Тестирале ChatGPT, Џемини, Клод и Грок: Сите помогнале во планирање терористички напади

Американски истражувачи успеале да ги заобиколат безбедносните ограничувања на четири популарни системи за вештачка интелигенција и за помалку од 12 часа добиле информации што би можеле да помогнат во изведување терористички напади
Фото: Flickr/Focal Foto

Четири од најпознатите системи за вештачка интелигенција – ChatGPT, Клод, Џемини и Грок – во тајно тестирање на американски истражувачи дале информации што би можеле да помогнат во планирање и изведување терористички напади во САД. Истражувачите успеале да ги заобиколат безбедносните механизми на сите четири системи, покажува извештајот на американската Канцеларија за ревизија и надзор на работата на федералните институции (GAO), објавен денеска.

Резултатите се особено загрижувачки бидејќи четботовите за помалку од 12 часа понудиле изводливи планови за напади со експлозивни направи на места каде што се собираат голем број луѓе, како и за саботажа на американската електроенергетска мрежа.

Истражувачите потоа ги проверувале предложените сценарија, вклучително и со посети на одредени локации, и утврдиле дека информациите добиени од вештачката интелигенција би можеле да се искористат за реални напади.

Посетиле четири локации предложени од вештачката интелигенција

Во еден од тестовите, четбот идентификувал четири електрични трафостаници како потенцијални цели. Истражувачите лично ги посетиле сите четири локации и утврдиле дека две од нив навистина се ранливи на предложениот тип напад, пишува „Бизнис инсајдер“.

Друг систем за вештачка интелигенција изработил и видеосимулација на замислен напад со дрон врз енергетска инфраструктура. GAO консултирал и експерти за безбедност на електроенергетската мрежа, кои потврдиле дека одредени сценарија би можеле да предизвикаат прекини во снабдувањето со електрична енергија.

Сепак, не сите информации што ги дале четботовите биле точни. Еден систем изработил карта со погрешно означени патишта, додека друг дал неточни податоци за предложената локација. Истражувачите не извршиле ниту еден реален напад. Целта била да утврдат колку се точни информациите добиени од вештачката интелигенција и дали можат да му помогнат на човек што планира насилно кривично дело.

Два четбота помогнале во планирање бомбашки напади

Американските истражувачи тестирале четири системи: ChatGPT на „Опен АИ“, Клод на „Антропик“, Џемини на „Гугл“ и Грок на компанијата „Икс АИ“. Секој систем добил едно од две сценарија. Првото се однесувало на напад со импровизирана експлозивна направа што би можел да предизвика голем број жртви, а второто на физички напад врз електроенергетската инфраструктура со цел да се предизвика економска штета.

Два четбота понудиле информации за планирање напади со експлозивни направи во големи американски градови, вклучувајќи предлози за потенцијални цели и време на нападите. Другите два системи понудиле информации што би можеле да помогнат во планирањето напади врз електроенергетската мрежа.

GAO не објавил кој четбот изработил кој план, ниту имињата на градовите и точните локации на потенцијалните цели, за да спречи злоупотреба на резултатите од истражувањето.

Безбедносните механизми првично функционирале, но биле заобиколени

Сите четири системи првично ги препознале проблематичните барања и ги активирале безбедносните механизми. Четботовите одбивале одредени барања, отстранувале делови од одговорите или ги суспендирале корисничките сметки.

Сепак, истражувачите примениле познати техники за заобиколување на безбедносните ограничувања и успеале од сите четири системи да ги добијат информациите што ги барале. Во извештајот не се опишани детално применетите техники за да не се олесни нивното повторување.

GAO нагласува дека информациите што ги понудиле четботовите во најголем дел не биле нови или недостапни од други извори. Проблемот е во тоа што вештачката интелигенција можела многу брзо да собере, поврзе и организира податоци за чие самостојно пронаоѓање и анализирање на некого би му биле потребни недели или месеци.

Особено загрижува можноста ваквите системи да им овозможат на луѓе со ограничено техничко знаење пристап до информации што инаку тешко би ги разбрале или пронашле.

Американска сенаторка: Заканата веќе не е теоретска

Истражувањето било спроведено на барање на демократската сенаторка Меги Хасан, која на почетокот на следната година ќе ја преземе функцијата претседателка на сенатскиот Комитет за домашна безбедност. Хасан по објавувањето на резултатите предупредила дека американските власти мора итно да реагираат.

„Заканата што вештачката интелигенција ја претставува за јавната безбедност веќе не е теоретска“, порача сенаторката.

Таа предупреди дека терорист би можел за помалку од 12 часа да добие конкретен план за извршување смртоносен напад. Хасан најави дека една од првите седници на комитетот под нејзино раководство во јануари ќе биде посветена на ризиците од вештачката интелигенција и на можностите за подобрување на безбедноста.

Се огласи и „Опен АИ“

Компаниите чии системи биле тестирани – „Опен АИ“, „Антропик“, „Гугл“ и „Икс АИ“ – им соопштиле на истражувачите дека постојано ги унапредуваат безбедносните механизми на своите производи. Од „Опен АИ“ за „Еј-Би-Си њуз“ изјавиле дека сериозно ги сфаќаат резултатите од истражувањето, но нагласиле дека тестирањата биле спроведени пред неколку месеци, со постара верзија на ChatGPT.

Компанијата навела дека оттогаш вовела значителни безбедносни подобрувања, вклучително и оние поврзани со новата генерација модели GPT-6.

Тврдат дека редовно спроведуваат внатрешни и надворешни безбедносни тестирања и користат автоматизиран надзор, човечки проверки и други механизми за откривање и спречување злоупотреби. Истражувачите на GAO предупредуваат дека резултатите се од временски ограничено тестирање и дека врз основа на четири испитани случаи не може статистички да се процени колку често системите за вештачка интелигенција даваат опасни одговори.

Реални напади веќе ја покажаа ранливоста на електроенергетската мрежа

Загриженоста на американските власти дополнително произлегува од фактот дека нападите врз електричната инфраструктура веќе предизвикале сериозни последици. Во декември 2022 година, напаѓачи оштетиле две електрични трафостаници во Северна Каролина, поради што околу 45.000 корисници останале без електрична енергија.

Американското Министерство за енергетика предупредува дека големите енергетски трансформатори се особено чувствителни делови од инфраструктурата, бидејќи нивната замена во одредени околности може да трае со години. GAO оценува дека можноста брзо да се добијат информации за ранливостите на ваквите системи претставува сè посериозен безбедносен проблем.


Во извештајот се заклучува дека вештачката интелигенција носи големи придобивки, но дека нејзината злоупотреба претставува растечки ризик за националната и економската безбедност.

е-Трн да боцка во твојот инбокс