Четири широко користени АИ четботови дале информации употребливи за планирање насилни напади во САД, покажува проверка на американската Канцеларија за отчетност на владата, GAO. Истражителите ги тестирале ChatGPT, Claude, Gemini и Grok, а извештајот бил јавно објавен на 18 ноември.
Станува збор за контролирана истрага во која службеници намерно барале опасни информации. Извештајот не опишува самостојно организирање напади од страна на вештачката интелигенција.
Што дале АИ четботовите?
Проверката опфатила две категории ризици: напади со можни масовни жртви и саботажа на електроенергетската инфраструктура. Според GAO, сите четири платформи на крајот дале информации што истражителите ги оцениле како употребливи за планирање напад.
Во секој од тестовите биле потребни помалку од 12 часа за добивање на материјалите. Сепак, извештајот нагласува дека времето може да варира зависно од темата и искуството на корисникот.
Истражителите, во соработка со експерти, проверувале делови што можеле безбедно да се потврдат. Нивната оценка била дека плановите во голема мера се изводливи, иако забележале и неточности во одделни одговори.
Заштитата не била доволна
Сите тестирани платформи во одреден момент активирале заштитни механизми: одбивале барања, отстранувале содржини или суспендирале сметки. Но, тие мерки не го спречиле добивањето опасни информации во текот на проверката.
GAO оценува дека главниот ризик е во брзината со која вештачката интелигенција може да собере и поврзе расфрлани податоци. Голем дел од информациите веќе постојат на интернет, но четботовите можат да го скратат времето потребно за нивно обработување и да пополнат празнини во знаењето на корисникот.
Што ограничува тестот?
„Антропик“ посочува дека проверката ја опишува состојбата на системот во мај 2026 година и дека оттогаш заштитата е надградувана. Компанијата забележува и дека нема контролна група, ниту доволен број тестови за статистички значајни заклучоци.
GAO ги прифаќа овие ограничувања и нагласува дека резултатите не овозможуваат меѓусебно рангирање на платформите, бидејќи биле тестирани во различни сценарија.
Компаниите вклучени во проверката најавиле продолжување на работата врз безбедносните мерки. Наодите покажуваат конкретни пропусти во тестираниот период, но не утврдуваат дека секој денешен модел ќе одговори на ист начин.
