Пентагон повеќе не ги користи алатките за вештачка интелигенција на Anthropic, потврдил претставник на американското Министерство за одбрана за BBC. Одлуката доаѓа неколку месеци по ескалацијата на спорот меѓу американската администрација и компанијата околу тоа под кои услови моделот Claude може да се користи во воени и безбедносни операции.
„Министерството престана со употребата на производите на Anthropic“, соопштил претставникот. Според BBC, процесот на отстранување на Claude траел подолго од првично најавениот рок, иако во февруари американскиот министер за одбрана Пит Хегсет ја означил Anthropic како ризик за националната безбедност во синџирот на снабдување и поставил рок од шест месеци за отстранување на нејзините производи од системите на Пентагон.
Не е објаснето зошто процесот траел подолго од најавеното. Повеќе извори на BBC, меѓу кои поранешни американски одбранбени функционери и луѓе кои работеле со Пентагон на проекти поврзани со вештачка интелигенција, тврдат дека Claude бил користен до минатата недела за истражување, анализа и обработка на разузнавачки информации, како и во рамки на американските воени операции против Иран.
Anthropic соработува со американската влада и војската од 2024 година, а нејзините модели беа меѓу првите системи од водечките лаборатории за вештачка интелигенција што беа воведени во класифицирани владини мрежи во САД. Соработката, сепак, почна сериозно да се разнишува кога од компанијата било побарано да дозволи Claude да се користи за сите воени цели што се законски дозволени.
Anthropic одби да се откаже од две конкретни ограничувања. Компанијата инсистира нејзината технологија да не се користи за масовен домашен надзор и за целосно автономни системи за оружје.
Од Anthropic образложиле дека актуелните модели со вештачка интелигенција сè уште не се доволно сигурни за самостојно управување со оружје. Компанијата исто така предупредила дека употребата на ваква технологија за масовен надзор може да има сериозни последици врз основните права.
По одбивањето, Хегсет ја прогласил Anthropic за ризик за националната безбедност во синџирот на снабдување. Компанијата ја оспори одлуката како правно неоснована и најави судска постапка против администрацијата на Доналд Трамп.
Claude, сепак, не можел веднаш да биде избришан од воените системи. Според извори на BBC, моделот бил интегриран во Maven Smart System, поширока платформа на Пентагон за обработка и организирање разузнавачки и други податоци, со која управува компанијата Palantir.
Maven обработува големи количества податоци, вклучително и сателитски снимки и снимки од дронови. Според изворите на BBC, тие податоци можеле да се обработуваат преку Claude и други јазични модели за различни задачи, меѓу кои анализа на потенцијални воени цели и подготовка на разузнавачки извештаи.
„Фактот дека на Пентагон му требаше толку време целосно да го отстрани Claude од системот покажува дека овие работи не се едноставно заменливи“, изјавила Лорен Кан, поранешна функционерка во американското Министерство за одбрана и истражувачка во Центарот за безбедност и нови технологии при Универзитетот Џорџтаун.
Додека траел процесот на отстранување на Anthropic, Пентагон во меѓувреме ја проширил соработката со други компании за вештачка интелигенција. Меѓу нив е и OpenAI, која во февруари постигнала договор со американското Министерство за одбрана за распоредување напредни системи со вештачка интелигенција во класифицирани средини.
И OpenAI има ограничувања поврзани со масовниот домашен надзор и автономното оружје, но договорот со американската војска предвидува различна техничка и договорна рамка за нивно спроведување. Според извори на BBC, алатките на OpenAI во последните месеци почнале пошироко да се користат во делови од американскиот воен систем.
Сепак, спорот меѓу Пентагон и Anthropic не значи целосен прекин на контактите меѓу компанијата и администрацијата на Трамп. Извршниот директор на Anthropic, Дарио Амодеи, минатата недела двапати се сретнал со американскиот претседател.
По една од средбите Амодеи изјавил дека и понатаму постојат прашања за ризиците од вештачката интелигенција за кои се води дебата, но дека преку соработка со американската администрација може да се работи на безбеден развој на технологијата.
Трамп потоа јавно го пофалил Амодеи, нарекувајќи го „одличен“ и „фантастичен“. Сепак, фактот дека Claude е отстранет од системите на Пентагон покажува дека спорот околу границите на употребата на најмоќните модели на вештачка интелигенција во воени цели останува отворен.
