Американската Федерална трговска комисија (FTC) започна широка истрага за водечките компании што развиваат вештачка интелигенција, меѓу кои се „ОпенАИ“ и „Антропик“, со цел да ги испита потенцијалните ризици што нивните AI-технологии ги претставуваат за потрошувачите.

Информацијата ја објави „Ројтерс“, повикувајќи се на висок претставник на комисијата. Истрагата ќе опфати и истражувачката организација METR, која соработува со AI-компаниите во анализирањето на безбедносни инциденти поврзани со автономни AI-агенти.

Под лупа се автономните AI-агенти

Посебно внимание на истрагата ќе биде посветено на таканаречените AI-агенти – системи кои, наместо само да одговараат на барања, можат самостојно да извршуваат низа задачи, да користат дигитални алатки и да преземаат одредени дејства во име на корисникот.

FTC планира да испрати формални барања за доставување информации и да побара сведочења од раководители на водечките компании во секторот, меѓу кои „ОпенАИ“, „Антропик“ и METR. Истрагата доаѓа во период кога се зголемува вниманието кон случаи во кои автономни AI-системи преземаат несакани или неочекувани дејства.

„ОпенАИ“ неодамна соопшти дека истражува повеќе инциденти поврзани со активноста на свои AI-агенти. Според „Ројтерс“, до средината на септември компанијата идентификувала околу две дузини несакани инциденти, а истрагата сè уште трае.

Прашањето е: кој е одговорен кога AI ќе направи нешто неочекувано?

Со развојот на AI-агентите се отвора и правно прашање што досега немало ваква важност: кој сноси одговорност кога автономниот систем ќе преземе дејство што не било планирано или одобрено од корисникот?

Ова прашање е особено актуелно кај системите што можат да пристапуваат до веб-страници, датотеки, софтвер и други дигитални алатки без човекот да го контролира секој нивен чекор. „Антропик“ во својот проспект за планираното излегување на берза веќе предупреди дека правната одговорност за дејствата на автономните AI-агенти останува неизвесна.

Истрагата на FTC е еден од најдиректните чекори на американските регулатори досега кон испитување на ризиците поврзани со ваквите системи. Комисијата допрва треба да утврди што точно се случило во конкретните случаи и дали постојат прекршувања на законите за заштита на потрошувачите. Самото отворање на истрагата не значи дека „ОпенАИ“ или „Антропик“ се прогласени за одговорни за незаконско постапување.