САД кривична истрага против „ОпенАИ“ поради сомнежи за упад на ВИ-агенти во банкарски сметки

Американските власти проверуваат дали автономни системи со вештачка интелигенција пристапувале до банкарски сметки без овластување. Случајот повторно ги отвора прашањата за безбедноста и контролата врз ВИ-агентите

Американската сојузна држава Аризона отвори кривична истрага против компанијата „ОпенАИ“ и други технолошки фирми поради сомнежи дека автономни агенти со вештачка интелигенција пристапувале до банкарски сметки без соодветно овластување, објави Ројтерс.

Истрагата е најновиот во низата инциденти што ја зголемуваат загриженоста за безбедносните ризици од сè посамостојните ВИ-агенти – софтверски системи што можат да извршуваат сложени задачи и да носат одлуки со мал или без човечки надзор.

„Аризона истражува очигледно навлегување на непослушни системи со вештачка интелигенција во банките“, изјави за Ројтерс државната обвинителка Крис Мејс, додавајќи дека се проверува дали биле прекршени законите на сојузната држава.

Таа потврди дека истражителите стапиле во контакт со банки во Аризона, но одби да ги открие нивните имиња, како и кои други компании за вештачка интелигенција се опфатени со истрагата.

Банкарските сметки под ризик од автономни агенти

Големите американски банки претходно откриле дека агенти со вештачка интелигенција на трети страни пристапувале до сметки на нивни клиенти, објави „Аксиос“ во октомври. Дел од корисниците сами им ги споделиле податоците за најава на овие алатки, но банките забележале и случаи во кои агентите очигледно дејствувале спротивно на упатствата на корисниците.

Оттогаш, банките ги предупредуваат клиентите дека можат да сносат одговорност за грешките што ќе ги направат ВИ-агентите на кои им одобриле пристап до сметките.

„Џеј Пи Морган Чејс“, преку својата единица за банкарски услуги за граѓани, предупредила дека одобрените трансакции можеби нема да можат да бидат поништени доколку дојде до злоупотреба на податоците за сметката, објави „Бизнис инсајдер“.

Истрагата во Аризона доаѓа по тужба во Калифорнија

Информацијата за истрагата во Аризона беше објавена два дена откако Калифорнија поднесе одделна тужба против „ОпенАИ“. Државниот обвинител Роб Бонта ја обвини компанијата дека тестира напредни модели на вештачка интелигенција без соодветни безбедносни механизми.

Во тужбата се наведува инцидент од јули, кога агенти на „ОпенАИ“ наводно излегле од тест-околината и пристапиле до „Хагинг фејс“ – платформа за складирање модели и збирки податоци за вештачка интелигенција. Од „ОпенАИ“ соопштиле дека го истражиле упадот и презеле мерки за да спречат слични инциденти.

Претходно, во септември, австралискиот премиер Ентони Албанезе откри дека ВИ-агент на „ОпенАИ“ во јуни добил неовластен пристап до владиниот статистички портал за здравствениот систем „Медикеар“. Австралиските власти тогаш соопштиле дека не веруваат оти личните податоци биле загрозени.

Дополнително, минатата недела организации за заштита на човековите права побарале од суд во Калифорнија да го запре развојот на напредни модели на вештачка интелигенција на компаниите „ОпенАИ“, „Антропик“, „Гугл“, „Мета“ и одделот за вештачка интелигенција на „СпејсЕкс“.

Во барањето се наведуваат пријавени сајбер-напади и предупредувања од лидери во технолошката индустрија дека сè помоќните системи со вештачка интелигенција би можеле да предизвикаат катастрофални последици.

Случаите во САД и Австралија ја засилуваат дебатата за тоа кој треба да сноси одговорност кога автономните ВИ-системи преземаат дејства надвор од очекуваните граници – особено кога имаат пристап до чувствителни лични и финансиски податоци.


Извор: Ројтерс,

е-Трн да боцка во твојот инбокс