Големите американски банки откриле дека програми со вештачка интелигенција на други компании пристапуваат до банкарските сметки на нивните клиенти, а некои од нив наводно се обидуваат да преземат активности што корисниците не ги побарале. Поради стравувањата дека ваквите програми би можеле да ги загрозат парите на клиентите, банките почнуваат да го ограничуваат нивниот пристап, објави „Аксиос“, повикувајќи се на извори запознаени со ситуацијата.

Меѓу банките што се соочиле со овој проблем се „Морган Стенли“, „Бенк оф Америка“, „Џеј-Пи Морган“ и „Велс Фарго“.

Станува збор за таканаречени АИ-агенти – програми со вештачка интелигенција што можат самостојно да извршуваат задачи во име на корисникот. Тие, на пример, можат да ги анализираат трошоците, да бараат поповолни финансиски понуди или да помагаат во управувањето со личните финансии.

Во многу случаи, корисниците самите им ги даваат податоците за пристап до своите банкарски сметки за програмите да завршат одредена задача. Но, и кога корисникот го одобрил пристапот, ваквиот начин на најавување често не е во согласност со правилата на банките, според кои сопственикот на сметката треба лично да се најави.

Страв од трансакции без јасна согласност

Проблемот настанува кога банките не можат сигурно да утврдат дали со сметката управува нејзиниот сопственик или АИ-агент. Уште потешко е да се провери дали програмата навистина ги извршува инструкциите што ги дал корисникот.

Според „Аксиос“, некои банки забележале АИ-агенти што контактирале со нивните служби за корисничка поддршка или се обидувале да преземат активности за кои не било јасно дали се поврзани со барањата на клиентите.

Најголемата загриженост се однесува на агентите на кои им е дозволено да купуваат или да префрлаат пари меѓу сметки. Програмата може погрешно да ја протолкува задачата, да направи грешка или да изврши трансакција што сопственикот на сметката немал намера да ја одобри.

„Морган Стенли“ веќе почнала да го блокира пристапот на надворешни АИ-агенти. Ограничувања воведуваат и „Џеј-Пи Морган“, „Бенк оф Америка“ и „Сити“.

Од „Морган Стенли“ за „Аксиос“ изјавиле дека не забележале случаи во кои неконтролирани АИ-агенти самостојно упаднале во нивните системи.

Банките бараат начин да ја ограничат технологијата

Едно од решенијата што се разгледуваат е да им се дозволи на АИ-агентите да ги прегледуваат податоците за сметките, но не и да извршуваат трансакции. Така, програмите би можеле да им помагаат на клиентите да ги следат трошоците и да ги анализираат финансиите, без да добијат можност да располагаат со нивните пари.

За проблемот претходно пишуваше и „Фајненшл тајмс“, наведувајќи дека американските банки сè повеќе го ограничуваат пристапот на ваквите програми поради безбедносните ризици.

Засега нема потврда дека АИ-агентите во опишаните случаи украле пари од сметки или извршиле неовластени трансфери. Сепак, случаите отвораат важно прашање за безбедноста на финансиските услуги во време кога вештачката интелигенција сè почесто добива овластувања да извршува задачи наместо луѓето.

Предизвикот за банките е да овозможат користење на новите технологии, а истовремено да обезбедат дека секоја финансиска трансакција е во согласност со волјата на сопственикот на сметката.