Четботот за поддршка на компанијата Meta бил искористен од хакери за да се преземат контроли врз неколку Instagram профили, вклучително и високо профилирани сметки, покажуваат нови безбедносни истраги и извештаи од медиуми. Инцидентот отвори сериозни прашања за тоа колку може да се верува на вештачката интелигенција кога таа има пристап до системи за управување со кориснички сметки.

Според истрагите, напаѓачите успеале да го измамат AI системот на Meta така што тој извршувал акции како додавање нови електронски адреси и иницирање ресетирање на лозинки, без соодветна верификација на идентитетот на корисникот. На тој начин биле заобиколени дел од безбедносните протоколи, вклучително и заштитни механизми како двофакторска автентикација во одредени случаи.

Меѓу погодените сметки, според извештаи, се наоѓаат и профили поврзани со поранешни јавни личности и институции, што дополнително ја засили загриженоста кај експертите за сајбер-безбедност. Дел од компромитираните сметки подоцна биле искористени за објавување содржини или препродажба на нелегални пазари.

Meta соопшти дека проблемот е саниран и дека нема индикации за директен упад во нејзините внатрешни системи, но призна дека ранливоста во AI системот овозможила злоупотреба. Компанијата истовремено најави дополнителни безбедносни проверки и подобрувања на начинот на кој AI алатките комуницираат со корисничките сметки.

Експертите предупредуваат дека случајот е пример за растечки ризик кога вештачката интелигенција се користи во чувствителни операции како автентикација и ресетирање лозинки, без доволно строги проверки на идентитетот.