Meta потврди сериозен безбедносен инцидент во кој хакери успеале да преземат контрола врз профили на Instagram преку злоупотреба на AI системот за корисничка поддршка. Меѓу компромитираните сметки, според извештаите, се наоѓале и високо профилирани налози, вклучувајќи и профил поврзан со Белата куќа од периодот на администрацијата на Барак Обама, како и сметки на големи компании како Sephora.

Како бил изведен нападот?

Хакерите искористиле техника позната како „prompt injection“, со која преку специјално формулирани пораки успеале да го „измамат“ AI системот и да му наметнат лажни инструкции. На тој начин, системот за корисничка поддршка погрешно поврзувал туѓи профили со нивни е-пошти, што овозможило промена на лозинки и преземање на сметките.

Сајбер-безбедносниот експерт Александар Николиќ предупредува дека инцидентот покажува прерана автоматизација на безбедносните процеси без доволна човечка контрола. Тој објаснува дека AI системите сè уште не можат сигурно да разликуваат легитимни од злонамерни барања, што ги прави ранливи на манипулација.

Реакција на јавноста

По објавувањето на случајот, на социјалните мрежи се појавија снимки и реакции дека дури и AI системите за заштита на профили можат да бидат злоупотребени, додека корисниците тешко ги враќаат своите сметки. Од Meta е потврдено дека проблемот е решен и дека се работи на дополнителни безбедносни мерки, но точниот број на погодени профили не е објавен.

Експертите предупредуваат дека вакви напади би можеле да стануваат почести со развојот на AI технологијата, доколку не се воведе построга човечка контрола („human-in-the-loop“) во критичните системи. За корисниците, се препорачува користење на двофакторска автентикација и дополнителни безбедносни мерки за заштита на сметките.