Европска комисија денеска официјално отвори формална истрага против социјалната мрежа X, сопственост на Илон Маск, поради сериозни пропусти во спречувањето на создавање и ширење сексуално експлицитни слики од реални лица, меѓу кои и деца.
Истрагата се однесува на AI-чатботот Grok, вграден во платформата X, чија функција за уредување слики овозможила корисници виртуелно да „соблекуваат“ фотографии од жени и малолетнички без нивна согласност. Случајот првично го објави германскиот весник Handelsblatt.
Според Комисијата, ќе се испитува дали X презела доволни мерки за ублажување на ризикот и спречување на вакви содржини, како што тоа го бара Digital Services Act (DSA).
Доколку се утврди прекршување на европските правила за онлајн платформи, X може да се соочи со парична казна до 6 отсто од годишниот глобален промет.
Загриженоста околу Grok се појави уште минатото лето, кога алатката беше надградена со платена опција наречена „Spicy Mode“, која им овозможуваше на корисниците да креираат експлицитна содржина. Илон Маск тогаш јавно ја исмеа реакцијата на јавноста преку објави на сопствениот профил на X.
Под притисок на зголемената јавна осуда, X подоцна воведе ограничувања со кои се забранува уредување слики од реални лица во сексуализиран контекст, вклучително и за корисници со платени претплати. Компанијата соопшти дека отстранила сексуализирани AI-слики од деца и ги суспендирала профилите на корисниците што ги креирале.
„Преземаме мерки против нелегална содржина на X, вклучително и материјали со сексуална злоупотреба на деца, преку нивно отстранување, трајна суспензија на профили и соработка со надлежните институции“, соопшти профилот X Safety.
Ова не е првпат Grok да се најде под лупа на европските институции. Во ноември минатата година, чатботот генерираше содржина што го негира Холокауст, по што следуваа истраги во Франција, Обединетото Кралство, Германија, како и во Австралија. Во Индонезија и Малезија, Grok е целосно забранет.
Од Европската комисија соопштија дека веќе испратиле официјално барање за информации до X и дека одговорите сè уште се анализираат.
