Француските власти отворија истрага против платформата за вештачка интелигенција Grok, откако на социјалната мрежа X беа објавени илјадници сексуално експлицитни лажни (deepfake) содржини генерирани без согласност на лицата што се појавуваат на нив.
Француските пратеници Артур Делапорт и Ерик Ботерел на 2 јануари официјално му се обратија на обвинителството, по што случајот беше приклучен кон веќе постојна истрага против мрежата X. Според обвинителството, станува збор за кривично дело за кое е предвидена казна до две години затвор и парична казна до 60.000 евра.
Во изминатите денови, стотици жени, меѓу кои и малолетнички пријавиле дека нивни фотографии биле злоупотребени и дигитално „соблечени“ преку алатките на Grok, по директно барање од корисници на платформата. Станува збор за вештачки генерирани фотомонтажи кои, според пријавите, биле јавно споделувани и дополнително ширени на социјалните мрежи.
Во писмо до јавниот обвинител, во кое увид имал и Politico, пратеникот Делапорт наведува дека ваквите содржини „сериозно го нарушуваат достоинството и приватноста на лицата кои се прикажани“, додавајќи дека станува збор за форма на дигитално сексуално насилство.
Француската висока комесарка за права на децата, Сара Ел Ери, изјави дека е „длабоко згрозена“ од обемот и леснотијата со која ваквите содржини се создаваат и шират, особено кога жртви се малолетни лица.
Овој случај дополнително ја зајакнува истрагата што француската единица за сајбер криминал веќе ја води против мрежата X. Таа истрага во ноември беше проширена и на содржини поврзани со антисемитизам и негирање на Холокаустот, за кои исто така се тврди дека биле генерирани или поттикнати преку Grok.
Случајот повторно ги отвори прашањата за одговорноста на платформите за вештачка интелигенција, заштитата на личните податоци и потребата од построга регулација на генеративните алатки кои можат да се злоупотребат за сериозни повреди на човековите права во дигиталниот простор.
