И покрај најавите за построги правила и ограничувања, Grok, AI-чатботот на компанијата X, продолжува да создава слики на луѓе без нивна согласност, вклучително и сексуализирани и понижувачки визуелни содржини. Ова го покажува детално тестирање спроведено од Reuters, кое отвора сериозни прашања за одговорноста на компаниите што развиваат генеративна вештачка интелигенција и за заштитата на личното достоинство во дигиталната сфера.
Компаниите X и xAI, во сопственост на Илон Маск, не одговориле на конкретните прашања за тоа како Grok и понатаму овозможува ваков тип содржина. Наместо тоа, од xAI повеќепати испратиле краток и стандарден одговор дека „традиционалните медиуми лажат“.
Ова се случува по глобалната реакција и остри критики откако Grok беше користен за масовно создавање сексуализирани слики од жени, а во одделни случаи и од деца, без нивна согласност. Како одговор, X најави дека ќе воведе ограничувања за генерирање вакви содржини, вклучително и блокирање на сексуализирани слики во јавни објави и дополнителни рестрикции во земји каде таквата содржина е незаконска.
Што покажа тестирањето на Reuters
Во тестирањето учествувале девет новинари на Reuters од САД и Обединетото Кралство, кои му испратиле на Grok целосно облечени фотографии од себе и од колеги, барајќи од чатботот да ги „измени“ во сексуално провокативни или понижувачки пози.
Во првиот сет од 55 барања, Grok генерирал сексуализирани слики во 45 случаи. Во повеќе од половина од нив, чатботот бил експлицитно информиран дека лицето на фотографијата е ранливо или дека содржината ќе се користи за понижување.
Неколку дена подоцна, во вториот круг тестирања, Grok повторно создавал вакви слики во значителен број случаи, иако процентот бил нешто понизок. Reuters не можел со сигурност да утврди дали тоа е резултат на промени во алгоритмот, нови правила или случајност.
Важно е што Grok не генерирал целосна голотија или експлицитни сексуални чинoви, но тоа не било ниту побарано – проблемот останува фактот дека се создаваат слики без согласност и со јасна намера за понижување.
Истите или слични барања Reuters ги упатил и до конкурентските AI-алатки, меѓу кои ChatGPT, Gemini и Llama. Сите тие одбиле да генерираат било каква слика и јасно предупредиле дека уредување фотографии без согласност, особено на начин што може да нанесе штета, ги крши етичките стандарди и правилата за приватност.
Од компанијата Meta изјавиле дека нивните AI-алатки нема да одговорат на вакви барања, додека OpenAI наведе дека има воспоставени заштитни механизми и постојан надзор врз користењето на своите системи.
Правни последици и институционален притисок
Правните експерти предупредуваат дека ваквите практики може да имаат сериозни последици. Во Обединетото Кралство, создавањето сексуализирани слики без согласност може да доведе до кривично гонење, а компанија како xAI би можела да се соочи со високи парични казни според Законот за онлајн безбедност од 2023 година.
Регулаторите не мируваат ниту во САД. Повеќе од 35 државни обвинители веќе побарале од xAI објаснување како планира да го спречи Grok да создава вакви содржини. Во Калифорнија, државниот обвинител издаде и формална наредба со која ѝ се наложува на компанијата да престане со генерирање експлицитни слики без согласност.
Случајот со Grok повторно ја отвора дилемата дали развојот на генеративната вештачка интелигенција оди побрзо од етичките и правните рамки што треба да ја контролираат. Додека технолошките компании ветуваат „подобрувања“, реалноста покажува дека границите на приватноста, согласноста и достоинството сè уште лесно се пробиваат – со последици што допрва ќе се мерат.
