Нов извештај на европската непрофитна организација AI Forensics открива постоење на големи и организирани мрежи за злоупотреба на платформата Telegram, каде илјадници корисници дистрибуираат и продаваат нелегална и некоцентна сексуална содржина низ повеќе европски земји, вклучувајќи ги Шпанија и Италија.
Според анализата, која опфатила околу 2,8 милиони пораки во 16 групи во период од шест недели, идентификувана е мрежа од речиси 25.000 корисници кои систематски разменуваат ваков тип материјал, при што дел од содржината вклучува и екстремни случаи на злоупотреба. Истражувањето покажува дека не станува збор за изолирани инциденти, туку за „екосистем на злоупотреба на голем размер“, каде што содржината се шири преку повеќе платформи и држави без ограничување.
Материјалот најчесто се добива од приватни комуникации на други апликации како Instagram и WhatsApp, по што се препакува, дистрибуира и монетизира. Во некои случаи, пристапот до каналите се наплаќа со еднократни плаќања до 50 евра или месечни претплати од околу 5 евра, што укажува на комерцијализација на злоупотребата.
Извештајот посочува дека дел од каналите користат и автоматизирани алатки за генерирање фалсификувани или манипулирани слики, познати како „nudifying“ системи, со цел зголемување на обемот на нелегална содржина. Овој модел овозможува брзо проширување на мрежите, зголемување на бројот на жртви и лесна репликација на содржината преку различни платформи, вклучувајќи и социјални мрежи како TikTok и Instagram.
Според податоците, содржината достигнала околу 52.000 корисници во Европа, од кои 27.000 во Италија и 25.000 во Шпанија, што укажува дека проблемот има јасна прекугранична димензија. Истражувачите нагласуваат дека ова не е национален проблем, туку структурен европски ризик кој бара заеднички регулаторен одговор.
Извештајот доаѓа во период кога Европскиот парламент веќе дискутира построги мерки за забрана на системи базирани на вештачка интелигенција кои создаваат некоцентна или манипулирана сексуална содржина. Организацијата препорачува European Commission да ја класифицира платформата Telegram како „Very Large Online Platform“ според Законот за дигитални услуги (DSA), што би значело построги обврски за транспарентност и контрола на ризиците.
Од Telegram наведуваат дека содржината од ваков тип е забранета според правилата на платформата и дека постојат системи за модерација и пријавување, како и можности за блокирање на корисници и канали во случаи на сериозни прекршувања. Сепак, истражувањето тврди дека групите често се обновуваат веднаш по нивно бришење, што ја доведува во прашање ефикасноста на постоечките механизми за контрола.
Овој случај ја отвора пошироката дебата за тоа дали постоечките модели на модерација на дигиталните платформи се доволни во услови на масовна, комерцијализирана и прекугранична злоупотреба. Европските институции се под сè поголем притисок да воспостават построги правила, додека технолошките платформи се соочуваат со прашањето на одговорност во дигиталниот простор кој сè повеќе излегува од контрола.
