Државниот суд во Ново Мексико ѝ наложи на компанијата Мета да плати 567 милиони долари и да воведе сериозни промени во начинот на кој функционираат нејзините платформи за малолетни корисници, откако судот утврди дека компанијата придонесувала за штета врз менталното здравје на децата.

Одлуката ја донесе судијата Брајан Бидшид во Санта Фе, со која застана на страната на државниот обвинител на Ново Мексико, Раул Торез. Торез ја обвини компанијата дека ги дизајнирала своите производи така што кај младите корисници создаваат зависничко однесување, но и дека не презела доволно мерки за да ги заштити децата од сексуална експлоатација на своите платформи.

Судот оцени дека Мета создала т.н. „јавна штета“ во државата, а покрај финансиската казна ѝ наложи во следните пет години да спроведе низа мерки за поголема безбедност на младите.

Меѓу нив се и месечни ограничувања на користењето на Facebook и Instagram за тинејџери, ограничување на известувањата, построги правила за контакт меѓу возрасни и малолетници, дополнителни заштитни мерки за AI четботите, како и засилен преглед на пријавите поврзани со сексуална злоупотреба на деца.

Со други зборови, ако досега алгоритмот бил дизајниран да ве натера да останете „уште само пет минути“ на Instagram, судот во Ново Мексико сега сака тие пет минути да имаат малку повеќе ограничувања.

Одлуката доаѓа во време кога улогата на големите социјални мрежи во менталното здравје на децата е под сè поголем надзор. Особено се проблематични механизмите што го поттикнуваат континуираното користење на платформите, известувањата и алгоритмите што содржината ја приспособуваат за да го задржат корисникот што подолго.

Случајот, сепак, е многу поголем од една казна од 567 милиони долари. Тој отвора едно непријатно прашање за технолошките гиганти: дали платформата може да се смета за успешна ако е одлична во тоа да ве натера да не ја напуштите – дури и кога корисникот е дете? И токму тука битката меѓу профитот, алгоритмите и заштитата на најмладите допрва станува интересна.