Истражувачи од Универзитетот Делавер и Хефеи развија нов AI модел кој предвидува кои кратки видеа и коментари можат да поттикнат суицидни мисли, пред видеата да станат вирални. Моделот комбинира медицински знаења за ризик фактори со образци од реални TikTok и Douyin видеа и коментари, создавајќи систем за рано предупредување за платформите.
За разлика од класичните алгоритми за модерирање, системот одделно ги анализира објавите и реакциите на гледачите. AI препознава познати медицински теми, како безнадежност и самоповредување, како и нови трендови, на пример опасни предизвици и „вирални видеа за скршено срце“ кои можат да предизвикаат емоционална интензивност кај ранливите корисници.
Таквите видеа можат да содржат глума, реални исповеди или монтажа на пораки и фотографии, а моделот ги идентификува како потенцијално ризични поради можноста да ја зголемат осаменоста, безвредноста или чувството на безнадежност кај ранливите гледачи.
Истражувањето покажува дека моделот надминува други напредни алатки на големи податоци од TikTok/Douyin и открива медицински релевантни теми поврзани со ризик од суицид. AI служи како филтер кој приоритизира сомнителни видеа за човечки модератори, наместо автоматско бришење, со што се намалува бројот на опасни видеа кои можат да останат непроверени и се олеснува работата на тимовите за модерирање.
