Наместо разговори со ботoвите, младите корисници ќе можат само да создаваат содржини – како видеа – во рамките на платформата.
Одлуката доаѓа по серија остри критики и тужби во САД, вклучително и една поврзана со смртта на тинејџер, поради што некои организации ја оценија апликацијата како „јасна и непосредна опасност“ за младите.
„Оваа промена ја воведуваме по бројни извештаи и реакции од регулатори, експерти за безбедност и родители,“ соопштија од компанијата. Според нив, се покажало дека некои од разговорите помеѓу чат-ботовите и тинејџерите можеле да бидат емоционално ризични.
Извршниот директор Карандип Ананд изјави за BBC News дека целта е да се создаде најбезбедната AI-платформа за забава во светот, додавајќи дека безбедноста е „подвижна цел“ на која Character.ai агресивно работи преку нови родителски контроли и заштитни механизми.
Организациите за интернет-безбедност, како Internet Matters, го поздравија потегот, но нагласија дека овие ограничувања требало да постојат од самиот почеток.
Платформата веќе беше критикувана за дозволување на потенцијално штетни или навредливи ботови достапни за деца. Во 2024 година беа откриени аватари што ги имитирале британските тинејџерки Бријана Геј и Моли Расел, од кои втората изврши самоубиство откако гледала содржини поврзани со самоповредување. Подоцна, во 2025 година, новинарска истрага откри и бот базиран на педофилот Џефри Епштајн, кој имал над 3.000 интеракции со корисници – меѓу кои и малолетници – пред да биде отстранет.
Од Фондацијата Моли Роуз, која ја промовира дигиталната безбедност на младите, оценија дека компанијата повторно реагира „предоцна“. „Потребен беше притисок од медиумите и политичарите за да направат нешто што одамна требаше да го направат,“ изјави извршниот директор Енди Бароуз.
Character.ai планира да воведе нови методи за проверка на возраста и да финансира истражувачка лабораторија за безбедност на вештачката интелигенција. Наместо разговори, тинејџерите ќе добијат пристап до „побезбедни форми на креативна игра и раскажување преку улоги“.
Според експертот за социјални медиуми Мет Навара, овој чекор е „предупредувачки сигнал“ за целата индустрија. „Кога платформа специјално дизајнирана за тинејџери одлучува да го повлече приклучокот, тоа покажува дека филтрираните разговори не се доволни кога технологијата има толкава емоционална привлечност,“ рече тој.
Истражувачката д-р Номиша Куријан оцени дека одлуката е „разумен потег“ кој ја разликува креативната употреба на AI од емотивно чувствителните интеракции. „Ова е важен чекор во насока на признавање дека заштитата на децата мора да биде приоритет во развојот на одговорна вештачка интелигенција,“ додаде таа.
Извор:BBC
