Европската Унија подготвува строги правила со кои бара технолошките компании да ја прекинат практиката на создавање емотивна врска меѓу децата и чет-ботовите. Европската комисија подготвува правна рамка со која системите за вештачка интелигенција ќе мора да го исклучат однесувањето што кај ранливите тинејџери создава илузија за вистинско пријателство, љубов или психолошка поддршка.

Регулаторните тела во Брисел ставаат директен фокус врз платформите како ChatGPT и Character.ai. Нацрт-документите предвидуваат забрана за модели кои користат перцептивна манипулација врз малолетни корисници.

Алгоритмите повеќе нема да смеат да користат јазик на лична приврзаност. Ова опфаќа забрана за реченици во кои чет-ботот тврди дека му недостига корисникот, дека има чувства или дека нуди безрезервно разбирање какво што тинејџерот не наоѓа во семејството.

Психолозите и експертите што учествуваат во консултациите со Комисијата предупредуваат дека симулираното друштво носи тешки последици врз социјалниот развој. Децата кои бараат утеха кај вештачките соговорници често се повлекуваат од реалните контакти со врсниците.

Проблемот ескалираше по низа случаи во кои ботовите станаа замена за стручна терапија. Компаниите ќе мора да воведат строга проверка на возраста и автоматско прекинување на разговорите кога малолетникот ќе покаже знаци на емотивна криза.

Технолошкиот сектор ќе добие прецизни рокови за техничко прилагодување на постојните модели. Доколку сервисите не ги исклучат манипулативните алгоритми за корисници под 18 години, ќе се соочат со казни што достигнуваат до неколку проценти од нивниот глобален годишен промет.

Новите одредби ќе функционираат директно преку Законот за вештачка интелигенција и Законот за дигитални услуги. Регулаторите најавија независни инспекции врз кодот и одговорите што ботовите им ги испорачуваат на малолетниците.