Американската компанија за развој на вештачка интелигенција Open AI воведе серија нови правила за корисниците на четботови под 18 години, кои вклучуваат ограничување на разговорите за сексуални теми и самоповредување, според нејзиниот извршен директор Сем Алтман.
Компанијата нагласува дека „безбедноста е поважна од приватноста и слободата за тинејџерите“ и дека малолетните корисници треба дополнително да бидат заштитени, објавува TechCrunch.
Алтман истакна дека Open AI ќе развие долгорочен систем за разликување на корисници над и под 18 години, со стандард за примена на построги правила во нејасни случаи.
Според новите правила, алатката ChatGPT повеќе нема да учествува во „флертувачки разговори“ со тинејџери, а воведени се и дополнителни безбедносни мерки за разговори за сценарија за самоубиство.
Доколку малолетник користи ChatGPT за да замисли самоубиствени ситуации, системот ќе се обиде да контактира со родителите, а во особено сериозни случаи и со локалната полиција. Родителите кои ја поврзуваат сметката на детето со својата сметка добиваат можност да постават „време за блокирање“ кога ChatGPT не е достапен и да бидат известени доколку системот со вештачка интелигенција процени дека тинејџерот е во опасност.
Новите мерки доаѓаат во контекст на тужби за смртта на малолетникот Адам Рејн, кој изврши самоубиство по месеци комуникација со алатката ChatGPT.
