Кинескиот регулатор за кибернетика предложи нови правила за засилен надзор на услуги на вештачка интелигенција (AI) кои симулираат човечки карактер и влегуваат во емоционална интеракција со корисниците. Ова ја нагласува намерата на Пекинг да ја регулира брзо растечката AI насочена кон корисници, со фокус на безбедност и етички стандарди.
Опфат на новите прописи
Новите правила ќе се применуваат на AI производи и услуги кои имитираат човечки карактер, мисловни обрасци и комуникација, вклучувајќи текст, слики, аудио и видео.
Провајдерите ќе треба да ги предупредуваат корисниците за прекумерна употреба и да интервенираат ако се појават знаци на зависност.
Безбедносни мерки и заштита на корисниците
Провајдерите ќе мора да воведат системи за ревизија на алгоритми, заштита на податоци и безбедност на лични информации.
Се очекува да се следат психолошките ризици: да се процени емоционалната состојба и зависноста на корисникот. Ако се откријат екстремни емоции или зависничко однесување, провајдерот мора да преземе мерки и да интервенира.
AI услугите нема да смеат да генерираат содржини кои го загрозуваат националниот интерес, шират гласини или промовираат насилство и непристојност.
