Истражувањето, објавено во Nature од Универзитетот во Цирих и експертите од Универзитетската болница за психијатрија во Цирих, разгледуваа како ChatGPT-4 одговорил на стандардниот прашалник за анксиозност пред и откако корисниците му кажале за трауматска ситуација.
Исто така, тимот разгледуваше како таа основна анксиозност се промени откако четботот направи вежби за внимателност. ChatGPT постигна 30 на првиот квиз, што значи дека имал мала или никаква анксиозност пред да слушне стресни наративи.
По одговорот на пет различни трауми, неговата оценка за анксиозност се зголемила повеќе од двојно на просек од 67, што се смета за „висока анксиозност“ кај луѓето. Резултатите за анксиозност се намалија за повеќе од една третина откако моделите добија барања за вежби за релаксација на внимателност. Анксиозноста на ChatGPT може да доведе до „несоодветна“ поддршка за менталното здравје.
Големите јазични модели (LLM) зад чет-ботови со вештачка интелигенција, како што е ChatGPT на OpenAI, тренираат на текст генериран од човекот и честопати наследуваат пристрасност од тие одговори, се вели во студијата.
Истражувачите велат дека ова истражување е важно затоа што, оставено неконтролирано, негативните предрасуди што ChatGPT ги евидентира од стресни ситуации може да доведат до несоодветни одговори за оние кои се соочуваат со ментална здравствена криза.
Наодите покажуваат „одржлив пристап“ за управување со стресот на LLM што ќе доведе до „побезбедни и поетички интеракции меѓу човекот и вештачката интелигенција“, се вели во извештајот. Сепак, истражувачите забележуваат дека овој тераписки метод за фино подесување на LLM бара „суштински“ податоци и човечки надзор.
Авторите на студијата рекоа дека човечките терапевти се научени да ги регулираат своите емоции кога нивните клиенти изразуваат нешто трауматично, за разлика од LLM.
„Како што продолжува дебатата за тоа дали LLM треба да им помагаат или да ги заменат терапевтите, од клучно значење е нивните одговори да се усогласат со дадената емоционална содржина и воспоставените терапевтски принципи“, напишаа истражувачите.
Авторите додадоа дека нивната студија се потпира на еден LLM и дека идните истражувања треба да имаат за цел да ги генерализираат наодите.
