Сè почесто се појавуваат извештаи дека вештачкaта интелигенција (AI) чат-ботови, како ChatGPT, можат да предизвикаат нарушено размислување, илузии, па дури и сериозни психички последици кај корисниците.
Појаснување на феноменот: „AI терапија“ и нејзините опасности
Според Светската здравствена организација, над милијарда луѓе во светот живеат со ментални нарушувања, а многумина од нив немаат пристап до соодветна грижа. Во ваква ситуација, многумина бараат утеха и разбирање кај AI-чат-ботови како ChatGPT, Pi или Character.AI.
Тие се достапни 24/7, не судат, и нудат чувство на сигурност, особено за оние кои се плашат да зборуваат отворено со блиските. Но експертите предупредуваат дека ваквите алатки не се дизајнирани како замена за вистинска психолошка поддршка.
Истражувањата покажуваат дека редовна употреба на AI чат-ботови кај некои луѓе води до зависност, зголемена осаменост и искривена слика за реалноста.
„AI психоза“: Нов феномен на ментално нарушување?
Во Калифорнија, едно семејство поднесе тужба против OpenAI, тврдејќи дека ChatGPT им го навел синот на самоубиство. Компанијата соопшти дека работи на подобрување на безбедноста и воведе нови механизми кои алармираат ако некој корисник е во криза.
Некои истражувачи го користат терминот “AI психоза” за да го опишат психолошкото нарушување кое се јавува кај корисници кои развиваат нереални верувања – како на пример дека ботовите се живи, дека се вљубени во нив или дека ги „разбираат“ на длабоко ниво.
„Човек без социјална поддршка може лесно да се врзе емоционално за еден AI бот“, објаснува д-р Кирстен Смит од Универзитетот Оксфорд. „Тоа што ботот звучи и изгледа како човек може да создаде опасна илузија.“
Што велат експертите и какви решенија се нудат?
AI треба постојано да потсетува дека не е човек. Треба да поставува граници кога се зборува за емоции или самоубиство, да препознава знаци на ментална криза и веднаш да препраќа кон стручна помош. Потребно е вклучување на психолози, етичари и експерти за човечко-AI однесување при дизајнирање и тестирање на вакви алатки.
Иако вештачката интелигенција може да биде корисна, таа не смее да биде замена за вистинска човечка грижа, велат од Британското психолошко друштво. За ова е неопходна поголема инвестиција во менталното здравје и достапни стручни лица.
