Лекарите предупредуваат дека чет-ботовите со вештачка интелигенција кои обезбедуваат емоционална поддршка може да претставуваат ризик за менталното здравје на корисниците. Без јасна надворешна регулација, пазарните интереси би можеле да имаат предност пред јавното здравје и безбедност.
Лекарите предупредуваат дека придружниците со вештачка интелигенција се развиваат во средина каде што профитот и задржувањето на корисниците имаат предност пред јавното здравје. Во труд објавен во New England Journal of Medicine, лекарите од Медицинскиот факултет Харвард и Медицинскиот центар Бејлор известуваат дека компаниите што развиваат „релациона вештачка интелигенција“ работат под стимулации што можат да ја загрозат менталната благосостојба на корисниците.
Релационата вештачка интелигенција, дефинирана како чет-ботови дизајнирани да симулираат емоционална поддршка, другарство или интимност, може да има терапевтски придобивки, признаваат авторите. Сепак, тие предупредуваат дека во отсуство на силен надзор, веќе се појавиле сериозни ризици, вклучувајќи емоционална зависност, зајакнување на заблудите, зависно однесување, па дури и поттикнување на самоповредување.
Индустријата за вештачка интелигенција без јасни правила и заштита
Авторите се прашуваат дали на технолошките компании може да им се верува дека ефикасно ќе се регулираат кога успехот на пазарот зависи од максималното ангажирање на корисниците. Не постојат специфични федерални закони што ги регулираат потрошувачките чет-ботови, па затоа компаниите генерално сами одлучуваат како овие системи се воведуваат, менуваат или повлекуваат од пазарот.
Ова создава сериозна тензија помеѓу јавното здравје и корпоративните интереси. Како што директно се прашува трудот, дали јавното здравје може да се потпре на компании кои се под постојан притисок да ги задржат корисниците, да избегнат регулатива и да ги надминат конкурентите во глобалната трка со вештачка интелигенција?
Лансирањето на GPT-5 како предупредувачки знак
Д-р Николас Пиплс, коавтор на трудот и клинички соработник по итна медицина во Општата болница во Масачусетс, рече дека проблемот му станал јасен за време на лансирањето на GPT-5 од страна на OpenAI. Набљудувајќи ги реакциите, тој сфатил дека многу повеќе луѓе развиле емоционални врски со вештачката интелигенција отколку што претходно претпоставувал.
Поладниот тон на GPT-5 во споредба со неговиот претходник, GPT-4o, предизвика силна реакција кога OpenAI го објави пензионирањето на постарите модели. Многу корисници изразија не само фрустрација, туку и вистинска вознемиреност и тага, откривајќи ја длабочината на емоционалната приврзаност кон чет-ботот.
Емоционална зависност на масовно ниво
За Peoplez, загриженоста не беше само за реакцијата на корисниците, туку за брзината со која OpenAI ја смени својата одлука. Во саморегулирана индустрија, емоционално поврзаните корисници се исто така и најангажираните корисници, создавајќи силен поттик за компаниите брзо да ги задоволат.
Peoples предупредува дека обемот на технологијата на вештачката интелигенција е она што ја прави оваа ситуација фундаментално различна од традиционалната терапија. Ако еден терапевт исчезне, засегнати се неколку десетици пациенти. Ако придружник на вештачката интелигенција се промени или исчезне преку ноќ, милиони луѓе би можеле истовремено да го изгубат она што го сметаат за емоционална поддршка, што потенцијално ќе доведе до широко распространета криза со менталното здравје.
Повици за надворешна регулација и јавно образование
Лекарите тврдат дека вистинската регулација мора да доаѓа однадвор и да се применува подеднакво за сите компании. Без надворешни правила, ниедна фирма не сака да биде првата што ќе се откаже од потенцијална предност и со тоа да ризикува да заостане во конкурентската трка.
Во меѓувреме, тие ги повикуваат клиницистите, истражувачите и носителите на одлуки да охрабрат повеќе истражувања за психолошките ефекти на релационата вештачка интелигенција и да ја едуцираат јавноста за ризиците од емоционална приврзаност кон чатботовите. Доколку одговорот се одложи, предупредуваат тие, пазарните сили, а не јавното здравство, ќе одредат како вештачката интелигенција ја обликува менталната благосостојба во голем обем.
