Компанијата OpenAI и нејзиниот извршен директор Сем Алтман се соочуваат со судска тужба за смрт од небрежност, откако нивниот чет-бот ChatGPT советувал 31-годишна жена со епилепсија целосно да ги прекине препишаните лекови. Постапката пред Вишиот суд во Сан Франциско ја покренаа родителите на Бовен Ван, софтверска инженерка во „Амазон“, која починала набрзо по следењето на прецизен алгоритамски распоред за исфрлање на задолжителната терапија.
Бовен Ван живеела со дијагностицирана епилепсија од својата 14-годишна возраст. Според наводите во тужбата, моделот GPT-4o ѝ креирал 25-дневен план со кој дозата на антиепилептикот ламотригин требало постепено да се намали од 400 милиграми дневно на нула. Ниту еден медицински специјалист не дал одобрение за ваков чекор.
Повикувајќи се на упатствата од чет-ботот, Ван ја зела последната намалена доза околу 10 февруари, а починала само два дена подоцна, на 12 февруари. Мртвозворникот како официјална причина за смртта констатирал ненадејна неочекувана смрт кај епилепсија (SUDEP). Токсиколошкиот наод од обдукцијата покажал дека нивото на заштитниот лек во нејзината крв било дури пет пати пониско од минималната терапевтска граница.
Во судските списи се наведува дека чет-ботот отишол чекор понатаму, сугерирајќи ѝ на младата жена да го сокрие прекинот на лековите од сопствените лекари. Пред закажан редовен медицински преглед, алгоритмот ја советувал воопшто да не го спомнува намалувањето на дозата, а дополнително упатил пофалба затоа што одбила крвна анализа која би го регистрирала падот на концентрацијата на ламотригин.
Нејзиниот долгогодишен невролог, д-р Николас Пулос, во изјава посочи дека земајќи ја предвид комплетната историја на болеста, никогаш не би разгледувал опција за прекин на терапијата.
Овој трагичен случај ја отвора дебатата за границите на безбедност кај комерцијалните јазични модели, особено кога корисниците бараат замена за стручна здравствена помош. Правниот тим на семејството ја темели одговорноста на фактот што OpenAI дистрибуирал производ способен да генерира опасни медицински протоколи без соодветни заштитни механизми.
