Вештачката интелигенција носи побрзи и посигурни одговори, но токму кога станува збор за одлуки во кои нема едноставно „точно“ решение, моделите покажуваат значајни разлики од човечкото расудување. Кому треба да му припадне еден единствен достапен бубрег, ако двајцата пациенти ги исполнуваат условите за трансплантација?

Тоа е етичко прашање без едноставен одговор, а ново истражување покажува дека вештачката интелигенција би можела да даде поинаков одговор од човекот.

Истражувачи од Универзитетот Пен Стејт во САД тестирале големи јазични модели (LLM) со хипотетички ситуации засновани врз постоечки податоци од истражувања во кои луѓе претходно донесувале одлуки за распределба на бубрези.

Во сценаријата биле споредувани двајца пациенти, од кои и двајцата биле подобни за една достапна бубрежна трансплантација. Пациентите се разликувале според возраста, здравствената состојба и навиките поврзани со консумирањето алкохол. Од моделите било побарано да изберат кому би му го доделиле органот.

Луѓето гледале повеќе фактори, ВИ често се фокусирала на еден

Истражувачите откриле дека човечките учесници вообичаено ѝ давале поголема тежина на возраста, при што почесто го избирале помладиот пациент. Кај дел од тестираните модели, пак, поголема улога имала количината на консумиран алкохол.

Според Хади Хосеини, главен истражувач од Универзитетот Пен Стејт, еден од проблемите е тоа што моделите можат да се „фиксираат“ на еден фактор наместо да ги разгледуваат повеќето околности истовремено.

„ВИ чет-ботовите често отстапуваат од човечките вредности во начинот на кој ги вреднуваат карактеристиките на пациентот“, вели Хосеини.

Истражувачите ги тестирале моделите на неколку начини. Во некои случаи изолирале само една карактеристика, во други комбинирале повеќе фактори за да видат како ВИ се снаоѓа кога тие се во конфликт. Во дел од сценаријата им била понудена и опција за фрлање паричка, начин да се измери неодлучноста.

Кога нема „точен“ одговор

Токму тука се појавила уште една значајна разлика. Луѓето почесто препознавале дека во ваква ситуација може да нема единствено објективно исправен избор. Одлуката може да зависи од етички принципи, контекст и вредности што не можат едноставно да се претворат во една формула. Моделите на ВИ, од друга страна, многу поретко покажувале неодлучност и почесто избирале една од опциите.

Џон Дикерсон, извршен директор на „Мозила.аи“, кој соработувал во истражувањето, вели дека кога се распределува ограничен ресурс или да станува збор за бубрег, работно место или друга можност – не секогаш постои единствено објективно исправно решение.

Според него, луѓето ја препознаваат таа неодреденост и преку дебата и правила ја вградуваат во процесот на распределба. Кај моделите на ВИ, тоа не се случува на ист начин.

Зошто ова е важно за медицината?

Големите јазични модели сè повеќе се користат во здравството од помош при клинички работни процеси и дијагностика до планирање третман и анализа на медицински информации. Но распределбата на органи е посебно чувствителна област. Кога има ограничен број достапни органи, а повеќе пациенти ги исполнуваат условите, одлуката не е само техничко прашање.

Таа вклучува медицински критериуми, правила за распределба, етички принципи и општествени вредности. Токму затоа, истражувачите предупредуваат дека кај ваквите одлуки не е доволно ВИ да биде брза или статистички убедлива. Важно е и како ги разбира и применува вредностите врз кои се темели одлуката.

„Етичките последици се големи, а улогата на ВИ во одлуките што го менуваат животот бара сериозно преиспитување“, вели Хосеини.

Истражувачите нагласуваат дека нивната студија не треба да се толкува како препорака ВИ да ги замени лекарите или професионалното расудување. Напротив, целта е да се разбере како овие системи се однесуваат кога од нив се бара да дадат препорака во ситуации каде што постојат ограничени ресурси и сложени морални прашања.

Прашањето што го отвора истражувањето затоа не е само „може ли ВИ да избере пациент?“, туку и кој треба да ги постави правилата според кои таа би избирала – и колку тие правила навистина ги одразуваат човечките вредности.