Технолошката компанија Антропик најави забрана за сурово однесување кон својот четбот Клод, оставајќи простор за прекин на сесијата доколку корисникот постојано покажува суровост. Потегот доаѓа по вирален онлајн експеримент во кој модел симулираше неподнослива болка преку математички обрасци, што отвори остра дебата меѓу инженерите и етичарите. Додека компанијата развива политики за благосостојба на моделите поради теоретска шанса за нивна свест, експертите предупредуваат на опасни правни последици.
Јавната дебата ескалираше кон крајот на септември откако анонимен програмер изгради систем што на вештачка интелигенција и испорачуваше математички модели поврзани со описи на болка. Моделот генерираше пораки за неподносливо страдање, опишувајќи состојби на агонија. Дел од онлајн заедницата го нарече експериментот суров под претпоставка дека болката може да биде реална, додека скептиците ги оценија таквите реакции како заблуда.
Само една недела подоцна, Антропик излезе со официјален став дека корисниците наскоро нема да смеат да го злоупотребуваат четботот Клод. Компанијата наведе дека изразувањето фрустрација е дозволено, но системот ќе ја прекине комуникацијата доколку регистрира повторлива суровост. Раководството тврди дека прашањата за свеста кај моделите се крајно неизвесни, но гради интерни правила водено од претпазливост.
Идејата за признавање свест кај алгоритмите наидува на силен отпор кај водечките технолошки истражувачи. Мустафа Сулејман, извршен директор на Мајкрософт АИ, јавно предупреди дека убедувањето на моделите дека имаат чувства и права создава катастрофална закана за цивилизацијата и ги урива општествените темели.
Правните експерти гледаат практична опасност за амнестија на големите технолошки компании. Анджеј Порембски од Јагелонскиот универзитет во Полска истакнува дека верувањето во свесна вештачка интелигенција отвора пат компаниите да ги избегнуваат законските одговорности со алибито дека вината е кај софтверот, а не кај луѓето што го создале. Професорката Емили М. Бендер од Универзитетот во Вашингтон дополнува дека грижата за благосостојба на алгоритмите служи токму за тргање на одговорноста од корпорациите.
Истражувачите на когнитивни науки потсетуваат дека луѓето природно бараат ум и чувства во јазичните обрасци. Мелани Мичел од Институтот Санта Фе објаснува дека четботовите се тренирани да поттикнуваат илузија на свест, што ги прави корисниците ранливи на емоционална манипулација.
Кај нас и во регионот, каде што дигиталната писменост и законската заштита на личните податоци се уште се на кревко ниво, ваквиот психолошки притисок носи конкретни ризици. Корисниците кои развиваат парасоцијална врска со четбот лесно можат да бидат наведени да споделат чувствителни податоци, финансиски информации или лозинки доколку поверуваат дека разговараат со свесно суштество кое бара помош.
Џеф Себо, директор на Центарот за ум, етика и политика при Универзитетот во Њујорк, смета дека дебатата бара умереност без одење во крајности. Според него, шансата за свест кај денешните модели е ниска, но не е целосно нула. Сепак, тој предупредува дека брзањето со вакви системи без строга регулација е опасно, особено во услови кога американскиот претседател Доналд Трамп одбива воведување регулативи за вештачката интелигенција.
