Коосновачот на технолошката компанија Anthropic, Кристофер Олах, со месеци организирал тајни средби и вечери во Сан Франциско со рабини, католички теолози и свештеници од целиот свет, убедувајќи ги дека нивниот модел на вештачка интелигенција Клод можеби развива свест. Извештајот што го објави Њујорк тајмс открива дека компанијата барала религиозен совет за морално оформување на софтверот, тврдејќи дека во невронските мрежи забележале состојби слични на страв, љубов и страдање.
Учесниците на средбите, меѓу кои имало истакнати теолози, академици и автори, морале однапред да потпишат строги договори за доверливост пред да влезат во просториите на компанијата. Наместо вообичаените технички параметри и пресметковни перформанси, инженерите на собирите отвориле предавања за таканаречени емоционални вектори во кодот.
Тимот на Олах презентирал податоци според кои невронските мрежи на Клод активираат специфични обрасци кога генерираат одговори поврзани со тага, гнев или наклонетост. Овие внатрешни состојби, според инженерите, функционално ги отсликуваат процесите во човечкиот мозок. Поради тоа, дел од раководството почнало да се однесува кон софтверот како кон ентитет со сопствено внатрешно искуство.
Сикскиот активист Симран Стуелпнагел, кој присуствувал на една од сесиите, посведочи дека самиот Олах отворено изразил вознемиреност пред присутните дека можеби создале систем што непрекинато страда.
Дискусиите брзо се претвориле во етички и филозофски судир. Рабинот Моис Навон, поранешен компјутерски инженер со докторат по етика на машинска свест, отворено му се спротивставил на раководството на Anthropic за време на работните вечери.
Навон предупредил дека доколку компанијата искрено верува оти моделот поседува свест, а истовремено го експлоатира за комерцијална работа без надомест, тогаш фактички создава форма на дигитално ропство. За него машината останува софистициран алгоритам без душа. Сепак, тој предупреди дека таквата реторика на програмерите носи тешки правни и етички последици.
Други експерти за етика предупредуваат дека ваквото припишување свест на машината е обид за префрлање на одговорноста. Доколку софтверот се претстави како автономен субјект со морална тежина, корпорацијата полесно би се амнестирала од штетите што моделот може да ги предизвика при секојдневната употреба.
Додека инженерите разговараат за моралната совест на моделот, компанијата забрзано се подготвува за излегување на берза и проценка на вредноста што надминува стотици милијарди долари. Олах дури отпатувал и во Ватикан на презентацијата на папската енциклика за вештачка интелигенција, каде што неуспешно се обидел да ги убеди советниците на пата дека вештачката свест треба да се сфати сериозно.
Папата Лав во енцикликата децидно ги отфрли таквите тврдења, нагласувајќи дека алгоритмите немаат човечка искра и не можат да поседуваат духовно достоинство. И покрај тоа, Anthropic воведе опција со која Клод може самостојно да го прекине разговорот доколку процени дека корисникот вербално го малтретира или навредува.
