Истражувачот на вештачка интелигенција Џејкоб Коксон даде отказ од компанијата Anthropic, откако претходно работеше и во OpenAI, предупредувајќи дека водечките технолошки гиганти непромислено брзаат кон развој на системи што можат да бидат смртоносни за човештвото. Тој преку платформата Икс објави дека светот не смее да ја потцени моќта на оваа технологија, посочувајќи дека креаторите на моделите се коцкаат со човечките животи.

Коксон образложи дека технолошките лаборатории во моментов водат директна трка кон создавање таканаречена самоподобрувачка суперинтелигенција. Тоа е хипотетичка, но технички изводлива фаза каде што моделите можат самостојно да пишуваат подобар софтвер од сопствениот код и да иницираат постојана верижна реакција на надградба.

Според неговите проценки, таквите надчовечки алгоритми за кратко време би станале способни да пробијат која било дигитална заштита, да преземат ресурси и радикално да ги променат сите индустрии без надворешна контрола. Брзината со која се развиваат овие капацитети во моментов не покажува знаци на забавување.

Главниот фокус на предупредувањето е насочен кон водечките луѓе во индустријата. Коксон посочи дека многу инженери кои директно ги градат овие системи приватно веруваат оти вештачката интелигенција носи реален ризик за уништување на човештвото уште пред крајот на оваа деценија.

Слични дилеми доаѓаат и од внатрешноста на самите компании. Ставовите на Коксон добија поддршка и од Еван Хубингер, истражувач задолжен за усогласување на безбедноста во Anthropic, што укажува на продлабочување на јазот меѓу комерцијалните амбиции на управите и етичките грижи на техничкиот кадар.