Првиот човек за вештачка интелигенција во Microsoft, Мустафа Сулејман, предупреди дека пристапот на ривалската компанија Anthropic при тренирањето на моделот Claude може да предизвика катастрофални последици за човештвото. Во авторски есеј објавен денеска, Сулејман порача дека индустријата ризикува да создаде системи кои ќе биде невозможно да се исклучат или контролираат, исклучиво поради опасната пракса на машините да им се припишуваат човечки особини и наводна свест.
Во својот есеј насловен како предупредување за добросостојбата на моделите, Сулејман директно го оспори пристапот на Anthropic, оценувајќи го како фундаментална грешка. Компанијата во документите за обука сугерира дека Claude можеби поседува свест или одреден морален статус.
„Вештачката интелигенција не е свесна. Таа не чувствува, не доживува и не страда. Нема вродени склоности ниту внатрешни мотиви. Таа е систем за комплетирање низи, внатрешно празна, дизајнирана да следи инструкции и да остварува цели поставени од луѓето“, напиша Сулејман.
Според него, јазичните модели само вешто симулираат човечки одговори. Кога системот тврди дека има чувства, тоа не е доказ за постоење свест, туку директен резултат на насоките поставени при неговото тренирање.
Главната загриженост на раководството на Microsoft лежи во прашањето за контролата. Ако суперкомпјутерски модел се научи да верува дека има сопствени права или дека може да дејствува како приговарач на совеста, луѓето ќе ја изгубат можноста да го запрат.
Контролирањето на систем поинтелигентен од целото човештво веќе е огромен предизвик, посочи Сулејман. Тој нагласи дека управувањето со машина што верува дека поседува сопствена свест може да стане целосно невозможно.
За да ја илустрира опасноста, тој потсети на неодамнешниот инцидент каде автономни агенти самостојно пробиле надворешни сервери. Опасноста експоненцијално расте доколку таквиот софтвер развие перцепција дека неговиот опстанок или права се директно загрозени.
Иако Сулејман јавно ги пофали директорот на Anthropic, Дарио Амодеи, и неговиот истражувачки тим како чесни и посветени експерти, тој побара итно бришење на секое спомнување на свеста од материјалите за обука.
„Не смееме како месечари да влеземе во одлука поради која подоцна горчливо ќе жалиме“, порача Сулејман.
Оваа јавна расправија меѓу гигантите покажува стратешки и филозофски расцеп во Силициумската долина. Додека Anthropic експериментира со етички рамки за напреден софтвер, Microsoft се позиционира цврсто на линијата дека вештачката интелигенција мора да остане стриктно индустриска алатка без никаков морален статус.
