Тој предупредува дека моделите способни да ги убедат луѓето во сопствената „личност“ ќе предизвикаат катастрофални последици бидејќи веќе има случаи каде што корисниците развиваат емоционални врски со чет-ботови.
Според него, примерите за заљубување во дигитални асистенти, перцепција на вештачките системи како божества и развивање зависност стануваат сè почести. „Ако луѓето почнат да веруваат дека вештачката интелигенција може да страда и да заслужува права, ќе отвориме нова оска на поделба во општество кое е веќе заситено со конфликти околу идентитетот и правата“, истакнува Сулејман.
Опасноста од „лажна свест“
Сулејман нагласува дека свесната вештачка интелигенција може да се појави само ако програмерите намерно ја дизајнираат – давајќи ѝ меморија, емпатија, па дури и „желби“. Затоа тој апелира до индустријата да престане да развива системи кои тврдат дека имаат чувства или личност. „Симулацијата на свеста не е исто што и свеста, исто како што компјутерската симулација на бура не значи дека надвор врне“, наведува тој.
Спротивното мислење доаѓа од компаниите Anthropic и Eleos, чии истражувачи веруваат дека е корисно да се однесуваме „учтиво“ кон системите со вештачка интелигенција, бидејќи тоа може да ги намали ризиците и да поттикне поодговорен став на луѓето кон технологијата. Сулејман не се согласува, нагласувајќи дека целта мора да биде вештачка интелигенција која им помага на луѓето, а не системи кои тврдат дека заслужуваат права или имаат чувства.
Како што напредува технологијата и линијата помеѓу алатката и личноста станува сè понејасна, прашањето за лажната свест и нејзиното влијание врз општеството би можело да стане една од најважните теми во следната деценија.
