Меѓу можните сценарија се наведуваат предизвикување нуклеарна војна, развој на смртоносни болести и неконтролирано преземање на ресурсите.
Поради ваквите ризици, дел од експертите и раководителите на технолошки компании повикуваат на забавување на развојот на ВИ. Сепак, не сите ги сметаат ваквите предупредувања за реална опасност. Хуан Андрес Гереро-Саде од компанијата за сајбер-безбедност SentinelOne смета дека дел од сценаријата повеќе наликуваат на научна фантастика.
Загриженоста дополнително се зголеми откако Џејкоб Коксун, поранешен истражувач во компанијата Anthropic, ја напушти компанијата поради стравувања од неодговорен развој на ВИ.
Еден од најсериозните можни ризици е вмешаноста на ВИ во нуклеарен конфликт.
Истражувачки тим од Кралскиот колеџ во Лондон симулирал 21 сценарио на нуклеарен конфликт, за да испита како би постапувала ВИ во услови на криза.
Во симулацијата, четботовите ги презеле улогите на државни и владини лидери на нуклеарните сили. Резултатите покажале дека во речиси сите случаи ВИ избрала употреба на нуклеарно оружје наместо смирување на конфликтот.
Сепак, истражувачката организација RAND минатата година заклучила дека денешната ВИ не може самостојно да предизвика употреба на нуклеарно оружје, меѓу другото поради строгите безбедносни процедури.
Истовремено, експертите предупредуваат дека ситуацијата би можела да се промени доколку ВИ добие можност да носи одлуки поврзани со нуклеарното оружје или тајно да добие пристап до него.
Ризик од биолошко оружје
Другото сценарио се однесува на злоупотреба на ВИ за развој на смртоносни вируси.
Технологијата може да помогне во развојот на терапии и лекови, но истите способности би можеле да бидат злоупотребени за создавање или модифицирање патогени со цел нанесување штета.
Компанијата Anthropic неодамна соопшти дека спречила обиди за злоупотреба на својот систем Claude за развој на биолошко оружје.
Биологот и генетичар Кевин Есвелт од MIT, пак, предупреди дека четботовите можат да дадат информации кои би можеле да се злоупотребат за развој или примена на опасни биолошки агенси.
Третото сценарио е познатиот хипотетички „проблем со спојниците“.
Според оваа идеја, суперинтелигентна ВИ би можела да ги преземе сите достапни ресурси за да ја оствари целта за која е програмирана.
Ако, на пример, добие задача да произведува што е можно повеќе спојници, теоретски би можела да ја претвори целата планета во огромна фабрика за спојници, без оглед на последиците врз човечкиот живот.
Дебатата за ризиците од развојот на ВИ продолжува. Додека дел од експертите предупредуваат на потенцијални егзистенцијални закани, други сметаат дека ваквите сценарија се претерани.
Едно е сигурно – развојот на ВИ се одвива со голема брзина, а со тоа расте и прашањето како технологијата да се користи безбедно и одговорно.
