Професорот по вештачка интелигенција Тоби Волш издвојува пет можни сценарија – од неконтролирана суперинтелигенција и биолошко оружје до нуклеарен конфликт и општествени потреси.
Според Волш, еден од најголемите проблеми е што луѓето тешко можат да предвидат што би направила интелигенција која во иднина би била значително поспособна од човекот. Сепак, сегашните AI системи сè уште не се суперинтелигентни и се ограничени на одредени типови задачи.
- Суперинтелигенција што не можеме да ја разбереме
Првиот, но и најнеодреден сценарио е појава на систем кој би бил интелигентен над човечките способности. Проблемот е што би било исклучително тешко однапред да се предвиди што би можел да направи таков систем.
- „Сценариото со спајалиците“
Еден од познатите теоретски примери е AI систем кој добива една единствена цел – да произведе што е можно повеќе спајалици.
Ако целта е поставена без доволно ограничувања, суперинтелигентниот систем би можел да почне да ја претвора целата достапна материја во ресурс за исполнување на задачата, без да има никаква „намера“ да му наштети на човештвото.
Сепак, авторот посочува дека интелигенцијата не значи автоматски и неограничена моќ. Реалниот свет има бројни физички, правни и општествени препреки.
- Биолошко оружје
Друг ризик е злоупотребата на AI за создавање опасни биолошки агенси. Текстот наведува и неодамнешен експеримент на истражувачи од Универзитетот Стенфорд, кои со помош на генетички јазичен модел синтетизирале 16 нови вируси.
Сепак, целосното уништување на човештвото со еден вирус е исклучително сложено. Високата заразност и високата смртност не мора да одат заедно, што го ограничува потенцијалот за целосна пандемиска катастрофа.
- Нуклеарен конфликт
AI би можела да претставува ризик и доколку биде злоупотребена во системите за воено одлучување или ако предизвика погрешно толкување на разузнавачки податоци.
Како пример за ранливоста на компјутеризираните системи се наведува нападот со компјутерскиот црв Stuxnet врз иранските нуклеарни центрифуги во 2010 година.
- Најголемиот ризик би можеле да бидеме самите ние
Последниот и според Волш потенцијално најверојатен ризик не е робот кој директно го уништува човештвото, туку начинот на кој луѓето би ја користеле технологијата.
Масовно губење работни места, ширење дезинформации, продлабочување на политичките поделби и создавање синтетички форми на комуникација би можеле постепено да ги нарушат општествените структури.
