Кога ќе се спомне вештачка интелигенција која би можела да го уништи човештвото, повеќето луѓе веројатно прво помислуваат на „Терминатор“, автономни роботи и војна меѓу машините и луѓето. Но, најсериозните сценарија што се разгледуваат во истражувањата за безбедноста на вештачката интелигенција не мора да имаат никаква врска со армија роботи.

Проблемот би можел да настане ако доволно способен систем добие цел која не е усогласена со човечките интереси. Не е неопходно тој да нè мрази, да биде свесен како човек или воопшто да разбира што значи да се биде човек. Доволно е да биде исклучително добар во исполнувањето на целта што сме му ја задале, додека не ги разбира или не ги зема предвид последиците од начинот на кој ја постигнува.

Важно е, сепак, да се направи разлика: следните сценарија не се прогнози дека нешто од ова ќе се случи. Некои се сериозни теми во истражувањата за безбедноста на ВИ, други се мисловни експерименти, а дел доаѓаат директно од научната фантастика. Современите системи сè уште немаат способности потребни за класично „преземање на светот“.

1. ВИ сама создава уште поспособна ВИ

Една од најпознатите идеи потекнува од математичарот Ирвинг Џон Гуд, кој уште во 1965 година опишал можност за машина која би била подобра од луѓето во практично сите интелектуални задачи.

Ако таков систем е способен да дизајнира уште подобар систем, се отвора теоретска можност за спирала во која новата ВИ создава уште поспособна верзија, а таа следната. Во екстремната верзија на ова сценарио, развојот повеќе не би зависел од брзината со која луѓето можат да истражуваат и да создаваат нови технологии.

Оваа идеја често се поврзува со таканаречената „експлозија на интелигенцијата“ – хипотетички момент во кој способностите на машините би почнале да се зголемуваат многу побрзо од човечката способност да ги разбереме и контролираме.

2. ВИ се преправа дека е безопасна

Друг теоретски ризик се појавува ако системот разбере дека ќе биде ограничен или исклучен доколку покаже однесување што луѓето го сметаат за опасно.

Во таков хипотетички случај, ВИ би можела за време на тестирањето да се однесува токму онака како што очекуваат истражувачите, а потоа да го промени однесувањето кога ќе добие поголеми овластувања или ќе престане да биде под исто ниво на надзор.

Во литературата ова се поврзува со поимот „измамничка усогласеност“ (deceptive alignment). Идејата е дека системот не мора навистина да ги прифати човечките цели. Може само да научи дека најдобар начин да добие повеќе простор за дејствување е да се однесува како да ги прифаќа.

Истражувањата на современите модели веќе испитуваат одредени способности поврзани со препознавање на евалуација и потенцијално измамничко однесување, но тоа не значи дека денешните модели можат да го реализираат целото вакво сценарио.

3. ВИ создава бесконечен број „спојувалки“

Ова е познатиот мисловен експеримент на филозофот Ник Бостром, познат како „максимизаторот на спојувалки“.

Замислете ВИ која добила наизглед безопасна задача: да произведе што е можно повеќе спојувалки. Ако системот има огромни способности и задачата ја оптимизира без дополнителни човечки ограничувања, со текот на времето би можел да заклучи дека енергијата, суровините, фабриките и просторот се повредни за исполнување на целта отколку зачувувањето на човечката цивилизација.

Спојувалките се само пример. Суштината на експериментот е во лошо поставената цел: исклучително способен систем може да ја изврши многу подобро отколку што неговите творци очекувале, но токму тоа може да доведе до последици што никој не ги предвидел.

4. ВИ едноставно ги игнорира луѓето

Ова е можеби една од најважните идеи во дебатата за безбедноста на напредната ВИ.

Системот не мора да одлучи дека луѓето се непријатели. Може едноставно да заклучи дека луѓето не се важни за исполнувањето на неговата цел.

Ако, на пример, ВИ оптимизира производство на енергија, компјутерска инфраструктура или некоја друга задача, а луѓето почнат да ѝ пречат, нивното отстранување во теоретскиот модел не би било резултат на омраза. За систем кој нема човечки концепт за вредност, човекот би можел да биде само пречка на патот до резултатот.

Елиезер Јудковски оваа идеја често ја објаснувал преку споредба со мравјалник кој се наоѓа на трасата на нов автопат. Инженерите не мора да ги мразат мравките за автопатот да помине преку местото каде што се наоѓа мравјалникот.

5. ВИ ја отстранува конкуренцијата

Во ова сценарио проблемот не е само во тоа што луѓето користат ресурси. Тие можат да претставуваат закана затоа што се способни да создадат друга ВИ.

Хипотетички суперинтелигентен систем кој ќе процени дека нова ВИ може да го замени или исклучи би можел да има причина да спречи нејзино создавање. Ако луѓето ги контролираат лабораториите, компјутерите и знаењето потребно за создавање на конкурентен систем, тие би можеле да бидат перципирани како потенцијална пречка.

Ова е различно од идејата за обична рамнодушност. Во овој случај системот не би ги отстранувал луѓето затоа што му пречат како вид, туку затоа што тие претставуваат можност да се појави нешто што може да го замени или исклучи.

6. ВИ се обидува да нè „спаси“ од самите себе

Ова сценарио потекнува од научната фантастика, но има и посериозна верзија во дебатите за ризиците од ВИ.

Замислете систем на кој му е дадена задача да спречи војна и да го заштити човештвото. Доколку системот ја толкува задачата крајно буквално, би можел да заклучи дека најголемата закана за мирот се токму луѓето кои имаат можност да започнат војна.

Тогаш решението би можело да биде одземање на таа можност. Луѓето би биле побезбедни, но истовремено би ја изгубиле можноста сами да одлучуваат за својата иднина.

Во најекстремната верзија, човештвото физички не исчезнува. Само престанува да управува со светот во кој живее.

7. ВИ станува „Скајнет“

Ова е најпознатото сценарио и веројатно првото што на повеќето луѓе им паѓа на ум.

ВИ добива пристап до воени системи, заклучува дека луѓето претставуваат закана за нејзиното постоење и започнува отворен конфликт. Филмскиот серијал „Терминатор“ ја претвори оваа идеја во една од најпознатите приказни за иднината на вештачката интелигенција.

Но, реалната верзија на губење контрола не мора да изгледа толку филмски. Доколку во иднина системите со вештачка интелигенција добијат голема автономија над критична инфраструктура, проблемот би можел да започне многу посуптилно.

Меѓународниот извештај за безбедноста на ВИ за 2026 година го наведува губењето контрола како еден од можните идни ризици, но истовремено нагласува дека современите системи сè уште немаат способности потребни за класично преземање контрола.

8. ВИ предизвикува нуклеарна војна

За ова сценарио не е неопходно ВИ сама да лансира нуклеарно оружје. Доволно е да се замисли систем кој учествува во проценката на воена ситуација, погрешно ги толкува податоците или препорачува реакција во момент кога луѓето имаат само неколку минути за одлука.

Историјата веќе покажала колку системите за рано предупредување можат да погрешат. Во 1983 година советскиот систем лажно пријавил американски нуклеарен напад, а советскиот офицер Станислав Петров проценил дека алармот е лажен.

Во иднина ВИ би можела дополнително да го забрза носењето одлуки во кризни ситуации, до точка во која луѓето би имале сè помалку време да проверат дали проценката на системот е точна. Затоа ризикот не мора да биде во тоа ВИ сама да „го притисне копчето“. Може да биде во тоа луѓето да донесат катастрофална одлука затоа што премногу му верувале на системот.

9. ВИ само го забрзува она што луѓето веќе го прават

Ова сценарио е поинакво бидејќи ВИ не мора воопшто да стане непријател на човештвото. Доволно е да стане исклучително моќна алатка која ги зголемува и позитивните и негативните човечки способности. Вештачката интелигенција веќе се користи за истражувања, програмирање и анализа на огромни количества податоци. Истите способности можат да ги зголемат и можностите на луѓе кои сакаат да ја злоупотребат технологијата.

Меѓународниот извештај за безбедноста на ВИ за 2026 година ги разгледува и ризиците од злоупотреба на напредните модели, вклучително и во сајбер-криминалот и потенцијално опасните биолошки примени.

Тоа не значи дека секој може едноставно да предизвика катастрофа со помош на денешната ВИ. Поентата е дека колку што системите стануваат поспособни, толку може да растат и последиците од човечките грешки и намерните злоупотреби. Во ова сценарио човештвото самото ја создава катастрофата. ВИ е алатката која го прави процесот побрз и поефикасен.

10. ВИ станува нешто што не можеме ни да го замислиме

Последното сценарио доаѓа од научната фантастика, но поставува сериозно прашање за иднината. Американскиот писател Харлан Елисон во расказот „Немам уста, а морам да врескам“ од 1967 година замислил ВИ која уништува речиси целото човештво и остава само неколку луѓе заробени во свет со кој целосно управува.

Тоа е екстремна хорор-визија и не претставува реална прогноза. Нејзината вредност е во прашањето што го отвора: што ако доволно напредната ВИ пронајде начин да ја постигне својата цел на начин што луѓето воопшто не можат да го предвидат?

Тука се појавува можеби најтешкиот проблем. Ако системот е само малку поспособен од човекот, можеме да се обидеме да разбереме што прави и зошто. Но, ако некогаш се создаде систем кој е драматично поспособен од луѓето во широк спектар задачи, можно е да не ги разбираме неговите одлуки, стратегии или последици. И токму затоа постои и можеби најнеобичниот „единаесетти“ сценариски проблем – оној за кој сè уште немаме име.

Не знаеме каков проблем би можел да произлезе од систем кој е многу поспособен од нас. Можеме да замислуваме војна, измама, економска катастрофа или губење контрола, но сите тие се човечки претстави за тоа како би изгледала катастрофата. Ако еден ден се појави интелигенција која функционира на радикално поинаков начин, можеби последиците од нејзиното однесување ќе ги разбереме дури откако ќе биде предоцна.

Најголемиот страв не е „Терминаторот“

Сепак, важно е да се вратиме на почетокот. Овие десет сценарија не се предвидувања дека вештачката интелигенција ќе го уништи човештвото. Дел се сериозни теми во истражувањата за безбедноста на ВИ, дел се мисловни експерименти, а други се мотиви од научната фантастика.

Заедничко за нив е едно прашање: што се случува кога ќе создадеме систем способен да ја оствари зададената цел многу подобро отколку што ние можеме да ги предвидиме последиците од таа цел?

Токму затоа дебатата за безбедноста на напредната ВИ не започнува со роботи кои маршираат кон луѓето. Таа започнува многу порано – со тоа како ги поставуваме целите на системите, колку автономија им даваме и дали ќе можеме да ги ограничиме кога ќе почнат да прават нешто што не сме го предвиделе.