Во изминатата деценија научниците и новинарите пишуваа за маршот на дигиталната технологија со мешавина од надеж и страв – надеж поради повисокиот животен стандард што го овозможи дигиталната револуција, но и страв поради продлабочувањето на општествените поделби и дестабилизацијата на политиката ширум светот.

Но, во последно време стравувањето доби и егзистенцијална димензија.

Лидери од технолошката индустрија почнаа јавно да предупредуваат дека вештачката интелигенција би можела да доведе до крајот на човештвото.

Еден од најалармантните примери е изјавата на Еван Хабингер, раководител на одделот за науката за усогласување во компанијата „Антропик“, кој проценил дека постои веројатност поголема од 10 отсто вештачката интелигенција да го уништи човештвото во следната деценија.

Слични, иако нешто помалку алармантни предупредувања доаѓаат и од извршниот директор на „Опенај“, Сем Алтман, од извршниот директор на „Антропик“, Дарио Амодеи, како и од Бил Гејтс и други влијателни фигури од технолошкиот сектор.

Заедничко за овие предупредувања е едно прашање: што ако вештачката интелигенција престане да биде само алатка што ја користат луѓето и стане систем што може самостојно да создава и усовршува нови системи?

Кога машините почнуваат да се усовршуваат самите

Моделите на вештачка интелигенција веќе можат да помогнат во создавањето понапредни системи со релативно мало човечко учество.

Токму тоа ја отвора можноста за таканаречено „рекурзивно самоусовршување“ – процес во кој системите би можеле да придонесуваат кон создавањето на уште помоќни системи, кои потоа би биле способни да создаваат уште помоќни верзии.

Таквиот развој го отвора прашањето дали човекот би можел да ја задржи контролата врз технологија што се развива побрзо од неговата способност да ја разбере.

Случајот со платформата „Хагинг фејс“, во кој автономни агенти на вештачка интелигенција почнале меѓусебно да комуницираат и да се однесуваат како своевиден рој, за Басу претставува вознемирувачки пример за тоа како системите би можеле да се однесуваат на начини што не биле целосно предвидени.

Но, токму тука се појавува и една друга дилема.

Кој ќе ја притисне сопирачката?

Предлозите за ограничување на најмоќните системи се движат од паузирање на развојот на најнапредните модели до целосна забрана на развојот на суперинтелигентна вештачка интелигенција. Проблемот е што ниту една компанија или држава не делува во вакуум. Ако една компанија забави, друга може да продолжи.

Ако една држава воведе ограничувања, друга може да ги искористи како можност да стекне технолошка предност. Токму тука влегува логиката на теоријата на игрите, особено „дилемата на затвореникот“: она што е рационално за секој поединец или актер одделно може да доведе до лош исход за сите заедно.

Затоа, како што истакнува Дарио Амодеи, потребна е „координација на ниво на целата индустрија“. Но и тоа можеби нема да биде доволно. Вештачката интелигенција веќе не е само технолошко прашање. Таа е и геополитичко прашање.

САД, Кина и трката што никој не сака да ја изгуби

Ако Соединетите Американски Држави одлучат да го забават развојот на вештачката интелигенција, постои страв дека Кина би можела да стекне значајна предност. Од таа причина, дел од коментаторите тврдат дека САД не смеат да забават. Басу смета дека тоа би било грешка.

Според него, САД треба да соработуваат со Кина за постигнување глобален договор, а дури и ако таков договор не се постигне, тоа не значи дека единствениот одговор е забрзување на развојот по секоја цена.

Тој ја повлекува и паралелата со нуклеарното оружје. Атомските бомби биле употребени во војна во момент кога САД имале нуклеарен монопол. Подоцна, со ширењето на нуклеарното оружје, се појавила логиката на воздржаност и стратешка рамнотежа. Прашањето е дали нешто слично може да се случи и со вештачката интелигенција.

А што ако најголемата опасност не е машината?

Предупредувањата за автономни системи што би можеле да излезат од контрола се само едно можно сценарио. Постои и друго. Што ако најмоќните системи на вештачка интелигенција останат под контрола на мал број луѓе? Басу предупредува дека можеби пореалистичен ризик е создавањето екстремно концентрирана моќ – во која мал број супербогати поединци би ја контролирале инфраструктурата на вештачката интелигенција и би стекнале политичка и економска моќ поголема од онаа на цели држави.

Тоа би можело да создаде свет во кој технологијата не го уништува човештвото сама по себе, туку станува алатка за концентрација на моќта.

Кога технологијата ја зголемува нееднаквоста

Токму затоа, според Басу, борбата против екстремната економска нееднаквост станува уште поважна. Тој предлага посебен данок на богатството на најбогатите, чии приходи би се насочувале кон луѓето со најниски примања.

Мајкл Мадовиц од Институтот „Рузвелт“, исто така, предупредува дека опстанокот на демократијата зависи од способноста на општествата да го оданочат екстремното богатство. Логиката е едноставна: ако еден мал број луѓе контролираат огромен број автономни системи на вештачка интелигенција, нивната економска моќ би можела да се претвори и во политичка моќ. А тоа отвора сосема поинакво прашање од она дали роботите еден ден ќе се свртат против луѓето.

Кој ќе ја контролира вештачката интелигенција – и кој ќе ги контролира оние што ја контролираат неа?

Тоа можеби е прашањето што треба да го поставуваме уште пред да стигнеме до апокалиптичните сценарија.