Вештачката интелигенција веќе не е само технолошка тема. Со предупредувањата на дел од највлијателните луѓе во индустријата, прашањето сè повеќе се префрла и на теренот на политиката, моќта и контролата.

Политичкиот филозоф и уредник на „Идеје.хр“, Жељко Иванковиќ, смета дека актуелните предупредувања од лидерите во технолошкиот сектор треба да се читаат и како знак на внатрешно преструктурирање во индустријата. Во интервју за „Нови дан“ на Н1, тој ги коментираше последните изјави за можните ризици од неконтролираниот развој на ВИ, вклучително и предупредувањата поврзани со компанијата „Антропик“.

Особено внимание привлече заминувањето на еден од инженерите на „Антропик“, кој предупреди дека во следната деценија ВИ би можела да развие способности што би претставувале сериозна закана за цивилизацијата. На овие стравувања јавно се надоврза и извршниот директор на „Антропик“, Дарио Амодеи, а поддршка за неговите предупредувања изразија и Сем Алтман и Илон Маск.

Од технолошки ризик до политичка борба

Иванковиќ смета дека ваквите пораки не треба да се гледаат исклучиво како предупредување за иднината на технологијата. Според него, во технолошката индустрија веќе подолго време се појавуваат манифести, отворени писма и иницијативи со кои најмоќните компании се обидуваат да влијаат врз правилата според кои ќе се развива ВИ.

Во тој контекст тој го толкува и писмото на Амодеи како политички документ, а не само како технолошко предупредување. Еден од сценаријата што го споменува Иванковиќ е можноста ВИ да стане способна сама да се подобрува и да излезе од контролирана лабораториска средина. Тој го опишува тоа како своевиден „рој“ на вештачки интелигенции кој би можел да дејствува автономно и да влијае врз други системи.

Иако станува збор за хипотетичко сценарио, Иванковиќ предупредува дека зависноста на современото општество од дигиталната инфраструктура го прави таквиот ризик потенцијално многу поширок од самата технологија.

„Тоа е еден вид апокалипса, или Армагедон, ако сакате“, вели тој, посочувајќи дека нарушување на интернетот би можело да има последици и врз други критични системи, вклучително и снабдувањето со електрична енергија и вода.

Како би изгледала контролата над ВИ?

Според Иванковиќ, предлогот на Амодеи содржи и конкретна идеја за тоа како би можела да се воспостави контрола врз најмоќните компании за развој на ВИ. Првиот чекор би бил создавање независни тела во рамките на големите компании, со функција слична на механизмите за надзор што постојат во финансискиот сектор. Таквите тела би можеле да ги следат активностите на компаниите и, доколку проценат дека постои сериозен ризик, да ги известат државните институции или јавноста.

Иванковиќ се повикува и на Демис Хасабис од „Гугл Дипмајнд“, кој исто така поддржувал независен надзор врз развојот на напредните системи за ВИ.

Вториот чекор би бил меѓународна координација меѓу демократските држави, додека третиот би подразбирал обид да се постигне договор и со авторитарни држави, пред сè со Кина. Токму затоа, според Иванковиќ, станува збор за многу поширок политички проект – создавање глобални правила за развојот на вештачката интелигенција.

Во технолошкиот сектор нема единствен став

Но, идејата за глобална регулација не ја поддржуваат сите моќни играчи во технолошкиот свет. Иванковиќ ги издвојува Питер Тил и Алекс Карп, лидерите на „Палантир“, како претставници на поинаква визија. Според неговото толкување на нивните досегашни позиции, тие се многу поскептични кон меѓународната координација и кон моделите на глобално регулирање на технологијата.

Оттука, во индустријата се создава поделба меѓу оние што бараат поголем демократски надзор и оние што се залагаат за технолошки суверенитет и поголема слобода на компаниите и државите да развиваат сопствени системи.

Иванковиќ смета дека во основата на оваа поделба не се само идеолошките разлики, туку и борбата за економска и политичка моќ.

Како дополнителен пример ги посочува односите меѓу Илон Маск и Амодеи. Маск и Сем Алтман јавно ги поддржаа предупредувањата на Амодеи, иако Маск и Алтман со години се во остар конфликт околу иднината на ВИ.

Кој ќе ги поставува правилата?

Една од клучните дилеми е дали големите технолошки компании навистина бараат ограничување на сопствената моќ или со повикувањето на регулација се обидуваат да ја зацврстат позицијата на оние што веќе се најголеми на пазарот.

Иванковиќ потсетува дека саморегулацијата не е нов концепт и постои во различни индустрии. Но, кај ВИ проблемот е особено сложен бидејќи компаниите истовремено предупредуваат дека технологијата може да биде опасна, а продолжуваат да се натпреваруваат во развојот на сè помоќни системи. Во таа трка се појавува и аргументот дека ако една компанија или држава се воздржи од развој на одредена технологија, конкурентите можат да продолжат без неа.

Затоа, според Иванковиќ, на технолошките компании им се потребни државите за да се постигне меѓународен договор со кој правилата би важеле пошироко, наместо ограничувањата да ги почитуваат само дел од актерите.

ВИ не е само технологија – туку и етика

Во разговорот се отвора и прашањето дали дигиталната технологија воопшто може да биде вредносно неутрална. Иванковиќ смета дека не може. Според него, етичката одлука започнува уште во моментот кога инженерите избираат кои податоци ќе ги собира еден систем, а продолжува со начинот на кој тие податоци ќе се обработуваат и користат.

Како пример го наведува „Палантир“, каде изборот на податоци за поединци – од земја на потекло до други лични карактеристики и социјални врски – веќе отвора етички дилеми. Тој посочува и дека дел од инженерите ги напуштаат технолошките компании токму поради несогласувања околу начинот на кој се развиваат и применуваат одредени производи. Затоа, според Иванковиќ, вистинската дилема околу вештачката интелигенција не е само дали таа е доволно моќна, туку и кој ја контролира, кој ги поставува правилата и според чии вредности се развива.

Во моментот кога ВИ станува сè поспособна да влијае врз економијата, политиката и критичната инфраструктура, прашањето за нејзината контрола веќе не е само прашање за иднината на технологијата. Тоа станува прашање за тоа каков свет ќе создадеме со неа.

Извор N1