Вештачката интелигенција мора да остане под човечка контрола, а најмоќните модели да бидат предмет на меѓународен надзор, тестирање и независна проверка – бара група држави во декларација усвоена на маргините на Генералното собрание на Обединетите нации во Њујорк.

Идејата оди значително подалеку од досегашните повици компаниите доброволно да се однесуваат одговорно.

Потписниците предлагаат да се разгледа создавање меѓународна институција за надзор на најнапредните модели на вештачка интелигенција, која би можела да поставува стандарди, да овозможува независна верификација и да ги собира државите кога AI системите ќе преминат одредени прагови на способности.

Финскиот претседател Александар Стуб, еден од иницијаторите на декларацијата, објасни дека една од можните инспирации е Меѓународната агенција за атомска енергија – IAEA, односно глобално тело кое би воспоставувало правила и надзор над технологија чиј ризик не запира на државните граници.

„Луѓето мора да ја имаат последната одлука“

Во декларацијата се признава огромниот потенцијал на вештачката интелигенција – од развојот на науката и медицината до продуктивноста и економијата.

Но истовремено се предупредува дека брзиот развој на таканаречените frontier AI модели, најнапредните системи што ги развиваат водечките лаборатории, може да создаде сериозни безбедносни ризици доколку нивниот развој не биде контролиран.

Основното барање е едноставно: вештачката интелигенција мора да остане под човечко насочување, надзор и контрола и да се развива во согласност со меѓународното право.

Тоа би значело и многу построги правила за компаниите што ги создаваат најмоќните модели.

Од нив се бара да воспостават транспарентни безбедносни протоколи, задолжително тестирање пред пуштање на моделите во употреба и независни процени на ризикот од квалификувани надворешни експерти.

Владите, пак, треба да договорат заеднички стандарди и механизми преку кои сериозните безбедносни инциденти поврзани со AI би се пријавувале и споделувале меѓународно.

Од биолошко оружје до автономни напади

Стуб ги посочи и сценаријата поради кои иницијаторите сметаат дека националните закони можеби нема да бидат доволни.

Меѓу нив се употребата на вештачка интелигенција за развој на биолошко оружје, автоматизирани сајбернапади изведувани од AI агенти и оружени системи способни самостојно да изведуваат смртоносни операции.

Токму затоа иницијативата се обидува контролата врз најмоќните AI системи да ја постави како меѓународно, а не само национално прашање.

Слична логика одамна постои кај нуклеарната технологија: една држава може да има свои закони и институции, но последиците од опасен инцидент не мора да останат во нејзините граници.

Но ги нема САД и Кина

Најголемиот проблем за иницијативата е очигледен.

Меѓу потписниците не се САД и Кина – двете земји што се наоѓаат во центарот на глобалната трка за развој на најмоќните AI системи.

Не се приклучија ниту повеќе други големи технолошки и индустриски држави, меѓу кои Велика Британија, Франција, Италија, Индија и Јапонија.

Стуб сепак смета дека глобалните безбедносни механизми на крајот се и во интерес на Вашингтон и Пекинг.

Без учество на најголемите центри за развој на AI, меѓународната институција тешко би можела да има вистинска контрола врз технологијата што треба да ја надгледува.

Не бараат запирање на развојот на ВИ

Декларацијата, сепак, не предлага мораториум или запирање на развојот на напредната вештачка интелигенција.

Пристапот е поинаков: развојот да продолжи, но со правила, независна проверка и механизми што би требало да спречат најопасните способности да бидат развивани и пуштани во употреба без надзор.

Тоа ја отвора и суштинската политичка дилема што допрва ќе станува поголема.

Кој ќе одлучува кога еден модел станал премногу моќен? Кој ќе има право да го тестира? Колкав пристап до технологијата ќе мора да дадат приватните компании? И што ќе се случи ако некоја држава или компанија едноставно одбие да ги почитува правилата?

Генералниот секретар на ОН Антонио Гутереш ја поздрави иницијативата и повика државите да ги надградат постојните меѓународни механизми и да ја разгледаат можноста за институција што ќе поставува стандарди и ќе овозможува проверка.

Досегашната глобална трка во вештачката интелигенција главно се водеше околу прашањето кој прв ќе создаде помоќен модел.

Со оваа иницијатива на масата сè поотворено се поставува друго прашање:

што ќе правиме кога моделите ќе станат доволно моќни што повеќе нема да биде паметно нивната контрола да ја оставиме само на компаниите што ги создаваат?