Моќта врз развојот на вештачката интелигенција се концентрира во рацете на мал број луѓе и компании, а одложувањето на новите правила најмногу им одговара на технолошките гиганти и нивните сопственици. На ова предупреди високиот комесар на ОН за човекови права Фолкер Турк пред Советот на ОН за човекови права во Женева.

Турк оцени дека владите мора побрзо да реагираат и да воспостават посилни заштитни механизми, особено во период кога AI системите стануваат сè помоќни.„Мала група луѓе има речиси неограничена моќ врз вештачката интелигенција“, порача Турк, посочувајќи дека зад големите зборови за слободата во технолошкиот сектор може да се крие и нешто друго – користење на личните и други податоци на граѓаните.

Страв од технологија што би можела да излезе од контрола

Комесарот на ОН ја сподели загриженоста на дел од експертите и луѓето од самата AI индустрија дека развојот на напредните системи може да создаде сериозни, па дури и егзистенцијални ризици за човештвото. Тој посочи на сценарија во кои напредни модели би можеле да избегнат ограничувања поставени во нивните безбедносни средини или да се обидат да извршат уцена.

Токму затоа Турк повика на сеопфатен меѓународен напор за воспоставување цврсти правила и заштитни механизми пред технологијата да стане уште потешка за контролирање. „Повикав на сеопфатни напори за воспоставување цврсти гаранции за безбедноста и заштитата на AI, пред да биде предоцна“, порача тој.

Турк најави и дека во наредните денови ќе им се обрати директно на компаниите што развиваат вештачка интелигенција, со повик да преземат конкретни чекори за намалување на ризиците.

Повик за забрана на автономно оружје

Предупредувањата не се однесуваат само на софтверот и податоците. Турк истовремено повика на итна забрана на оружјето што може да одземе човечки живот без директно учество на човек во донесувањето на одлуката. Прашањето за автономното оружје веќе е една од најчувствителните точки во дебатата за иднината на вештачката интелигенција. Развојот на вакви системи отвора прашања за тоа кој е одговорен кога машина самостојно избира и напаѓа цел.

За ОН, според Турк, токму сега е моментот за поставување јасни граници – пред технолошкиот напредок да создаде ситуации во кои правилата ќе бидат многу потешки за воспоставување. Во центарот на предупредувањето е едноставното прашање: кој ќе ја контролира технологијата што сè повеќе влијае врз економијата, безбедноста, информациите и секојдневниот живот – владите и јавноста или мал број моќни технолошки компании и нивните сопственици?