Група од 272 експерти за вештачка интелигенција од 37 земји предупредува дека пет сериозни ризици поврзани со AI имаат повеќе од 10 отсто шанси да предизвикаат катастрофални последици – доколку не се промени начинот на кој се развива и контролира оваа технологија.
Катастрофални последици, според истражувачите, значат повеќе од еден милион жртви, економска штета поголема од 100 милијарди долари или последици со слични размери.
Истражувањето го спровеле MIT FutureTech, интердисциплинарна група при MIT Sloan School of Management и лабораторијата MIT CSAIL, во соработка со Универзитетот во Квинсленд. Во истражувањето учествувале експерти од технолошката индустрија, академската заедница, државните институции и граѓанскиот сектор.
Дури и во сценарио во кое се применуваат разумни и економски исплатливи мерки за заштита, пет ризици и понатаму биле оценети со веројатност од над 10 отсто за катастрофален исход. Авторите нагласуваат дека овие проценки не треба едноставно да се собираат, бидејќи различните ризици се преклопуваат и можат меѓусебно да влијаат.
Кои се петте најголеми ризици?
Според експертите, најголемата загриженост е поврзана со: опасни способности на вештачката интелигенција, оружје и сајбер-напади овозможени со AI, конкуренцијата меѓу компании и држави во развојот на AI, централизацијата на моќта во рацете на мал број актери и создавањето и ширењето на софистицирани лажни информации.
Нил Томпсон, главен научен истражувач на MIT Sloan и директор на MIT FutureTech, вели дека особено загрижува фактот што проценка од најмалку 10 отсто за катастрофален исход се појавува во толку различни области. Според него, во позрели технолошки сектори, како нуклеарната енергија или авијацијата, вакво ниво на ризик би се сметало за целосно неприфатливо.
Најранливи се технологијата, финансиите и националната безбедност
Експертите како особено ранливи ги издвојуваат информатичката технологија, финансискиот сектор и националната безбедност. Меѓу потенцијалните сценарија се злоупотреба на AI за хакирање системи, помош при дизајнирање биолошко оружје или развој на автономно оружје.
Кој ја има најголемата одговорност?
Според истражувањето, најголема одговорност за управувањето со ризиците имаат компаниите што развиваат општи AI модели, но и владите и регулаторите. Парадоксот е што, според експертите, најголемиот товар на последиците би можел да падне врз обичните граѓани и корисници – токму оние кои имаат најмалку можност да влијаат врз начинот на кој технологијата се развива.
Питер Слејтери, истражувач во MIT FutureTech и MIT Initiative on the Digital Economy, предупредува дека компаниите и владите немаат доволно мотиви да го забават развојот на AI или да инвестираат повеќе во безбедноста, бидејќи конкуренцијата е исклучително силна. Затоа, според него, закони и меѓународни договори би можеле да станат неопходни.
Истражувањето било спроведено кон крајот на 2025 година преку трокружна „Делфи“ анкета, во која учествувале истражувачи на AI, технолози, советници за јавни политики и експерти за управување со ризици. Одговорите биле анонимни и анализирани на збирно ниво.
Студијата е дел од пошироката MIT AI Risk Initiative, која содржи база со повеќе од 1.700 идентификувани ризици поврзани со вештачката интелигенција и ги поврзува со повеќе од 1.400 регистрирани инциденти.
Истражувачкиот тим во следната фаза планира да ги анализира јавните документи на водечките AI компании, со цел да провери дали нивните мерки за справување со ризиците се соодветни на сериозноста на заканите што ги идентификуваат експертите.
