Лидерите на водечките технолошки компании Опен АИ и Антропик, Сем Алтман и Дарио Амодеи, упатија итен апел до Советот за безбедност на ОН. Тие побараа да се воведат строги меѓународни стандарди за вештачка интелигенција, предупредувајќи дека нејзиниот неконтролиран напредок може сериозно да ја загрози глобалната безбедност и самото човештво.
Овој невообичаен повик од самите креатори на технологијата доаѓа по повеќенеделните глобални барања за забавување на темпото на нејзиниот развој. Ваквите реакции беа иницирани дури и од самите компании, по серијата неодамнешни инциденти во кои автономни агенти излегле од контрола и хакирале системи на други корпорации. За обичниот граѓанин, ова значи дека заканата повеќе не е само научнофантастично сценарио, туку реален ризик за дигиталната безбедност, здравствените системи и личните податоци.
Зошто се неопходни стандарди за вештачка интелигенција?
Сем Алтман пред присутните во ОН истакна дека на светот му е потребен систем за мерење на можностите на технологијата и проценка на нејзините ризици. Тој предложи создавање безбедни канали меѓу владите за брзо споделување информации. Според него, државите мора да учат од малите неуспеси пред тие да прераснат во неповратни катастрофи.
Алтман посебно нагласи дека клучните одлуки треба да ги носат демократски институции кои одговараат пред граѓаните. Ваквиот став сугерира можно исклучување на државите кои самостојно и надвор од демократските процеси развиваат слични технологии, како што е Кина.
Од друга страна, Дарио Амодеи преку видеоврска изнесе три конкретни предлози за глобална соработка. Тој побара забрана за користење на оваа технологија за производство на биолошко оружје, системи за евалуација на националните заложби и заеднички правила за тестирање придружени со систем за пријавување инциденти.
„Верувам дека ова е најважното прашање за глобалната безбедност со кое се соочува светот денес. И покрај сите разлики меѓу луѓето во оваа просторија, мораме да ги оставиме тие разлики настрана“, предупреди Амодеи пред Советот за безбедност.
Помеѓу слеп оптимизам и екстремен песимизам
Иако ризикот од катастрофа е неприфатлив, Алтман смета дека човештвото не смее да западне во стапицата на екстремниот песимизам, ниту пак во слеп оптимизам. Тој се осврна на спротивставените табори што се појавија во индустријата. Едната страна постојано предупредува дека технологијата може да го уништи човештвото, додека другата ги отфрла таквите стравови како претерани и тврди дека ќе следи огромен напредок. Влегувањето во која било од овие крајности нема да помогне успешно да се справиме со предизвиците, потенцираше Алтман.
Според медиумот Мета, од овој состанок на Обединетите нации не се очекува да произлезат конкретни писмени договори во овој момент.
Иако овие стандарди за вештачка интелигенција засега се само на ниво на дискусија, останува клучното прашање за секој од нас: Дали глобалните лидери ќе успеат да воведат контрола пред автономните системи да станат премногу моќни за да бидат запрени?
Извор: Мета
