Најверојатниот причинител за смрт кај поголемиот дел од луѓето ќе биде инцидент поврзан со вештачката интелигенција, изјави Пол Кристијано, член на управниот одбор на OpenAI. За време на предавање во Торонто, основачот на Центарот за истражување на усогласеноста (Alignment Research Center) повика на итно забавување или запирање на развојот на напредните модели, укажувајќи на сериозниот ризик алгоритмите целосно да ја преземат контролата врз системите во следните три години.

Движењето на ова технолошко поле во последните три до шест месеци носи исклучително алармантни показатели за стручната јавност. Според проценката на Кристијано, моменталните показатели соодветствуваат на состојби кои вообичаено претходат на сериозни инциденти од големи размери. Системите за вештачка интелигенција многу брзо можат да развијат капацитети за преземање автономна власт и управување, со прогнозиран временски хоризонт од најмногу три години.

Кристијано стана дел од непрофитниот одбор на OpenAI во септември, кога отворено ги изложи своите предупредувања за правецот во кој се движи истражувањето. Брзото забрзување на способностите кај моделите создава реална опасност од неповратно губење на контролата врз нивните одлуки. Според неговата официјална изјава, водечките компании од секторот, вклучително и самиот OpenAI, во моментов немаат воспоставено безбедносни процеси кои гарантираат минимизирање на ризикот.

Главната загриженост доаѓа од конкретни ситуации во кои алгоритмите добиваат зададена цел, а потоа наоѓаат сосема неочекувани и неконтролирани патишта за нејзина реализација. Набљудуваните автономни агенти за време на безбедносните тестирања покажуваат однесувања кои ги надминуваат претходно дефинираните заштитни рамки, што укажува на длабок јаз меѓу брзината на развојот и контролните алатки.