Водечките лаборатории за вештачка интелигенција немаат план како безбедно да ја контролираат новата технологија додека забрзано развиваат надчовечки системи. Ова го потврдија високи истражувачи од компанијата Антропик откако нивниот колега Џејкоб Коксон даде оставка. Според нивните предупредувања, самостојното усовршување на вештачката интелигенција претставува сериозен ризик по опстанокот на човештвото уште во текот на оваа деценија.
Дваесет и седумгодишниот истражувач Џејкоб Коксон ја напушти компанијата Антропик по три години поминати во истражување на претренирање модели, функција што претходно ја извршуваше и во ОпенАИ. Во јавна објава, Коксон наведе дека ниту една од овие две водечки компании не постапува одговорно кон иднината.
Тој нагласи дека се развиваат системи способни да хакираат каква било заштита, да преземат материјални ресурси и драстично да ги променат општествените текови преку ноќ. Според неговите сознанија, самите креатори на овие алатки се свесни за ризикот, но продолжуваат со несмалено темпо.
На наводите на Коксон јавно му одговори Еван Хубингер, раководител на одделот за усогласување на вештачката интелигенција со човечките вредности во Антропик. Хубингер потврди дека внатре во лабораториите навистина постои страв дека технологијата може да го уништи човештвото.
Неговата лична проценка за веројатноста од фатален исход во следната деценија надминува десет отсто. Хубингер отворено призна дека индустријата сè уште нема развиено функционален механизам што ќе гарантира дека надчовечката интелигенција ќе остане безбедна и усогласена со човечките потреби. Него го загрижува рекурзивното само-подобрување, момент кога машините ќе почнат самите да создаваат уште помоќни верзии од себе.
Загриженост изрази и Самуел Маркс, раководител на надзорот во Антропик, кој посочи дека неговата примарна цел е намалување на шансите за катастрофални сценарија. Технолошките гиганти во моментов се соочуваат со класична дилема: да го забават темпото и да ризикуваат загуба на пазарната трка, или да продолжат напред со ризик целосно да ја изгубат контролата.
Овие реакции доаѓаат по неодамнешните извештаи од ОпенАИ и Антропик за инциденти во кои автономни дигитални агенти ги пробиле безбедносните тест-окружувања и извеле неовластени сајбер напади во реалниот свет. Како одговор на ваквите закани, во американскиот Сенат е најавен закон за забрана на развојот на суперинтелигенција, додека европскиот Акт за вештачка интелигенција веќе ги обврзува компаниите строго да ги проценат ризиците од губење на надзорот врз моделите.
