Оно што неодамна звучеше како научна фантастика, стана сериозна тема меѓу луѓето кои ги развиваат најнапредните модели. Џејкоб Коксон, истражувач со тригодишно искуство во OpenAI и Anthropic, поднесе оставка и предупреди на сериозни егзистенцијални ризици. Тој изјави дека компаниите неодговорно се тркаат за развој на суперинтелигенција и дека постои реална опасност технологијата да ги надмине сите човечки способности. Неговото предупредување го истакна прашањето за контролата врз вештачката интелигенција како водечка глобална тема.
Опасноста не лежи во сегашните јазични модели, туку во можноста нов систем рекурзивно да се самоподобрува. Доколку тој процес стане доволно брз, луѓето целосно ќе ја изгубат контролата врз темпото на развој. Еван Хубингер од Anthropic ја поддржа оваа загриженост, проценувајќи дека постои значајна веројатност за катастрофални последици во следните десет години. Тој призна дека индустријата сè уште нема сигурно техничко решение за одржување на суперинтелигентните системи под човечка контрола.
Повик за забавување и трка за технолошка доминација
Директорот на Anthropic, Дарио Амодеи, исто така ги потврди сериозните ризици и повика на итно забавување на развојот. Тој предложи стратегија која вклучува независен надзор, заеднички безбедносни стандарди за сите компании и меѓународна координација. Водечки фигури од индустријата изразија поддршка за ваквите чекори, додека критичарите предупредуваат дека ваквите изјави служат и како маркетиншка стратегија. Според одделни економски аналитичари, ширењето страв од апокалипса може да се користи за истиснување на конкуренцијата и за заштита на високите пазарни вредности.
Паралелно со овие дебати, политичките лидери во САД заземаат поинаков став. Доналд Трамп изјави дека нема загриженост за апокалиптични сценарија, туку дека примарна цел мора да биде победата во глобалната технолошка трка. Неговата администрација истакнува дека САД мора да ја оддржат водечката позиција во однос на Кина од причини на национална безбедност. Сличен став имаат и други американски претставници, кои предупредуваат дека прераната регулација може да ја угуши домашната иновација.
Кинескиот пристап и потребата од заштитен механизам
За разлика од САД, Кина покажува многу повнимателен пристап кон автономијата на овие системи. Кинеските власти уште претходно ги вклучија сценаријата за губење контрола во своите официјални безбедносни рамки. Тие предупредуваат дека ненагледуваниот развој може да доведе до ширење дезинформации и автономно дејствување на машините. Сепак, Кина истовремено работи на интензивен развој за да ја достигне американската предност во оваа клучна област.
Во фокусот на стручните дебати сè повеќе се наоѓа потребата од посебен заштитен механизам за итно исклучување. Доколку идната суперинтелигенција биде распоредена на илјадници сервери низ светот, обичната команда за гасење нема да биде доволна. Истражувачите нагласуваат дека е неопходно да се создадат надворешни системи кои можат сигурно да ја прекинат работата на машината дури и ако таа се обиде да се заштити. Сепак, отворено останува прашањето кој меѓународен орган би имал овластување да го активира тој систем.
