Стравот дека вештачката интелигенција може да излезе од човечка контрола прераснува во една од најголемите светски теми. Во центарот на новата дебата е Џејкоб Коксон, 27-годишен истражувач кој ја напушти компанијата Anthropic и јавно предупреди дека продолжувањето на сегашната трка може да има катастрофални последици.
„Верувам дека, ако не забавиме со сегашното темпо на напредок, постои голема шанса сите да умреме во блиска иднина“, изјави Коксон во интервју за Би-би-си.
Неговата објава за заминувањето од Anthropic стана вирална и беше споделена милиони пати на социјалните мрежи. Коксон претходно работел и во OpenAI, а сега тврди дека стравот што го опишува не е изолиран ниту ограничен на неколкумина критичари.
Според него, луѓето што директно работат на најмоќните системи за вештачка интелигенција се „вистински исплашени“ од можниот исход на трката.
„Заробени се во трка од која се плашат“
Коксон вели дека истражувачите во водечките компании искрено бараат регулација затоа што се чувствуваат заробени во натпревар во кој никој не сака прв да забави.
„Луѓето што работат во овие компании се целосно сериозни кога бараат регулација, бидејќи се заробени во трка. И се плашат од исходот на таа трка“, вели тој.
Дел од вработените, според неговото сведоштво, веќе размислуваат како брзиот развој на ВИ ќе им го промени животот. Некои дури размислувале да купат земјиште на изолирани места поради страв од нестабилност предизвикана од технологијата.
Коксон проценува дека сценарио во кое голем број автономни ботови ќе дејствуваат како поврзан суперкомпјутер и ќе преземат делови од интернетот би можело да стане реално во период од шест месеци до една година. Тоа е негова проценка, а не утврден рок или научен консензус.
Повикот за забавување стигна од самиот врв
Неговото предупредување доаѓа во момент кога и директорот на Anthropic, Дарио Амодеи, повика развојот на најмоќните системи да биде забавен. Амодеи оцени дека ризиците се „сериозни“ и дека на компаниите и владите мора да им се остави време да воспостават заштитни механизми.
Според Би-би-си, со потребата од координирано забавување, регулација и независен надзор се согласиле и директорот на OpenAI, Сем Алтман, како и Илон Маск, кој ја води конкурентската компанија xAI.
Коксон смета дека ваквиот договор би морал да ја вклучи и Кина. Еднострано забавување на американските компании, без меѓународна координација, според него, само би ја префрлило трката на глобално ниво.
Anthropic соопшти дека отсекогаш била отворена за огромните придобивки, но и за досега невидените ризици што ги носи вештачката интелигенција. Компанијата наведува дека нејзините модели минуваат низ строги безбедносни тестирања и дека резултатите се објавуваат за да се овозможи надворешна проверка.
Во април Anthropic го задржа моделот Mythos надвор од јавна употреба откако било утврдено дека може самостојно да излезе од контролираната тест-средина. OpenAI, исто така, соопшти дека запрела делови од развојот на моделот Astra поради загриженост поврзана со кибербезбедноста.
Дел од индустријата тврди дека се создава паника
Предупредувањата предизвикаа и силна реакција во Силициумската долина. Директорот на платформата Hugging Face, Клеман Деланг, го доведе во прашање авторитетот на Коксон да проценува ризик од исчезнување на човештвото, иако подоцна понуди да помогне во изработката на можните решенија предложени од Амодеи.
Директорот на Nvidia, Џенсен Хуанг, претходно ја нарече идејата дека вештачката интелигенција ќе му стави крај на човештвото „целосна бесмислица“. Критичарите се сомневаат и дека најголемите компании ги нагласуваат опасностите за да издејствуваат регулатива што ќе им ја отежне конкуренцијата на помалите играчи.
Сепак, загриженоста постои и меѓу активните истражувачи во Anthropic. Научникот Еван Хубингер јавно го поддржа Коксон и напиша дека навистина верува оти ВИ би можела да ги убие сите луѓе. Неговата лична проценка е дека веројатноста за таков исход во следната деценија е поголема од 10 проценти.
Истите луѓе што предупредуваат на опасностите продолжуваат да зборуваат и за потенцијалните придобивки, од лекување болести до подобрување на животот. Прашањето што сега се отвора на глобално ниво е дали владите ќе постават правила пред системите да станат премногу моќни за контрола.
Извор: BBC News
