Трката кон сè помоќна вештачка интелигенција влезе во нова фаза: дел од највлијателните луѓе во индустријата сега предупредуваат дека технологијата напредува побрзо отколку што компаниите можат да ги разберат и контролираат нејзините ризици. Извршниот директор на „Антропик“, Дарио Амодеи, повика развојот на најнапредните системи да се забави, а неговиот предлог доби поддршка од Сем Алтман од „Опен еј-ај“ и Илон Маск.
Предупредување од самиот врв на индустријата
Амодеи во својот нов есеј „We Must Pace the Frontier“ предупредува дека компаниите не треба само да се натпреваруваат кој побрзо ќе создаде помоќен модел, туку паралелно да обезбедат и механизми со кои ќе можат да ги следат неговите способности.
Според него, проблемот станува особено сериозен бидејќи новите модели сè повеќе можат да помагаат во развојот на нивните наследници. Тоа би можело дополнително да го забрза технолошкиот напредок и да го скрати времето што истражувачите го имаат за да ги откријат и отстранат ризиците.
Амодеи предлага компаниите што развиваат најнапредни системи да овозможат независни надворешни оценувачи да имаат траен пристап до нивните системи и процеси за безбедносна проценка. „Антропик“ веќе најави дека ќе го спроведе овој модел.
Што ги исплаши истражувачите?
Загриженоста не доаѓа само од теоретски сценарија. Во последните месеци се регистрирани случаи во кои ВИ системи покажале способности што предизвикале дополнителни безбедносни проверки. Самата „Антропик“ неодамна објави анализа на четири инциденти во кои нејзини модели добиле неовластен пристап до реални системи на трети страни. Компанијата соопшти дека анализирала стотици милиони записи за да ги идентификува можните пропусти.
„Опен еј-ај“, пак, претходно овој месец соопшти дека нивниот модел „Астра“ достигнал ниво на сајбер-безбедносни способности што го класифицираат како критично. Компанијата наведе дека моделот може да идентификува непознати безбедносни слабости и да развива начини за нивно искористување во добро заштитени системи, поради што делови од неговиот развој и пуштање биле одложени додека се зајакнувале заштитните механизми.
Не се бара целосно запирање на ВИ
Предлогот на Амодеи не значи дека компаниите треба да престанат да развиваат ВИ. Суштината е во контролирање на брзината со која се зголемуваат способностите на најмоќните модели. Тој предлага три насоки: независен надзор врз најнапредните системи, заеднички безбедносни стандарди меѓу демократските држави и меѓународна координација околу најопасните можни употреби на ВИ.
„Антропик“ веќе го прифати првиот дел од планот, со најавата дека независни оценувачи ќе добијат траен пристап до компанијата, со можност самостојно да ги проверуваат безбедносните практики и да известуваат за инциденти. Сем Алтман изрази поддршка за идејата, додека Маск оцени дека меѓусебната проверка меѓу водечките компании би била корисна.
Вашингтон не сака да ја загуби трката со Кина
Тука се појавува најголемиот политички проблем. Додека дел од технолошката индустрија зборува за кочници, американската администрација стравува дека забавувањето би можело да им даде предност на кинеските компании. Претседателот Доналд Трамп неодамна отфрли повици за значително забавување на развојот на ВИ, нагласувајќи дека САД мора да ја задржат предноста пред Кина. Според неговата позиција, ВИ е и економско и стратешко прашање, па Вашингтон не сака американските компании да се воздржуваат додека конкурентите продолжуваат со развојот.
Ова создава необична ситуација: дел од најголемите компании во ВИ предупредуваат дека трката може да стане опасна, додека политичкиот врв истовремено инсистира дека САД не смеат да ја забават трката.
Безбедноста станува и економско прашање
Дилемата не е само технолошка. ВИ индустријата е поврзана со огромни инвестиции во чипови, дата-центри и облачна инфраструктура. Секое сериозно забавување би можело да влијае врз компаниите што се обложија дека потребата од компјутерска моќ ќе продолжи да расте.
Но, постои и спротивен ризик: доколку се појави сериозен инцидент со автономен ВИ систем, последиците би можеле да бидат многу поскапи од привременото забавување на развојот. Затоа прашањето што сега се поставува во Силициумската долина не е едноставно дали ВИ треба да продолжи да се развива. Прашањето е колку брзо треба да се развива технологија чии способности веќе почнуваат да ги надминуваат механизмите создадени за нејзино контролирање.
И токму тука се судираат двете логики: едната вели дека ВИ мора да се развива внимателно за да остане безбедна, а другата дека оној што прв ќе стигне до најмоќната технологија ќе има огромна економска и геополитичка предност.
