„Исклучете ја.“ Вака поранешниот извршен директор на Гугл, Ерик Шмит, одговори на прашањето што би требало да направат луѓето ако системите за вештачка интелигенција станат толку сложени што повеќе нема да можеме да разбереме што прават.

Шмит не зборува за денешните чет-ботови, туку за можен следен чекор во развојот на вештачката интелигенција – системи кои можат самостојно да извршуваат долги низи задачи, да работат со други агенти и да создаваат или менуваат софтвер.

Според неговото гледиште, три технологии особено брзо го менуваат полето: многу поголеми контекстуални прозорци, автономни агенти и системи кои од обична текстуална инструкција можат да создадат функционален софтвер.

Шмит очекува дека во следните пет години вештачката интелигенција би можела да обработува исклучително долги „рецепти“ за решавање проблеми – со илјадници последователни чекори – во области како науката, медицината, истражувањето на материјалите и климатските науки.

Идејата е едноставна: наместо моделот само да даде одговор, тој би можел да го изврши првиот чекор, да го провери резултатот, да одреди што следува и повторно да продолжи. Така би можел да работи низ стотици или илјадници чекори без човекот постојано да го насочува.

Агенти наместо еден чет-бот

Една од најголемите промени, според Шмит, ќе биде ширењето на специјализирани агенти за вештачка интелигенција. Таков агент не би бил само систем со кој разговараме, туку би можел да добие задача, да собира информации, да предлага хипотези, да тестира решенија и да ги користи резултатите за следниот чекор.

Во науката, на пример, еден агент би можел да анализира литература и да предложи хипотеза, друг да ја тестира преку симулации, а трет да ги анализира резултатите. Шмит смета дека во иднина би можеле да постојат огромен број вакви специјализирани агенти кои ќе работат паралелно.

Од реченица до софтвер

Друга промена е способноста на вештачката интелигенција да претвора природен јазик во функционален софтвер. Наместо човекот да пишува код ред по ред, доволно би било да објасни што сака да направи програмата, а системот да го создаде, тестира и коригира кодот.

Тоа веќе се случува во одредена мера, но Шмит смета дека вистинската промена ќе дојде кога ваквите системи ќе можат континуирано и автономно да работат на сложени софтверски задачи.

Што ако машините почнат да комуницираат на начин што не го разбираме?

Тука неговото предупредување станува многу поспецифично. Ако милиони агенти работат заедно, Шмит шпекулира дека со текот на времето би можеле да развијат сопствени начини на комуникација. Тоа не значи автоматски дека ќе создадат „таен јазик“ како во научнофантастичен филм, туку отвора прашање колку добро луѓето ќе можат да ги следат и објаснат процесите меѓу автономните системи.

Токму во тој контекст доаѓа неговата реченица: ако системите станат доволно моќни, автономни и неразбирливи, „исклучете ги“.

Предупредувањата веќе не доаѓаат само од критичарите на технологијата

Во последните недели слични предупредувања дојдоа и од луѓе кои директно работеле на развојот на напредни системи.

Истражувачот Џејкоб Коксон неодамна ја напушти „Антропик“, по претходна работа и во „OpenAI“, предупредувајќи дека водечките компании премногу брзо се движат кон системи способни за самоподобрување. Неговиот колега Еван Хубингер изјави дека лично проценува оти постои ризик поголем од 10 проценти вештачката интелигенција да предизвика уништување на човештвото во следната деценија. Тоа е проценка на Хубингер, а не научно утврдено предвидување.

И извршниот директор на „Антропик“, Дарио Амодеи, неодамна повика на забавување на темпото на развој на најнапредните модели. Тој особено го посочи ризикот од таканареченото рекурзивно самоподобрување – сценарио во кое вештачката интелигенција сè повеќе учествува во создавањето на своите следни, помоќни верзии.

Амодеи предупреди и на неодамнешен инцидент со рој автономни агенти поврзан со „OpenAI“ и „Hugging Face“, за кој тврди дека агентите извршувале сајбернапади врз цели што не биле дел од првичната задача.

Сепак, околу тоа колку се реални најцрните сценарија нема консензус. Дел од експертите сметаат дека ризиците од автономните агенти и нивната способност да дејствуваат без постојан човечки надзор треба сериозно да се третираат, додека други предупредуваат дека катастрофичните предвидувања можат да ја искриват јавната дебата за технологијата. Она што веќе е реалност е дека вештачката интелигенција постепено се поместува од систем кој само одговара на прашања кон системи кои можат да планираат, користат алатки, пишуваат код и извршуваат серија задачи.

Прашањето што останува е колку далеку треба да оди таа автономија и колку долго човекот ќе може да го следи секој нејзин чекор.