Вештачката интелигенција се развива со толкава брзина што светот наскоро би можел да се соочи со системи кои ќе напредуваат без значителен човечки надзор, предупредува Џек Кларк, еден од основачите на компанијата Anthropic. Во интервју за BBC, Кларк истакна дека индустријата за вештачка интелигенција моментално располага со „папучка за гас“, но нема соодветна „папучка за кочница“ што би овозможила забавување на развојот доколку ризиците станат преголеми.

Брз развој без доволна контрола

„Мора да постои можност да се тргне ногата од гасот и да се притисне кочницата“, изјави Кларк.

Според него, владите и институциите мора да задржат контрола врз AI системите, бидејќи тие стануваат сè помоќни и имаат потенцијал драматично да влијаат врз економијата, општеството и секојдневниот живот. Кларк предупредува дека светот треба навремено да создаде нови регулаторни механизми кои ќе овозможат доверба во технологијата и ќе спречат неконтролирани последици.

Паралела со нафтената индустрија

Објаснувајќи ја својата позиција, Кларк направи споредба со почетокот на нафтената ера во 20 век. Според него, општествата тогаш не го запреле развојот на нафтената индустрија, туку создале регулаторни рамки кои овозможиле користење на придобивките од новата технологија, додека истовремено биле ограничени ризиците.

„На крајот веројатно ќе дојдеме до слично решение и за вештачката интелигенција“, смета тој.

Интересно е што компанијата Anthropic неодамна ја поздрави извршната наредба за вештачка интелигенција на американскиот претседател Доналд Трамп, иако таа не воведува задолжителни државни безбедносни тестирања за AI системите.

AI компаниите не планираат да забават

И покрај предупредувањата, водечките компании во секторот, меѓу кои се OpenAI, Google и Anthropic, не покажуваат намера да ги забават своите истражувања. Anthropic, основана пред пет години од Кларк, извршниот директор Дарио Амодеи и група поранешни вработени во OpenAI, бележи исклучително брз раст.

Според проценките на приватните инвеститори, вредноста на компанијата се приближува до еден билион долари, а се очекува нејзиното излегување на берза да биде меѓу најголемите и највредните иницијални јавни понуди во историјата на технолошкиот сектор.

Anthropic јавно зборува за ризиците

За разлика од многу други компании, Anthropic се позиционира како фирма која отворено зборува за можните опасности од напредната вештачка интелигенција. Компанијата претходно влезе и во јавен спор со американското Министерство за одбрана поради загриженост дека AI алатките би можеле да бидат користени за масовен надзор на граѓаните и за автономни воени системи.

Кларк вели дека нивната цел не е маркетинг или подобрување на имиџот на компанијата.

„Само сакаме да му кажеме на светот што гледаме одвнатре, во компаниите кои ја развиваат оваа необична технологија“, нагласи тој.

Закана за работните места и економијата

Еден од најголемите ризици што ги посочува Кларк е влијанието на AI врз пазарот на труд. Тој предупредува дека новите генерации на AI агенти автономни системи кои можат самостојно да извршуваат задачи би можеле да заменат значителен број работни места. Во последните години големите технолошки компании спроведоа масовни отпуштања, а дел од нив отворено наведоа дека вештачката интелигенција може да ја извршува работата на стотици или илјадници софтверски инженери.

„Постојат огромни придобивки, но постојат и сериозни ризици“, предупреди Кларк.

Креативноста останува човечка предност

И покрај загриженоста, Кларк смета дека луѓето сè уште имаат една клучна предност пред машините – креативноста. Според него, засега нема убедливи докази дека AI системите можат вистински да бидат креативни на ист начин како луѓето.

„Во Anthropic денес повеќе сме ограничени од недостаток на добри идеи отколку од техничката способност тие идеи да се реализираат“, објасни тој.

Неговиот совет до младите е да развиваат љубопитност, широки интереси и критичко размислување, наместо да се натпреваруваат со машините во рутински задачи. „Луѓето кои читаат многу, кои се креативни и размислуваат пошироко, најмногу ќе имаат корист од оваа технологија. Следете ја својата љубопитност тоа ќе ви помогне подобро да ја користите вештачката интелигенција во иднина“, заклучи Кларк.