Компанијата OpenAI, креатор на популарниот ChatGPT, објави оглас за работа каков што ретко се гледа – нуди годишна плата од 555.000 долари за позиција чиј опис на работните обврски може да остави без здив и најхрабрите. Станува збор за улогата „раководител за подготвеност“, чија задача ќе биде одбрана на човештвото од најлошите можни сценарија поврзани со вештачката интелигенција, пишува The Guardian.
Речиси невозможна мисија
Новиот раководител за подготвеност во OpenAI ќе биде директно одговорен за заштита од ризиците што сè помоќните системи на вештачка интелигенција ги претставуваат за менталното здравје, кибер-безбедноста и биолошката безбедност. Но тоа е само почеток, бидејќи успешниот кандидат ќе мора да се справува и со можноста вештачката интелигенција самостојно да се обучува, во услови на стравувања кај дел од експертите дека таа би можела „да се сврти против луѓето“.
„Ова ќе биде стресна работа и веднаш ќе бидете фрлени во оган“, изјави извршниот директор на OpenAI, Сем Алтман, при објавувањето на конкурсот за, како што вели, „критична улога“ која треба „да му помогне на светот“. Работата е толку барачка што некои претходни раководители на слични позиции се задржале само краток период.
Предупредувања од самиот врв на индустријата
Огласот за работа доаѓа во период кога предупредувањата за опасностите од напредната технологија пристигнуваат од самата технолошка индустрија. Мустафа Сулејман, извршен директор на Microsoft AI, изјави за BBC: „Искрено мислам дека ако во овој момент не чувствувате барем мала загриженост, тогаш не обрнувате внимание“.
Сличен став има и Демис Хасабис, добитник на Нобеловата награда и коосновач на Google DeepMind, кој овој месец предупреди на ризикот вештачката интелигенција „да излезе од контрола на начин што може да му наштети на човештвото“.
Регулаторен „див запад“
И покрај растечките опасности, регулацијата на вештачката интелигенција на национално или меѓународно ниво речиси и да не постои, делумно и поради отпорот од администрацијата на Доналд Трамп. Јошуа Бенџио, еден од „кумовите на вештачката интелигенција“, неодамна сликовито ја опиша состојбата: „Сендвич има повеќе регулација од вештачката интелигенција“. Во пракса, тоа значи дека технолошките компании главно се саморегулираат.
При најавата за новиот оглас, Алтман на платформата X напиша дека OpenAI има солидна основа за мерење на растечките способности на AI, но дека влегува во фаза каде е потребно подлабоко и понуансирaно разбирање на можните злоупотреби и начини за нивно ограничување. „Овие прашања се тешки и постојат малку преседани“, наведе тој.
Реални ризици и сериозни последици
Дека заканите не се само теоретски, покажуваат и неодамнешни настани. Конкурентската компанија Anthropic минатиот месец извести за првите кибер-напади во кои вештачка интелигенција делувала речиси автономно при пробивање на безбедносни системи.
OpenAI овој месец призна дека нивниот најнов модел е речиси трипати поуспешен во хакерски активности во споредба со пред три месеци и дека очекуваат овој тренд да продолжи. Во исто време, компанијата се соочува и со судски постапки поврзани со сериозни последици по корисници. Од OpenAI соопштија дека ваквите случаи се „длабоко потресни“ и дека работат на подобрување на обуката на ChatGPT, со цел подобро да препознава знаци на ментален или емоционален стрес и да ги насочува луѓето кон соодветна поддршка
