Главниот извршен директор на Нвидиа, Џенсен Хуанг, смета дека вештачката интелигенција сама по себе не претставува егзистенцијална закана за човештвото, но истовремено испрати остра порака до компаниите што развиваат ВИ: ако не можат да ги контролираат своите производи и да ги решат безбедносните проблеми, не треба да ги пуштаат на пазарот.

„Секој проблем мора да биде решен пред производот да стане достапен за јавноста. Ако проблемот не може да се реши, производот едноставно не треба да биде објавен“, е суштината на неговиот став.

Хуанг ова го објасни преку пример со автономните возила.

„Не знаеме како да го решиме проблемот? Не го пуштајте автомобилот“

Според Хуанг, компаниите денес се соочуваат со фундаментална разлика меѓу традиционалниот софтвер и системите што се обучуваат со огромни количества податоци.

„Ако градите автономно возило да речеме роботакси и се соочите со исклучително тешки услови, како инженери едноставно немаме поим како да го решиме тој проблем, бидејќи автомобилите не се програмираат, туку се обучуваат“, објасни тој во интервјуто за емисијата „Шоуто на Езра Клајн“.

Неговиот заклучок е едноставен: ако не знаете како да обезбедите безбедно функционирање на системот, не го пуштајте во сообраќај. Истата логика, според него, треба да важи и за генеративната ВИ.

Одговорноста е кај компаниите

Хуанг се осврна и на предупредувањата за автономни ВИ агенти кои би можеле да извршуваат огромен број задачи без директна човечка контрола. Како пример го посочи предупредувањето на извршниот директор на Антропик, Дарио Амодеи, за можноста големи „роеви“ ВИ агенти да создадат сериозни ризици. Хуанг не вели дека ваквите ризици треба да се игнорираат. Напротив, неговиот аргумент е дека одговорноста за нивното решавање мора да остане кај луѓето и компаниите што ги развиваат системите.

„Тоа се компании кои носат одлуки и имаат моќ да дејствуваат. Тоа се извршни директори кои имаат моќ да одлучуваат“, рече Хуанг.

Според него, доколку директорот процени дека производот не е безбеден, тој има и овластување и мотив да го одложи неговото пуштање.

Хуанг не сака забавување на целата ВИ индустрија

Овој став се надоврзува на неговата поширока позиција дека безбедноста мора да оди паралелно со брзиот развој на ВИ, но дека тоа не значи автоматски запирање на технолошкиот напредок. Наместо да се создава посебен закон за секој нов проблем поврзан со ВИ, Хуанг смета дека во многу случаи треба да се применат постојните правила – од одговорност на компаниите до прописите за сајбер-безбедност.

Неговата логика е дека компанијата не треба да биде ослободена од одговорност само затоа што штетата ја предизвикал ВИ систем, наместо традиционален софтвер или друг производ.

Нвидиа има огромен интерес во ВИ бумот

Изјавите на Хуанг доаѓаат во момент кога Нвидиа е еден од клучните играчи во глобалната ВИ индустрија. Нејзините процесори се користат во инфраструктурата на која се обучуваат и работат најголемите ВИ модели, а огромната побарувачка за чипови ја направи компанијата една од највредните технолошки компании во светот. Затоа ставот на Хуанг има и јасна деловна димензија: иднината на ВИ индустријата директно влијае врз бизнисот на Нвидиа.

Хуанг, сепак, тврди дека токму поради тоа безбедноста не смее да биде занемарена. Ако ВИ производите почнат да предизвикуваат сериозна штета, последиците ќе ги почувствуваат и компаниите што заработуваат од нив.

ВИ бара и огромна инфраструктура

Хуанг зборуваше и за друг проблем што станува сè повидлив со ширењето на ВИ – огромната количина електрична енергија и вода потребна за изградба и работа на центрите за податоци. Новите ВИ центри бараат голема компјутерска моќ, електрична енергија и системи за ладење. Поради тоа, во дел од локалните заедници расте отпорот кон изградбата на нова инфраструктура.

Хуанг признава дека технолошката индустрија не секогаш разговарала доволно рано со луѓето во местата каде што се планирале вакви проекти. Но, и покрај сите овие ризици, неговата порака останува иста: проблемите со ВИ треба да се решаваат конкретно и пред производите да стигнат до јавноста, наместо стравот од најцрните сценарија да стане причина за запирање на целата индустрија.