„Светот со право се плаши“ од можноста вештачката интелигенција да стекне преголема моќ, изјави извршниот директор на „Опенаи“, Сем Алтман, на конференцијата „Дримфорс“ во Сан Франциско. Алтман, сепак, истовремено порача дека верува оти компаниите што ја развиваат технологијата можат одговорно да управуваат со нејзиниот развој и без да чекаат нови закони.

Неговите изјави доаѓаат во момент кога во технолошкиот сектор се засилува дебатата за тоа колку брзо треба да се развива напредната ВИ и кој треба да поставува граници за нејзината употреба.

„Не ни треба толку имагинација за да замислиме што може да тргне наопаку“

Алтман призна дека загриженоста на јавноста е оправдана, особено поради тоа што способностите на ВИ системите напредуваат многу брзо. Тој посочи дека денес веќе не е потребно да се замислуваат далечни и хипотетички сценарија за да се согледаат потенцијалните опасности. Во исто време, шефот на „Опенаи“ побара јавноста да има доверба во компаниите што ја развиваат технологијата.

Според него, тие имаат одговорност да обезбедат дека безбедноста и усогласеноста на системите со човечките вредности ќе останат пред нивните способности. Алтман додаде дека доколку компанијата не може да гарантира безбедност, треба да го забави развојот или да запре со пуштањето на одредени системи.

По предупредувањата – нова поделба во ВИ индустријата

Последната дебата беше поттикната и од предупредувањата на Дарио Амодеи, извршен директор на „Антропик“, кој повика на забавување на развојот на најнапредните ВИ системи и на воведување посилни безбедносни механизми.

На „Дримфорс“ Амодеи повторно ја нагласи потребата од заеднички стандарди и подобар надзор врз технологијата. Тој предложи компаниите да имаат независни проценители кои би можеле да ги следат нивните безбедносни практики. Алтман поддржа дел од овие идеи, но истовремено нагласи дека компаниите не треба да чекаат регулаторите за да преземат мерки за безбедност.

„Опенаи“, „Антропик“ и „Гугл Дипмајнд“ во меѓувреме разговараат за заеднички пристап кон безбедноста на напредната ВИ, вклучително и можност за доброволни индустриски стандарди.

Хуанг: Не ни требаат нови закони

На истата конференција, извршниот директор на „Нвидиа“, Џенсен Хуанг, зазеде поинаков став. Хуанг рече дека безбедноста е пред сè инженерски проблем и дека компаниите не треба да пуштаат производи доколку не се уверени дека се безбедни. Но, според него, за тоа не се потребни нови закони и регулативи. Тој смета дека пазарните механизми и одговорноста на самите компании можат да бидат доволни за спречување на небезбедни производи.

Така, во рамките на еден ист технолошки сектор се издвојуваат различни пристапи: од повици за забавување и координирани безбедносни стандарди, до став дека развојот треба да продолжи со високо ниво на претпазливост, но без нова државна регулатива.

Кој треба да ја контролира ВИ?

Прашањето станува сè посложено бидејќи компаниите истовремено се натпреваруваат во развојот на сè помоќни модели, а јавноста и институциите бараат поголема сигурност дека технологијата нема да биде злоупотребена. Алтман вели дека компаниите имаат и интерес и одговорност сами да спречат штетни последици. Но, дел од експертите предупредуваат дека саморегулацијата остава премногу важни одлуки во рацете на компаниите што директно имаат комерцијален интерес од развојот на технологијата.

Во меѓувреме, разговорите меѓу „Опенаи“, „Антропик“ и други компании за заеднички безбедносни стандарди продолжуваат. Дебатата, сепак, веќе не е само дали вештачката интелигенција ќе стане помоќна. Сè поважно прашање е кој ќе одлучува колку брзо ќе се развива – самите компании, државите или комбинација од двата пристапа.