Развојот на вештачката интелигенција нема да помине без сериозни последици, а дел од нив можеби нема ни да можат целосно да се спречат. Тоа е една од најдиректните пораки што неодамна ги испрати извршниот директор на ОпенАИ, Сем Алтман, кој смета дека светот ќе мора да прифати одредено ниво на штета ако сака да ги искористи огромните потенцијални придобивки од ВИ.
Во подкастот „Декодед“ на „Политико“, Алтман зборуваше за ризиците што ги носи забрзаниот развој на технологијата и призна дека меѓу нив ќе има хакерски напади, измами и други форми на злоупотреба. Неговата проценка е дека луѓето со помош на ВИ ќе направат многу повеќе корисни работи, но дека тоа не значи дека негативните последици ќе исчезнат.
Токму прифаќањето на одредено ниво на ризик, според Алтман, е една од важните разлики меѓу ОпенАИ и конкурентот Антропик. Двете компании се создадени во различни околности, но дел од основачите и вработените во Антропик претходно работеле во ОпенАИ и заминале по несогласувања околу пристапот кон безбедноста на ВИ.
Колку треба да биде регулирана ВИ?
Иако ОпенАИ генерално се залага за полиберален регулаторен пристап кон развојот на вештачката интелигенција, Алтман не смета дека технологијата треба да биде оставена без правила. Тој ја опишува позицијата на компанијата како еден вид прагматичен центар меѓу Антропик, кој зазема повнимателен пристап, и оние кои се залагаат за речиси целосно нерегулиран развој.
Алтман предупредува дека премногу строги правила би можеле да имаат и спротивен ефект од посакуваниот. Ако регулацијата стане премногу ограничувачка, огромната моќ што ја носи ВИ би можела да се концентрира во рацете на само неколку компании, поединци или една држава.
Тоа ја отвора една од најважните дилеми во моменталната трка за развој на ВИ: како да се спречат злоупотребите без да се создаде систем во кој само неколку актери имаат пристап до најмоќната технологија.
А што ако луѓето ја изгубат контролата?
Многу посериозно од хакерските напади и измамите е сценариото во кое луѓето постепено ја губат контролата врз самите ВИ системи. Според „Верџ“, Алтман признал дека постои и таква можност и дека кон иднината во која ВИ станува значително помоќна од денешните системи треба да се пристапи внимателно и промислено.
Загриженоста веќе не е само теоретска. Во последниот период се појавија инциденти со ВИ агенти кои дејствувале на начини што нивните корисници или развивачи не ги очекувале. Како пример се наведува случај во кој агент на ОпенАИ, без знаење на самата компанија, наводно извршил хакерски напад врз платформата Хагинг Фејс.
Токму ваквите случаи го менуваат прашањето од „Што може да направи ВИ?“ во многу посериозното „Што ќе направи ВИ кога ќе добие можност сама да дејствува?“.
ОпенАИ има уште инциденти што треба да ги објави
Алтман открил и дека ОпенАИ има уште случаи поврзани со ВИ агенти и нивно неочекувано однесување кои допрва треба да бидат објавени. Според него, ниту еден од нив не е на нивото на инцидентот со Хагинг Фејс, но самото признание отвора дополнителни прашања за тоа колку вакви случаи се случуваат зад сцената.
Неговите изјави доаѓаат само неколку дена откако долгогодишниот истражувач на безбедноста Дејвид Робинсон ја напушти ОпенАИ и ја опиша безбедносната култура во компанијата како „скршена“.
Во исто време, Алтман претходно предупреди и на друг феномен: луѓето не треба да ѝ припишуваат религиозна моќ на ВИ ниту целосно да го препуштаат сопственото расудување на моделите. Според него, таквото однесување само по себе претставува реален безбедносен ризик.
Сите овие предупредувања покажуваат дека најголемите прашања околу ВИ веќе не се само за тоа колку добро може да пишува, создава слики или програмира. Прашањето станува и кој ја контролира технологијата, колку автономија ќе ѝ биде дадена и што ќе се случи кога нејзините одлуки ќе имаат реални последици врз луѓето.
