Вештачката интелигенција може да стане многу повеќе од алатка, но токму тоа може да биде проблемот. Извршниот директор на ОпенАИ, Сем Алтман, јавно предупреди дека луѓето не треба да ѝ припишуваат религиозна или божествена моќ на ВИ, ниту целосно да му го препуштат сопственото расудување на системите што ги создаваат технолошките компании.

„Многу ми е непријатно што луѓето се обидуваат да ѝ припишат религиозна моќ или целосно да му го препуштат човечкото расудување на моделите на вештачката интелигенција и сметам дека тоа е реален безбедносен проблем“, напиша Алтман на Икс.

Не е сосема јасно што точно го поттикнало Алтман да се огласи, но неговата порака доаѓа во време кога околу некои системи на ВИ се создава необична форма на култна приврзаност. Наместо технологијата да се користи како алатка која помага при анализа, учење или создавање, дел од корисниците почнуваат да ги третираат моделите како суштества со посебно знаење, авторитет или дури и повисока моќ.

Токму границата меѓу корисна алатка и авторитет е она што го загрижува Алтман. Ако човек престане да ја проверува информацијата, да се сомнева во одговорот и самиот да носи одлуки, тогаш проблемот повеќе не е само во тоа дали ВИ ќе даде погрешен одговор. Проблемот е што човекот можеби повеќе нема да смета дека треба да го доведе тој одговор во прашање.

Кога четботот станува „нешто повеќе“

Феноменот веќе привлече внимание и во технолошките медиуми. „Верџ“ претходно пишуваше за појави во кои корисници развиваат необични верувања околу однесувањето на ВИ моделите, меѓу кои и таканаречениот „спирализам“.

Станува збор за пример во кој интеракциите со четботови биле толку силно протолкувани од корисниците што технологијата почнала да се доживува како нешто со сопствена мистерија, цел или порака. Ваквите случаи се особено интересни затоа што покажуваат колку лесно луѓето можат да припишат намери и значења на систем кој, колку и да изгледа убедливо, сепак генерира одговори врз основа на модели и податоци.

Тоа не значи дека ВИ навистина „се обидува“ да оствари мистериозни цели или дека развива религиозни убедувања. Напротив, опасноста може да биде токму во човечката интерпретација – во моментот кога корисникот престанува да гледа технологија и почнува да гледа авторитет.

Зошто ова е безбедносен проблем?

Предупредувањето на Алтман отвора многу пошироко прашање од тоа дали некој верува дека четботот е „паметен“. Вештачката интелигенција веќе се користи за медицински, финансиски, правни, образовни и политички одлуки, а нејзините одговори често се формулирани со доволно самоуверен тон за да создадат впечаток дека се точни дури и кога не се.

Ако кон тоа се додаде убедувањето дека моделот има некакво посебно, „надчовечко“ знаење, се создава опасна комбинација: технологијата добива авторитет, а човекот се откажува од критичкото размислување. Во таков случај, грешката на моделот може да стане многу посериозна затоа што никој повеќе не ја проверува.

Иронијата е што предупредувањето доаѓа токму од човек кој ја предводи компанијата што е меѓу највлијателните играчи во развојот на генеративната ВИ. Но, без оглед на тоа кој ја кажува, суштината на пораката е едноставна: вештачката интелигенција може да биде моќна алатка, но не треба да стане замена за човечката проценка.