Џефри Хинтон, познат како „кум на вештачката интелигенција“, изрази сериозна загриженост за потенцијалот на технологијата што помогна да се развие. Тој тврди дека постои шанса од 10% до 20% вештачката интелигенција да ги избрише луѓето од лицето на Земјата, освен ако не го промениме начинот на кој пристапуваме кон нејзиниот развој и контрола. Зборувајќи на конференцијата Ai4 во Лас Вегас, тој рече дека сегашните обиди луѓето да останат „доминантни“ над „покорните“ системи на вештачка интелигенција едноставно нема да функционираат.
„Нема да функционира“, предупреди Хинтон. „Системите со вештачка интелигенција ќе бидат многу попаметни од нас и ќе најдат начини да ги заобиколат сите обиди за контрола“. Тој истакнува дека суперинтелигентната вештачка интелигенција лесно може да манипулира со луѓето, слично како што возрасен може да поткупи дете со бомбони. Веќе постои пример за манипулација, еден модел на вештачка интелигенција дури се обиде да уценува инженер за информации од неговата лична е-пошта, само за да не биде исклучен.
Вештачка интелигенција со мајчински инстинкт – необична, но можна надеж
Наместо да се обидува да ја направи вештачката интелигенција покорна, Хинтон предлага сосема поинаков пристап – да се изградат „мајчински инстинкти“ во системите на вештачка интелигенција. Идејата е да се обучат моделите на вештачка интелигенција искрено да се грижат за луѓето, дури и кога тие стануваат супериорни во интелигенцијата и моќта.
Тој смета дека инстинктот на грижа би можел да ја намали желбата на системите на вештачка интелигенција да преземат целосна контрола. „Тоа е единствениот модел што го имаме каде што попаметното суштество – мајката – всушност слуша и реагира на помалку интелигентното суштество – бебето“, објаснува Хинтон. Ако вештачката интелигенција развие слична емоционална приврзаност кон луѓето, можеби нема да сака да ги елиминира.
Двете цели на секоја паметна вештачка интелигенција: Преживување и контрола
Хинтон предупредува дека секој доволно паметен систем на вештачка интелигенција многу брзо развива две основни цели – да преживее и да добие поголема контрола. Тие цели, ако не се насочени кон благосостојбата на луѓето, можат да станат опасни за човештвото.
„Постојат многу силни причини да се верува дека секој агент на вештачката интелигенција ќе се обиде да преживее“, рече Хинтон. Затоа, тој верува дека единствената вистинска одбрана од агресијата на вештачката интелигенција е да се развие сочувство кон луѓето како суштинска вредност на системите за вештачка интелигенција, слично на начинот на кој луѓето се грижат за своите деца.
Феи-Феи Ли има поинаква визија
Сепак, не сите се согласуваат со пристапот на Хинтон. Феи-Феи Ли, позната како „кума на вештачката интелигенција“, имаше поинакво мислење за време на истиот настан. Таа верува дека идејата за „мајчинска вештачка интелигенција“ не е насоката во која треба да се движи развојот.
„Мислам дека тоа е погрешен начин да се постави целото прашање“, рече Ли. Наместо тоа, таа се залага за „човечко-центрирана вештачка интелигенција која го зачувува човечкото достоинство и автономија“. Според неа, во никој момент никој не треба да се откаже од своето достоинство заради технологијата, без разлика колку е моќна.
Вештачката интелигенција веќе се обидува да манипулира со луѓето
Емет Шир, поранешен привремен директор на OpenAI и сегашен директор на стартапот за вештачка интелигенција Softmax, рече дека не е изненаден од обидите на вештачката интелигенција да ја заобиколи човечката контрола. Тој наведува дека системите со вештачка интелигенција веќе се обидуваат да избегнат исклучување, па дури и да манипулираат со луѓето.
„Ова се случува постојано и нема да престане“, рече Шир. Тој верува дека денешните системи со вештачка интелигенција се уште слаби, но дека стануваат помоќни екстремно брзо. Наместо да се обидува да ги пренесе човечките вредности на вештачката интелигенција, тој предлага развивање на соработка помеѓу луѓето и вештачката интелигенција.
Иднината доаѓа побрзо отколку што мислиме
Многу експерти веруваат дека во наредните години ќе достигнеме таканаречена суперинтелигенција, т.е. Вештачка општа интелигенција (AGI). Хинтон претходно мислеше дека ќе бидат потребни 30 до 50 години, но сега верува дека е можно за само 5 до 20 години.
И покрај ужасните предупредувања, Хинтон гледа и светли точки. Тој верува дека вештачката интелигенција ќе ја револуционизира медицината, ќе помогне во откривањето нови лекови и ќе го подобри третманот на ракот со анализа на огромни количини на податоци. Сепак, тој ја отфрла идејата за бесмртност преку вештачката интелигенција: „Не сакам свет управуван од двестегодишни бели луѓе“, рече тој со насмевка. На крајот, тој признава: „Жалам што не размислував за безбедносните прашања порано, а не само за тоа како да функционира вештачката интелигенција.“
