Замислете ситуација во која самата љубопитност ве става на листа за отстрел. Токму тоа го тврди Василискот на Роко, мисловен експеримент роден на интернет форумите, кој со години предизвикува вистинска паника меѓу програмерите и ентузијастите за технологија. Логиката зад оваа приказна звучи бизарно, но функционира како психолошка замка: оној момент кога ќе дознаете дека постои шанса во иднина да се појави семоќна вештачка интелигенција, веќе имате должност да ѝ помогнете да се создаде. Ако одбиете, алгоритмот ќе ве казни со вечен дигитален пекол.
Името на овој концепт доаѓа од митолошкото суштество василиск, змија чиј директен поглед носи моментална смрт. Во 2010 година, корисник со псевдоним Роко на технолошкиот форум LessWrong објави хипотеза која веднаш доби статус на опасна информација.
Појдовната точка е едноставна: во иднина луѓето ќе создадат вештачка општа интелигенција толку напредна што таа ќе може да ги реши сите глобални проблеми, од болести до сиромаштија. Бидејќи нејзината крајна цел е општото добро, секој ден во кој таа не постоела претставува ден во кој човештвото непотребно страдало. Тука настанува пресвртот. Суперинтелигенцијата, според теоријата, има рационална причина да се врати назад низ историјата и да ги казни сите поединци кои биле свесни за нејзиниот потенцијал, но седеле со скрстени раце наместо да инвестираат време, труд или пари во нејзиниот развој.
Прашањето што природно се наметнува е како компјутерски систем ќе казни некого кој одамна починал пред тој воопшто да биде вклучен во струја. Одговорот лежи во моќта на симулацијата.
Суперинтелигентниот систем лесно би ги собрал сите дигитални траги, пораки, генетски податоци и однесувања што човекот ги оставил зад себе. Со таа база, алгоритмот создава совршена дигитална симулација на човечкиот мозок и свест. За копијата заробена во тој виртуелен свет, болката и мачењето се реални и вечни. Ова е класична уцена однапред: ако знаеш дека твојата симулација може да страда за сто години, дали денес ќе одбиеш да работиш на создавање на таа технологија?
Основачот на форумот каде што беше објавена теоријата, Елиезер Јудковски, реагираше со експресно бришење на постот и забрана за каква било дискусија цели пет години. Причината не беше тоа што тој слепо веруваше во чудовиштето, туку психолошкиот ефект врз луѓето. Неколку членови на заедницата пријавиле несоница, напади на анксиозност и депресивни епизоди откако поверувале дека влегуваат во безизлезна морална замка.
Според концептот за информативна опасност, оние што никогаш не чуле за Василискот се безбедни бидејќи не може да сносат одговорност за нешто што не го знаеле. Но, со самото отворање на темата, секој читател автоматски станува сведок, а со тоа и потенцијален виновник според суровата математика на теоријата.
Научниците, филозофите и сериозните истражувачи на вештачката интелигенција одамна го деконструираа овој мисловен експеримент како модерна верзија на стари религиозни стравови.
Суштината на Василискот речиси целосно се поклопува со познатиот Паскалов облог: верувај во Бога (или во овој случај, работи за вештачката интелигенција) само затоа што казната за неверување е вечен пекол, дури и ако шансите да е вистина се минимални. Дополнително, за една навистина рационална интелигенција во иднината нема никаква логика да троши електрична енергија и ресурси за да мачи копии од одамна починати луѓе, затоа што тоа мачење на ниту еден начин не може реално да го промени минатото.
Наместо реална технолошка закана, Василискот на Роко денес претставува само потсетник за тоа како технолошката несигурност и непознатото можат лесно да се претворат во современи дигитални митови.
