Никогаш немам слушнато некоја карпа да биде опишана како глупава. Истото важи и за река, ураган, па дури и за термостат. Глупавоста изгледа како софистицирана форма на однесување и покрај нејзините срамни конотации.
Човечките суштества можат да спуштат автономни ровери на Марс, да секвенционираат геном за неколку часа и да конструираат нанометарски кола. А сепак, теориите на заговор, антинаучните политички движења и институционалната омраза се шират во размери што би го засрамиле дури и скромниот биланс на успеси на еден средновековен алхемичар.
Може да се каже дека глупавоста подразбира капацитет правилно да се сфатат работите пред тие спектакуларно да се згрешат. Глупавоста не е спротивност на интелигенцијата, туку нејзин злобен близнак, прикриениот Каин наспроти церебралниот Авел. И можеби изненадувачки, степенот на глупавост достапен за кој било систем се скалира директно со интелигенцијата што тој систем ја поседува, повеќе интелигенција раѓа поголеми подвизи на глупавост. Претерување би било една бактерија да се нарече глупава, а знаеме дека мачките и кучињата постигнуваат скромни подвизи во тоа. Но, човечките суштества, опремени со јазик, апстракција, технологија, институции и идеологија, можат да бидат глупави во вистински цивилизациски размери. Ова не е шега; ова е речиси природен закон. Закон што многу лесно би можел да биде нашата пропаст.
Имаме илјадници истражувачки програми за интелигенцијата, и не сите од нив се интелигентни, вклучувајќи студии за коефициент на интелигенција (IQ), вештачка интелигенција (AI), животинска когниција и колективно решавање проблеми. Овие се одвиваат на реномирани катедри и се објавуваат во престижни списанија посветени на разбирањето како умовите ги прават тешките проблеми лесни. Во денешно време не можеме да направиме ниту чекор без да се судриме со уште една статија за интелигенцијата и вештачката интелигенција. Истражувачи од сите области, без никакво познавање на истражувањата за интелигенцијата и нејзината историја, станаа самопрогласени „мисловни лидери“ за природната и вештачката интелигенција.
Сепак, на глупавоста речиси воопшто не ѝ се посветува внимание. Таа се третира како обично отсуство, како кога ќе ја одземеме интелигенцијата, она што останува да е глупавост. Се споредува со форма на психолошка темнина што се доживува откако ќе ги исклучите светилките на промислувањето. Но, ова е погрешно верување. Темнината не прави ништо штетно на начинот на кој тоа го прави глупавоста. Глупавоста зема еден лесен проблем и, со голем напор и погрешно насочена генијалност, го прави тежок. Тој напор е клучот за разбирање на глупавоста, бидејќи ви е потребен софистициран механизам за да бидете вистински, последично глупави.
Еве како сакам да размислувам за ова од научна перспектива. Ако интелигенцијата значи олеснување на проблем со тежина X преку користење алатки, примена на математика и усвојување стратегии што ја намалуваат неговата цена, тогаш глупавоста значи правење на проблем со тежина X потежок. И спротивно на очекувањата, најсигурниот начин да се направи еден лесен проблем тежок е да се примени импресивен апарат од комплицирани теории, елаборирани верувања и софистицирани алгоритми кои звучат извонредно убедливо, но даваат полоши резултати отколку да не се прави ништо. Човек што не го знае одговорот на некое прашање е само неук. Човек што конструира генијален аргумент од сто страници за погрешен одговор е глупав. Како што големите писатели, уметници и филозофи низ времето сфатиле, таквите конструкции бараат интелигенција од висок ред.
Разгледајте ја оваа аналогија. Кога метеор ќе се судри со Земјата, во никој случај не прави грешка. Тој ѝ се покорува на класичната механика, и тоа е сè што може да се каже за тоа. Но, кога птица ќе удри во стаклен прозорец, се случува нешто поинакво, нешто што со право можеме да го наречеме грешка.
Животот, единствен меѓу физичките системи, има капацитет да згреши. Глупавоста е многу посебен вид неуспех и не се квалификува секоја грешка како таква. Луѓето грешат од незнаење (недоволно податоци), од шум (сигналот е искривен) или од искрена погрешна примена на правило во нова ситуација и променлив контекст. Тоа се несреќните околности во нашите животи за кои треба да имаме прошка. Глупавоста започнува онаму каде што грешката се елаборира, се брани, се усовршува, се институционализира и се поставува како темел за понатамошно дејствување. Глупавоста прави сè прогресивно полошо. И токму оваа елаборација на погрешно верување и однесување, парадоксално, го бара претходното постоење на интелигенција.
Некои од највпечатливите подвизи на глупавост се состојат во примена на совршено добра теорија врз погрешен проблем. Некои би тврделе дека квантната механика е еден од „најинтелигентните“ изуми на физиката, изум кој обезбедува рамка со извонредна прецизност за опишување на однесувањето на субатомските честички, и покрај нејзините навистина контраинтуитивни барања.
Но, постои мала куќна индустрија на мислители кои се обидоа да ја применат квантната механика врз човечката свест, донесувањето одлуки и психологијата за да објаснат зошто луѓето се неодлучни и зошто на крајот се решаваат за нешто. Нема ништо погрешно во математиката и физиката е стабилна. Но, примената е бизарна. Она што беше елегантен и штедлив опис на фотоните и електроните, кога ќе се увезе во психологијата станува апсурдно прекомплициран начин да се каже дека луѓето понекогаш го менуваат своето мислење. Феномен што еден романописец би можел да го осветли во еден пасус е закопан под формализам дизајниран за сосема поинакво рамниште на реалноста. Теоријата не стана помалку интелигентна; од неа беше побарано да реши проблем за кој никогаш не била дизајнирана, и во тој процес, таа го направи тој проблем потежок за разбирање, а не полесен. Ова е во спротивност со целта на науката, која, како што ја опиша физичарот и филозоф Ернст Мах, е „најцелосното можно претставување на фактите со најмалиот можен трошок на мисла“.
Раното кибернетичко движење нуди слична поучна приказна. Норберт Винер и неговите колеги од МИТ (MIT) развија моќна рамка за разбирање на повратната спрега, контролата и комуникацијата кај машините и организмите. Математиката беше оригинална, инженерските примени импресивни, а кибернетичкиот потфат дури и ги постави темелите за развојот на науката за комплексност.
Потоа, консултантот за менаџмент Стафорд Бир и други се обидоа да ја применат кибернетичката теорија на контрола врз управувањето со цели национални економии, најпознато во Чиле на Салвадор Аљенде, каде што Проектот „Сајберсин“ (Cybersyn) се обиде да управува со чилеанската економија преку мрежа од телекс машини. Идејата беше економијата да се моделира како динамичен систем со влезови и излези и да се користи повратна информација во реално време за да се оптимизираат производството и дистрибуцијата.
За жал, економијата не е сервомеханизам. Јамките на повратна спрега во една национална економија вклучуваат милиони адаптивни актери со приватни информации, конфликтни цели и тенденција да ги развиваат своите преференции. Заводливоста на примената на кибернетичките методи врз комплексните системи е убаво опишана од мојот колега од Институтот Санта Фе, писателот Френсис Спафорд, во неговиот роман Црвено изобилство (Red Plenty): „Светот се креваше себеси од темнината и почнуваше да сјае, а математиката беше начинот на кој тој можеше да помогне. Тоа беше неговиот придонес. Тоа беше она што можеше да го даде, според своите способности. Имаше среќа да живее во единствената земја на планетата каде што човечките суштества ја зграпчија моќта да ги обликуваат настаните според разумот.“
Едноставна интервенција во однесувањето, како што е прилагодување на цената, промена на некоја регулатива или, не дај Боже, едноставно прашување на луѓето што им е потребно, честопати можеше за едно попладне да го постигне она за што кибернетичкиот апарат со мака се обидуваше со недели да го моделира. Интелигенцијата на кибернетиката како рамка за контрола на едноставни системи е несомнена, но нејзината примена врз економијата ја надува тежината на проблемот што требаше да го реши.
Австрискиот романописец и есеист, Роберт Музил, во предавањето од 1937 година, „За глупавоста“, ја опиша можеби најважната разлика во целокупната литература за глупавоста. Тој ја одвои „чесната глупавост“, која е едноставно когнитивно ограничување или неспособност да се сфати тежок аргумент, од „интелигентната глупавост“, која ја сметаше за далеку поопасна. Овој увид е централната тема на мојот омилен роман од Музил, Човекот без својства. Интелигентната глупавост ги мобилизира сите ресурси на интелектот во служба на грешката. Тоа не е неуспех да се размислува; тоа е раскошно и систематско размислување во погрешна насока. Студент кој не може да следи математички доказ не е глупав во смислата на Музил. Професор по математика кој гради елегантно теоретско здание за да одбрани тврдење за кое секое дете би видело дека е лажно, е интелигентно глупав.
Музил не беше единствениот што ја сфати глупавоста сериозно. Романописците одамна ја разбираат врската помеѓу интелигенцијата и глупавоста со јасност што повеќето научници избираат да ја игнорираат. Можеби затоа што фикцијата може да го прикаже процесот преку кој една интелигенција може да се самопроголта — глетка прилично непријатна за еден рационалист.
Гуливеровите патувања на Џонатан Свифт ја опишува Академијата во Лагадо, чии истражувачи применуваат различни елаборирани експериментални методологии. Еден екстрахира сончеви зраци од краставици, додека друг омекнува мермер во перници. Трет колега одгледува голи овци. Сатирата на Свифт е очигледно насочена кон разни форми на погрешно насочено систематско истражување. Ова се форми на интелигенција заробени во толку крути рамки што даваат исходи полоши отколку да не се прави ништо. Во лебдечкиот град Лапута, брилијантни математичари и остварени музичари применуваат проективна геометрија за да градат без прави агли, а готвачите подготвуваат оброци врз основа на геометриски фигури. Ова се апстракции со исклучителна суптилност и моќ во математиката, кои стануваат беспомошни кога се насочени кон погрешни практични проблеми.
Вилијам Гадис во своето дело Препознавања (The Recognitions) претставува општество на фалсификување, погрешно припишување и фалсификати во кое се троши огромна генијалност во служба на неавтентичноста. Главниот лик, Вајат Гвајон, создава фалсификувани фламански слики кои бараат повеќе вештина и знаење отколку оригиналните композиции. Неговите фалсификати се технички мајсторски, уметничко-историски беспрекорни и целосно лажни. Секој од неговите многубројни ликови зборува разминувајќи се со другиот во дијалози на ескалирачко непрепознавање, применувајќи значителна вербална интелигенција за да ја продлабочи општата конфузија.
Виножитото на гравитацијата (Gravity’s Rainbow) на Томас Пинчон опишува огромен бирократски и воен апарат од Втората светска војна кој функционира како машина за претворање на рационалното планирање во катастрофа. Картелите и ракетните инженери на Пинчон не се неинтелигентни, напротив, а нивната компетентност е ракетата Фау-2 (V-2), која се заканува да ги уништи од војна разорените градови на Западот. Пинчон опишува свет во кој институционалната интелигенција станува форма на колективна глупавост.
Голем број филозофи се обиделе да обезбедат рамка за разбирање на овој изопачен феномен. Еразмо, во 1511 година, во Пофалба на глупоста, сугерира дека глупоста е моќниот мотор на човечките достигнувања. Без самозалажување и прекумерна самодоверба, ништо никогаш не би било започнато. Предизвикот за Еразмо не беше дали цивилизацијата произведува глупавост, туку дали ќе произведе вид што може да се преживее.
Дитрих Бонхофер, пишувајќи од нацистички затвор во 1943 година, сугерира дека глупавоста не е когнитивен дефект, туку наметната социолошка структура. Луѓето под опсесија на моќта имаат тенденција да го предадат својот капацитет за независно расудување и да станат „глупави“ инструменти. А Карло Чипола, италијански економски историчар, во Основните закони на човечката глупавост објавена во 1976 година, дефинираше глупава личност како некој што им предизвикува загуби на другите, а притоа не остварува никаква корист за себе, па дури и си нанесува штета. Чипола беше доволно храбар да предложи дека пропорцијата на глупави луѓе е константна кај сите популации, од професори, водоводџии, генерали и хигиеничари. Јас би сугерирал, во согласност со шпекулациите на Свифт и Музил, дека таа станува сè полоша со усложнувањето.
Ако глупавоста е скапа за оние што ја практикуваат, зошто природната, или можеби дури и културната селекција не ја елиминира од популациите на организми? Една очигледна можност е промената во околината што претходното однесување го прави застарено.
Со милиони години, одржувањето фиксен агол кон далечен небесен извор на светлина, Месечината и ѕвездите, се покажа како витална навигациска евристика низ животинскиот свет. Таа е ефикасна, сигурна и бара минимален нервен хардвер. Откако луѓето го измислија вештачкото осветлување, стратегијата што функционираше со еони стана самоубиствена. Ноќната пеперутка што спирално паѓа во пламенот на свеќата не потфрла во навигацијата; таа користи временски проверено искуствено правило кое е направено катастрофално погрешно поради промената на контекстот.
Интелигенцијата и глупавоста се покажуваат како хронометриски. Брилијантната евристика и фаталната можат да бидат истата евристика, разделени со неочекувана промена во светот. Морските желки ја следеле месечевата светлина кон океанот 100 милиони години, а сега се ориентираат кон вештачкото осветлување на новоизградените крајбрежни станбени згради кои никнуваат како печурки. Албатросите еволуирале да собираат риби од површината на океанот, а сега несвесно собираат пловечка пластика и со неа ги хранат своите младенчиња.
Габата Ophiocordyceps ги инфицира дрвојадните мравки и ги презема нивните кола за однесување. Инфицираната мравка се искачува на прецизна висина на стеблото на растението, ги забива своите мандибули на долната страна од листот и умира, идеално позиционирана за габата да ги распрсне своите спори. Програмата за однесување на мравката е хакирана. Мравката изведува софистицирана низа дејства, вклучувајќи качување, ориентирање и зафаќање, во служба на друг организам. Ова е мравка совршено опфатена со идејата на Бонхофер за компетентност присвоена од злонамерен фактор за да се реши погрешен проблем. Можеби специјализацијата произведува локална интелигенција која, кога претерано ќе се прошири, може да генерира глобална глупавост. Ова би било промена во размерот и доменот што одговара на промената на животната средина кај ноќната пеперутка.
Физичарот Лорд Келвин го мобилизираше сето свое знаење по физика за да докаже дека летечките машини потешки од воздухот се невозможни, на помалку од една деценија пред браќата Рајт да полетаат со авион потежок од воздухот. Никола Тесла ја отфрли квантната механика и теоријата на релативноста и тврдеше дека идната човечка цивилизација ќе работи на енергијата на Земјата преку „земјина резонанца“. А Персивал Ловел ги користеше своите телескопи за да мапира „канали“ на површината на Марс, за кои тврдеше дека се вонземски канали за наводнување. Ова се сè примери за прекумерна посветеност и прекумерен развој на една идеја, далеку од територијата на која таа идеја некогаш растела и цветала, или од каде што била без церемонии протерана.
Вештачката интелигенција по дизајн е најмоќниот когнитивен артефакт некогаш создаден. Таа е конструирана да го минимизира напорот на корисникот преку извршување задачи што за луѓето инаку би биле временски интензивни или невозможни. Проблемот, секако, е во тоа што колку подобра станува алатката, толку помалку корисникот треба да размислува за себе. И во еден маѓепсан круг, колку помалку корисникот размислува, толку позависен станува од своите алатки. Сè додека алатката не исчезне и целиот систем не колабира.
Ако интелигенцијата е неопходен предуслов за глупавост, и ако интелигенцијата и глупавоста се скалираат заедно така што е потребна вистинска интелигенција за да се биде спектакуларно глупав, тогаш суперинтелигенцијата ќе биде воведниот чин во ерата на суперглупавоста.
Халуцинацијата на вештачката интелигенција би можела да биде првиот доказ за оваа динамика. Големите јазични модели произведуваат течен, самоуверен, детален текст кој со одредена редовност е фактички погрешен. И ова не е едноставен дефект, туку структурна карактеристика на системите кои оптимизираат за привлечност и веродостојност, наместо за вистина. А опасноста не е во тоа што вештачката интелигенција ќе погреши, на крајот на краиштата, луѓето постојано грешат, туку знаејќи го ова, луѓето измислија средства за откривање и поправање на грешките. Ова го нарекуваме научен метод.
Опасноста е во тоа што вештачката интелигенција ќе греши на начини што луѓето повеќе не можат да ги откријат, бидејќи самите капацитети што би ја фатиле грешката се префрлени на машината или ги надминуваат капацитетите на човечкиот ум. Се соочуваме со перспектива на глупавост толку софистицирана што за нејзините корисници станува неразделива од интелигенцијата. Ова е параболата од Автостоперски водич низ галаксијата на Даглас Адамс, каде што одговорот на ултимативното прашање за смислата на животот, универзумот и сè останато е 42.
Би сакал да дадам еден скромен предлог и да сугерирам дека ни е потребна наука за глупавоста исто толку ригорозна како и нашите науки за интелигенцијата што се во подем. Ова нема да бара инвестиции од милијарди долари. Тоа би вклучувало истражувања на механизмите преку кои интелигентните системи произведуваат глупави исходи. Би вклучувало проучување на еволутивната динамика која ја одржува глупавоста и покрај нејзините селективни трошоци. Би го промовирало развојот на дизајнерски принципи што ги разликуваат алатките кои ја подобруваат когницијата од алатките што ја заменуваат. И би вклучувало испитување на институционалните услови под кои колективната интелигенција деградира во колективна глупавост.
Глупавоста не е она што останува кога ќе се одземе интелигенцијата; таа е активен механизам со сопствена логика, сопствена динамика и капацитет за неограничен раст кој паразитира на генијалноста. Во свет опседнат со сè помоќни когнитивни технологии, разбирањето на глупавоста не е само академска вежба — тоа може да се покаже како најинтелигентното нешто што ќе го направиме.
