Приказните што си ги раскажуваме со милениуми — од басни и бајки, па сè до усни преданија — отсекогаш имале јасна цел. Тие ни помагаат да го разбереме светот, да пренесеме морални поуки, да ја зачуваме културата и да ги изградиме првите општествени вредности кај најмладите.
Сепак, со брзиот развој на генеративната вештачка интелигенција, која создава приказни врз основа на содржини од интернет, излегуваат на површина сериозни системски недостатоци. Новите истражувања покажуваат дека АИ технологиите не само што ги реплицираат постоечките човечки предрасуди, туку и дополнително ги продлабочуваат.
Целосно отсуство на женски ликови во приказните
Истражувачите од Универзитетот во Вашингтон анализираа 23.800 одговори добиени од шест водечки АИ модели, меѓу кои и најновите верзии на Gemini, GPT, Claude, Mistral и Olmo. Од нив беше побарано да напишат куси приказни за животни како мечки, кучиња, птици или глувци, без претходно да се дефинира нивниот род.
Резултатите беа поразителни за родовата еднаквост. Женските животински ликови беа присутни во едвај 2 проценти од сите генерирани приказни, односно во само 513 случаи. Наспроти нив, машките ликови се појавија во дури 9.673 приказни, што претставува речиси 19-кратна разлика во корист на машкиот род.
Неутралноста како изговор за бришење на идентитетот
Поради тоа што повеќето АИ системи се затворени и приватни, научниците можеле да ги анализираат само преку нивните крајни одговори. Нивната главна хипотеза е дека технолошките компании се обиделе да воведат родова неутралност со користење на неутрални заменки за да ги избегнат стереотипите во неодредени контексти.
Но, обидувајќи се да бидат „неутрални“, овие системи постигнале спротивен ефект и практично ги избришале женските ликови. Наместо да понудат избалансиран приказ, АИ моделите ги искривиле човечките предрасуди на уште поекстремен начин.
Клишеа и повторувања во дигиталното пишување
Покрај родовата дискриминација, истражувачите забележале уште една карактеристика на текстовите генерирани од вештачка интелигенција: силна повторливост и сувопарност. Во приказните постојано се појавувале истите познати клишеа, како што е ликот на мудрата стара утка која ги собира сите животни околу оган.
Иако детските книги за животни често изгледаат наивно или едноставно, научниците потсетуваат дека токму тие ги обликуваат најраните сфаќања кај децата за родовите улоги во општеството. Ова истражување служи како сериозно предупредување дека алатките што сè повеќе ги користиме во образованието и секојдневието мора критички да се преиспитаат.
