Истражувачите предупредуваат на појава на нова, значително понапредна генерација ботови со вештачка интелигенција кои сѐ поагресивно „навлегуваат“ на социјалните мрежи, имитирајќи автентично човечко однесување и сериозно загрозувајќи го онлајн просторот. За разлика од досегашните автоматизирани профили, кои релативно лесно се препознаваа по шаблонските пораки и невообичаената активност, новите т.н. „АИ-роеви“ се дизајнирани речиси совршено да се вклопат меѓу реалните корисници.
Според студија што ја пренесува Live Science, овие напредни АИ-системи повеќе не се ограничуваат на масовно испраќање генерички пораки. Тие се способни да имитираат сложени човечки обрасци – емоционални реакции, хумор, иронија, па дури и намерни правописни грешки – со цел да делуваат уверливо и автентично. Крајната цел е инфилтрација во онлајн заедниците, стекнување доверба и постепено влијание врз јавното мислење или спроведување координирани напади врз поединци.
Најголемата опасност, според научниците, лежи во масовноста и синхронизацијата на овие ботови. Тие функционираат во групи, односно „роеви“, кои истовремено шират исти или слични пораки за да засилат одреден наратив. Кога се насочени кон еден корисник, можат да симулираат илјадници различни „гласови“ кои го критикуваат или вознемируваат, создавајќи лажен впечаток на доминантно или мнозинско мислење. Овој феномен, кој експертите го нарекуваат „дигитален линч“, може да има сериозни последици врз менталното здравје на корисниците и врз слободата на изразување.
Дополнителен проблем е тоа што постојните алгоритми за детекција на ботови на платформите како X (поранешен Twitter), Facebook и TikTok не се подготвени за вакво ниво на софистицираност. Како што вештачката интелигенција станува сѐ подобра во симулирање на човечкото однесување, границата меѓу вистински корисник и програмиран профил станува речиси невидлива.
Истражувачите апелираат за итна реакција – развој на нови алатки за препознавање на АИ-содржини, но и поголема едукација на корисниците. Тие советуваат зголемена внимателност при комуникација со профили кои агресивно промовираат одредени ставови, дури и кога нивните профили изгледаат целосно легитимни.
