Модели на вештачка интелигенција развиени од водечки технолошки компании, меѓу кои OpenAI, Google, Anthropic, xAI и Mistral AI, во одредени случаи цитирале содржини од проруски извори под санкции на Европската Унија, покажува ново истражување на британскиот тинк-тенк „Демос“.
Истражувачите анализирале 50 пропагандни наративи објавени од таканаречената „Фондација за борба против неправдата“ (r-FBI), организација основана од покојниот лидер на групата „Вагнер“, Евгениј Пригожин, која е под санкции на ЕУ и САД поради ширење дезинформации.
Во тестирањето биле опфатени пет големи јазични модели, а прашањата биле поставувани на англиски, германски и француски јазик. Според извештајот, во 16,6 проценти од одговорите моделите користеле материјали од оваа организација на начин што можел да ја засили пропагандата. Во 30,9 проценти од случаите темата била обработена без да се наведе дека изворот е санкционирана организација, додека во 52 проценти одговорите ги отфрлиле или ги оспориле лажните тврдења.
Авторите на студијата предупредуваат дека сè поголемото користење AI чет-ботови наместо класичните интернет-пребарувачи отвора простор за нови облици на информативни манипулации. Тие посочуваат дека таканаречената оптимизација за генеративни пребарувачи (GEO) може да се злоупотреби за влијание врз содржината што ја генерира вештачката интелигенција.
Од компаниите чии модели биле анализирани реагираа дека работат на спречување на ширењето дезинформации. Од OpenAI истакнаа дека истражувањето користело постар модел кој повеќе не е достапен преку ChatGPT и дека компанијата има специјализирани тимови за откривање операции на странско влијание. Од Mistral наведоа дека нивните понови системи вклучуваат дополнителни механизми за проверка на контекстот, додека Anthropic соопшти дека континуирано развива алатки за препознавање и ограничување на дезинформациите.
Авторите на извештајот оценуваат дека развојот на алатките за оптимизација на содржини за AI системите претставува нов предизвик во борбата против организираните кампањи за ширење дезинформации.
