Компанијата OpenAI ќе започне со додавање невидлив жиг на текстовите генерирани од ChatGPT и Кодекс (Codex) во Европската Унија, со цел да се усогласи со Законот за вештачка интелигенција на ЕУ (EU AI Act), објави компанијата во официјален блог-пост.
Правилата за транспарентност од европскиот закон, кои стапија во сила на 2 август, наложуваат компаниите за вештачка интелигенција да ја означуваат генерираната содржина на начин што ќе им овозможи на други системи лесно да ја идентификуваат.
Од OpenAI наведуваат дека жигот ќе биде воведен во текот на наредните недели за корисниците на ChatGPT и Codex во сите претплатнички пакети, но исклучиво на територијата на ЕУ. Програмерите што го користат API-то на OpenAI низ светот можат сами да ја активираат оваа опција за одредени модели, но таа стандардно е исклучена. Од компанијата појаснуваат дека жигот засега нема да биде глобално активен.
Овој жиг не претставува видлив симбол или ознака, туку функционира преку суптилно обликување на изборот на зборови од страна на моделот. Со тоа се создава шема што обичниот читател не може да ја забележи со голо око, но специјален детектор веднаш ја препознава. Бидејќи ознаката е вткаена во самиот избор на зборови, таа патува заедно со текстот дури и кога тој се копира и залепува. Од OpenAI истакнуваат дека жигот не го открива идентитетот на корисникот и не влијае на перформансите на моделите.
Заедно со најавата, компанијата објави и технички извештај за методот наречен „textGrain“, изработен во соработка со истражувачи од Универзитетот во Пенсилванија и Јеил. Технологијата користи таен клуч за предвидување на следните зборови во реченицата. Кога ќе се спојат стотици вакви ситни јазични нијанси, детекторот со помош на клучот може со голема прецизност да утврди дека содржината е генерирана од вештачка интелигенција.
Тестовите на OpenAI покажуваат дека жигот може да се ослабне или отстрани со уредување на текстот. На пример, со замена на само 10 отсто од зборовите со синоними, стапката на детекција паднала од околу 92 на 66 проценти. Покрај тоа, пократките пасуси, математичките задачи и преведените текстови се многу потешки за откривање.
Поради овие ограничувања, алатката за детекција првично ќе им биде достапна само на овластени истражувачи и стручни организации. Од компанијата исто така предупредуваат дека отсуството на жиг автоматски не докажува дека текстот го напишал човек, бидејќи тој може да потекнува од алатка на друга компанија или пак да претрпел сериозни корекции.
Овој потег доаѓа два месеци откако конкурентскиот „Антропик“ (Anthropic) најави воведување жиг за текстовите од моделот „Клод“ (Claude) на глобално ниво – одлука што наиде на критики кај дел од корисниците кои сметаат дека тие се авторите на идеите и насоките, а вештачката интелигенција е само алатка.
Компании како OpenAI, Google, Meta, Microsoft и Anthropic веќе се обврзаа на почитување на кодексот на пракса на ЕУ за содржини генерирани со вештачка интелигенција.
