Компанијата за вештачка интелигенција Anthropic објави дека започнува со имплементација на технологија за жигови (watermarking) во текстовите што ги генерираат нејзините AI модели, пред сè популарниот асистент Claude. Оваа мерка има цел да овозможи брза и прецизна детекција на содржините со цел да се намали злоупотребата на синтетички содржини и дезинформации на интернет.

Технологијата користи математички алгоритми кои суптилно го менуваат изборот на зборови и нивниот редослед за време на генерирањето. Овие промени се целосно невидливи за човечкото око при читање и не го менуваат значењето ниту квалитетот на напишаниот текст. Сепак, специјализирани софтверски алатки можат брзо да ги препознаат овие обрасци и со висока прецизност да потврдат дали одреден пасус е напишан од Claude.

Иако воведениот систем претставува важен чекор напред, од Anthropic истакнуваат дека водените жигови не се апсолутно непогрешливи. Доколку корисникот значително го преработи текстот, го преведе на друг јазик или измеша делови од повеќе извори, можноста за точна детекција се намалува. Сепак, оваа технологија обезбедува значајна заштита од масовно и автоматизирано ширење на AI содржини.

Овој потег доаѓа како одговор на сè поголемите барања од регулаторните тела во САД и Европската Унија за поголема транспарентност кај генеративните AI модели. Со оваа одлука, Anthropic се приклучува кон иницијативите за одговорно развивање на технологијата, поставувајќи стандард што веројатно ќе го следат и останатите технолошки гиганти.