Но една од нејзините пораки, во која наводно се заканила со напад врз канцеларијата на шерифот, била означена од безбедносниот систем на Anthropic. По човечка проверка, случајот бил пријавен во полиција.

Станува збор за Карли Мишел Хелер од Бонита Спрингс. Според полицискиот извештај што го пренесуваат американските медиуми, таа на 26 септември во разговор со Claude напишала дека ќе ја нападне канцеларијата на шерифот на округот Ли. Полицијата ја привела во нејзиниот дом без инцидент, а таа се соочува со обвинение за писмена закана со насилство.

Иако случајот се пренесува со наслови дека „вештачката интелигенција ја пријавила“, според објавените информации, постапката вклучувала и луѓе. Системот ја означил содржината како потенцијално опасна, по што тим за проверка ја проценил заканата и биле известени надлежните.

Тврдењето на Хелер дека го користела четботот како дневник е дел од нејзиното објаснување пред истражителите. Апсењето и обвинението не значат дека нејзината вина е утврдена.

Случајот го отвора прашањето колку се приватни разговорите што корисниците ги водат со четботовите, особено кога им доверуваат лични мисли или ги користат за водење белешки.

Anthropic во своите правила наведува дека податоци за корисниците на барање на властите споделува во согласност со валидна правна постапка. Предвиден е и исклучок за итни ситуации: кога компанијата смета дека постои непосредна опасност од физичка повреда или смрт и дека брзото споделување информации може да ја спречи.

Тоа правило не значи дека секоја вознемирувачка порака автоматски се испраќа во полиција. Но покажува дека личниот начин на кој некој го користи четботот не ја исклучува можноста содржината да биде проверена и, во одредени околности, споделена со надлежните.