Корисниците на Reddit неодамна открија дека кога ќе биде побарана скрипта за активирање на Windows, Copilot дава детален одговор, вклучувајќи команда во PowerShell која ги насочува корисниците на добро позната скрипта за пиратско активирање. Овој метод, познат како активирање HWID, постои со години, дозволувајќи им на корисниците да го заобиколат системот за лиценцирање на Microsoft и трајно да ги активираат своите копии од Windows и Office.
Откритието е особено изненадувачки со оглед на тоа што Copilot е официјална алатка на Мајкрософт интегрирана во Windows. Иако е познато дека чет-ботите со вештачка интелигенција генерираат неочекувани или контроверзни одговори, фактот што Copilot отворено сугерира пиратерија предизвикува сериозна загриженост за умереноста на содржината на Мајкрософт и процесите на обука за вештачка интелигенција. Скриптата за активирање за која станува збор е широко користена во пиратерските заедници, но нејзиното промовирање од сопствениот асистент на Мајкрософт додава ироничен пресврт на ситуацијата.
Овој инцидент, исто така, ја нагласува пошироката загриженост за безбедноста и доверливоста на советите генерирани од вештачката интелигенција. Иако Copilot е дизајниран да им помага на корисниците со решавање проблеми и технички прашања, очигледно му недостасуваат потребните заштитни мерки за филтрирање на незаконски или неетички предлози. Мајкрософт допрва треба да издаде официјален одговор, но ако проблемот продолжи, тоа може да доведе до зголемена контрола од продавачите на софтвер и правните органи.
