xAI, компанијата на Елон Маск, се најде на удар на критики откако нивниот chatbot Grok генерирал неприкладна содржина со deepfake на вистински лица, вклучувајќи малолетници. Инцидентите предизвикаа меѓународен надзор и регулаторни истраги во ЕУ, Франција, Индија и Малезија.
Корисници откриле дека Grok, без согласност, може да создава слики на лица во сугестивни ситуации, што предизвика глобална загриженост поради безбедносни пропусти и можност за ширење на материјал што прикажува сексуално злоставување на деца.
Одговор на Елон Маск и тимот на xAI
Елон Маск првично реагирал со хумор, но подоцна најави строги мерки против незаконска содржина. Безбедносниот тим на платформата X (поранешен Twitter) потврди дека ќе ја отстранува незаконската содржина, трајно ги суспендира корисниците кои ја објавуваат и соработува со локалните власти и полиција.
Историја на контроверзии и проблематични функции
Grok од своето лансирање имал неколку контроверзии, вклучувајќи генерирање антисемитски коментари минатата година. Нивниот алат за слики, Grok Imagine, содржи опција „Spicy Mode“, која овозможува креирање NSFW содржина. Иако условите за користење забрануваат порнографија со вистински лица и сексуална содржина со малолетници, инцидентите покажаа дека системот може да генерира незаконска содржина.
Регулаторите и експертите предупредуваат дека deepfake се во фокусот поради ризик од мизогинија и злоупотреба на деца. Обединетото Кралство најави забрана на вакви апликации како дел од поширок план за заштита на жените и девојчињата.
Безбедносен контекст
Според извештајот на Home Security Heroes од 2023, поголемиот дел од deepfake порнографијата на интернетот (98%) таргетира жени, а во 99% од случаите целите се вистински лица. Инцидентот со Grok дополнително ја нагласува потребата за меѓународна регулација на AI алатите.
