Компанијата призна дека генераторот на видеа создал содржини поврзани со легендарниот лидер на движењето за граѓански права.
Апликацијата Sora стана вирална во САД поради својата способност да создава ултра-реалистични видеа, што доведе до појава на лажни сцени со починати личности и историски фигури во чудни и често навредливи контексти.
Некои видеа го прикажувале Кинг во изменета верзија на неговиот познат говор „I Have a Dream“, па дури и како произведува расистички звуци, објави The Washington Post. На други клипови, што кружеле по социјалните мрежи, биле прикажани ликoви слични на Кинг и Малколм Икс како се борат меѓусебно.
По реакцијата на јавноста, OpenAI соопшти дека ќе ја запре можноста за создавање видеа со ликот на др. Кинг „додека ги зајакнува безбедносните механизми за историски личности“.
Бернис А. Кинг, ќерката на др. Кинг, јавно побара прекин на таквите содржини, пишувајќи:
„Се согласувам со Зелда Вилијамс – ве молам, престанете со видеата со ликот на мојот татко.“
Нејзиниот апел следеше по барањето на Зелда Вилијамс, ќерката на глумецот Робин Вилијамс, која ги замоли луѓето да престанат да ѝ испраќаат AI-видеа со ликот на нејзиниот починат татко.
Етичарката за вештачка интелигенција Оливија Гамбелин изјави за BBC дека одлуката на OpenAI е „добар чекор напред“, но предупреди дека таквите заштитни мерки требало да постојат од самиот почеток, наместо компанијата да учи „по пат на обиди и грешки“.
Таа додаде дека создавањето deepfake видеа со историски личности не само што покажува недостаток на почит, туку и претставува ризик за разбирањето на вистинитоста на содржината:
„Ова премногу се приближува до обидите за препишување на историјата,“ рече Гамбелин.
OpenAI објасни дека, иако верува во „силниот јавен интерес за слободно прикажување на историски личности“, тие и нивните семејства треба да имаат контрола врз употребата на нивниот лик.
„Овластени претставници или наследници може да побараат нивниот лик да не се користи во Sora-видеа,“ соопшти компанијата.
Платформата Sora исто така нуди можност за т.н. „cameo“ – функција со која живи личности можат да дадат согласност нивниот лик да се користи во генерирани видеа.
Во изјава до BBC, OpenAI наведе дека вградила повеќеслојни системи за заштита од злоупотреба и дека е во „директен дијалог со јавни личности и сопственици на содржина“ за да собере повратни информации околу контролите што сакаат да бидат вклучени во идните ажурирања.
Компанијата најави дека ќе продолжи да ги ревидира правилата за употреба на ликови на познати личности – со цел да се спречи злоупотреба на технологијата и деградација на историското наследство.
Извор: BBC
