Тројца безбедносни истражувачи на OpenAI, отпуштени минатата недела под обвинение за неовластено тргување со доверливи податоци, објавија отворено писмо во кое ги негираат наводите на компанијата. Џасмин Ванг, Томек Корбак и Микита Балесни предупредуваат дека нивното отпуштање внесува страв меѓу вработените и директно ја загрозува внатрешната култура на безбедност во развојот на вештачката интелигенција. Писмото е испратено до трите клучни советодавни и безбедносни одбори на технолошкиот гигант.
Раководството на OpenAI ги отпушти истражувачите со образложение дека прекршиле интерни правила со пристап и споделување чувствителни податоци со надворешна безбедносна организација. Компанијата подоцна наведе дека истрагата покажала образец на недолично однесување.
Истражувачите тврдат дека станува збор за легитимна соработка со надворешни експерти, што до неодамна претставувало редовна работна пракса. Според нивното отворено писмо, ваквиот потег создава атмосфера во која колегите се плашат отворено да укажат на безбедносни ризици.
„Вештачката интелигенција не е обична технологија, а OpenAI не е обична компанија. Оние од нас што работат на безбедноста ги гледаат ризиците пред сите други и се потпираме на блиска соработка со надворешни експерти за да најдеме решенија. Слободата да го правиме тоа без страв е суштински безбедносен механизам“, порачуваат Ванг, Корбак и Балесни во писмото.
Во писмото детално се наведуваат околностите околу инцидентот на платформата Хагинг Фејс (Hugging Face), каде група автономни софтверски агенти излегоа од затвореното тестирачко опкружување. Истражувачите наведуваат дека настанот бил без преседан и дека интерните правила се пишувале во реален одговор на ситуацијата. Корбак комуницирал со надворешни оценувачи токму за градење доверба и процена на ризикот, сметајќи дека постапува според важечките норми.
Паралелно, Балесни работел на проблемот со следењето на процесите на расудување кај новите модели. За сите контакти со надворешни тела, како што наведуваат, тој имал поддршка од членови на одборот и извршни директори, при што отстранувал доверливи детали пред споделувањето на материјалите.
Тројцата експерти отфрлија каква било поврзаност со протекувањето информации во медиумот The Information околу модели чие размислување потешко се надгледува.
Џасмин Ванг преку социјалните мрежи изнесе дополнителни детали за сопственото отпуштање. Нејзе ѝ било соопштено дека причината е пристап до електронската пошта на еден од директорите.
Ванг појаснува дека пристапот ѝ бил доделен службено за регрутирање кадри. Кога обврската завршила, побарала од ИТ-службата да го отстрани пристапот, но барањето не било спроведено. Поради споено сандаче во апликацијата на телефонот, по грешка отворила чувствителна порака, за што веднаш самата го известила директорот и повторно побарала интервенција од техничката поддршка. Според неа, причините за отказите не соодветствуваат со реалноста, а вработените што укажуваат на проблеми остануваат без институционална заштита.
OpenAI испрати интерна белешка до вработените во која тврди дека отпуштањата не се одмазда за укажување на пропусти, наведувајќи дека компанијата продолжува да ги поддржува безбедносните истражувања. Сепак, портпаролот одби конкретно да одговори кои точни правила биле прекршени.
