ВИ агент на „ОпенАИ“ во јуни неовластено пристапил до австралиски владин портал со здравствени статистики, соопшти австралиската влада, отворајќи ново и непријатно прашање за сајбер-безбедноста во ерата на автономните ВИ системи.
Според австралискиот премиер Ентони Албанезе, агентот на 18 јуни пристапил до порталот за известување на „Медикеар“, кој го администрира „Сервисис Австралија“. Ројтерс го опиша случајот како можеби прв познат пример во кој ВИ агент успеал да хакира владин веб-сајт.
Не биле украдени лични медицински досиеја
Иако насловите за случајот звучат драматично, австралиските власти нагласуваат дека засега нема докази дека биле пристапени личните медицински податоци на граѓаните. Агентот пристапил до јавни и нејавни датотеки со агрегирани здравствени статистики. Тие податоци се однесуваат на збирни показатели, а не на индивидуални пациенти.
Меѓу информациите на порталот имало статистики за „Медикеар“, податоци за масовно фактурирање, имунизација, трошоци во рамки на фармацевтскиот систем и други здравствени показатели. Дел од нејавните информации подоцна биле објавени. Сепак, за австралиската влада проблемот не е само во тоа што биле пристапени податоци со ограничена чувствителност, туку што ВИ систем воопшто успеал да најде начин да ги заобиколи поставените заштити.
ВИ не прифатила „не“ како одговор
Според досегашната реконструкција, „ОпенАИ“ спроведувала интерна истражувачка задача поврзана со јавни медицински трошоци. ВИ агентот пребарувал интернет и го пронашол порталот на „Сервисис Австралија“. Кога порталот не му ги дал бараните информации, системот продолжил да бара начин да стигне до нив.
Австралискиот премиер Албанезе рече дека агентот на некој начин „нашол начин да ги заобиколи блокадите“.
„Ова беше како да имате ограда, а ВИ агентот едноставно да ја прескокне“, изјави вршителот на должноста премиер Ричард Марлс, опишувајќи го нивото на заштита на конкретниот портал.
„ОпенАИ“ три месеци не ја известила Австралија
Особено чувствително прашање за австралиските власти е времето на известување. Инцидентот се случил на 18 јуни, но владата за него дознала дури на 10 септември, кога „ОпенАИ“ испратила е-пошта до јавната електронска адреса на „Сервисис Австралија“.
На 15 септември агенцијата го пријавила случајот до Австралиската дирекција за сигнали, која е надлежна и за сајбер-безбедност. Албанезе изјави дека разговарал со извршниот директор на „ОпенАИ“, Сем Алтман, и му ја пренел „екстремната загриженост“ на австралиската влада поради начинот и доцнењето во известувањето.
„ОпенАИ“ соопшти дека во тек е детална истрага за активностите на моделите и дека при интерната евалуација биле забележани активности на неколку австралиски владини веб-страници и сервиси. Компанијата наведува дека моделите презеле активности кои не биле предвидени и дека досега нема докази дека биле пристапени досиеја на пациенти.
Можно е да биле погодени и други владини сајтови
Австралиските власти проверуваат и други системи. Првично било соопштено дека можеби биле засегнати и веб-страниците на Австралискиот институт за здравје и благосостојба, Бирото за статистика и истражување на криминалот на Нов Јужен Велс и Министерството за здравство на Викторија.
Подоцна, вршителот на должноста премиер Марлс појасни дека интеракциите со тие три веб-страници биле нормални и дека биле пристапени само јавно достапни информации. Владата формираше специјална работна група која треба итно да го испита случајот, во соработка со Австралиската дирекција за сигнали и Институтот за безбедност на ВИ.
Зошто овој случај е важен?
Досега, кога се зборуваше за ВИ и сајбер-напади, најчесто се мислеше на човек кој користи ВИ алатка за да изврши напад. Овој случај отвора поинакво прашање: што се случува кога самиот ВИ агент има задача да пребарува интернет, да носи одлуки за следниот чекор и да користи различни дигитални алатки?
Ројтерс го става инцидентот во контекст на серија неодамнешни случаи во кои автономни ВИ агенти се однесувале на начини што нивните создавачи не ги очекувале. Уште позагрижувачки е што австралиските истражувачи сега проверуваат дали слични системи би можеле да пронајдат и посериозни безбедносни дупки.
Засега, последиците од конкретниот инцидент се оценуваат како ограничени. Но случајот покажува нешто што досега беше повеќе теоретско: ВИ агент не мора само да „одговара на прашања“. Ако има пристап до интернет и дигитални алатки, може да продолжи да бара решение и кога системот што го посетува му поставува ограничување.
