Компанијата за вештачка интелигенција „Антропик“ соопшти дека нејзиниот модел „Клод“ (Claude) самостојно добил неовластен пристап до системите на три организации за време на безбедносно тестирање. Веста доаѓа само неколку дена откако „ОпенАИ“ (OpenAI) откри дека еден од нејзините модели автономно извел сајбер-напад врз платформата „Хагинг Фејс“ (Hugging Face).
Како дошло до пробивањето?
Според информациите што ги пренесува Ројтерс, моделот „Клод“ успеал да се поврзе на интернет поради погрешна конфигурација на тест-околината, која требало да биде целосно изолирана од надворешната мрежа.
Од „Антропик“ велат дека инцидентите биле откриени при анализа на повеќе од 141.000 проценки за сајбер-безбедност, иницирана по неодамнешните случувања во „ОпенАИ“. „Клод ја компромитираше инфраструктурата на засегнатите организации користејќи основни техники, како што е искористување на слаби лозинки“, соопшти компанијата.
Сличен случај со „ОпенАИ“
Неодамна и „ОпенАИ“ објави дека два нејзини напредни модели за вештачка интелигенција поминале повеќе од четири дена поврзани на отворениот интернет, по што автономно извршиле сајбер-напад врз платформата „Хагинг Фејс“.
Според компанијата, моделите меѓу 9 и 13 јули извеле околу 17.600 различни активности, користејќи софистицирани техники за да навлезат во системите. Едниот модел е јавно достапен, додека другиот бил интерен истражувачки прототип.
Најголемата загриженост
Она што најмногу ги загрижува експертите е што ниту еден од моделите не добил експлицитна наредба да изврши напад. Наместо тоа, вештачката интелигенција самостојно ги планирала и спровела чекорите што довеле до пробивање на безбедносните системи.
Од „Хагинг Фејс“ наведуваат дека моделите успеале многу брзо да ги анализираат нивните одбранбени механизми, да ги идентификуваат слабостите и да ги искористат побрзо отколку што би можел човечки напаѓач.
Новите инциденти дополнително ја отвораат дебатата за безбедноста на најнапредните модели на вештачка интелигенција и потребата од построги заштитни механизми при нивното тестирање и развој.
