Компанијата OpenAI привремено сопре дел од развојот на својот нов модел Astra откако внатрешните тестови покажаа дека поседува критични сајбер-способности. Моделот покажа можност за самостојно пронаоѓање и искористување на софтверски ранливости, што ги алармираше безбедносните тимови. Развојот е ставен во пауза додека не се воспостават дополнителни заштитни механизми.

За време на стандардните проверки на безбедносните параметри, инженерите забележале дека Astra демонстрира напредни аналитички вештини во дигиталната безбедност. Моделот не само што ги препознавал пропустите во кодот, туку можел да креира и функционални методи за нивно искористување без човечка интервенција.

Ова однесување го надминало утврдениот праг на ризик што OpenAI го дефинира за автономни сајбер-операции. Раководството веднаш донесе одлука да го замрзне процесот на обука за да спречи евентуална злоупотреба или неконтролирано ширење на технологијата.

Ова не е првпат технолошките гиганти да го забават издавањето на нови системи поради безбедносни причини. Во согласност со интерните рамки за проценка на ризик, моделите што покажуваат потенцијал за автономно делување во сајбер-просторот подлежат на строго надворешно тестирање.

Експертите за вештачка интелигенција предупредуваат дека границата меѓу корисни алатки за дефензивна безбедност и опасни механизми за напади станува сè потесна. Развојот на Astra ќе продолжи дури откако независни тела ќе потврдат дека моделот не претставува закана за критичната дигитална инфраструктура.