Технолошкиот гигант Мета официјално го лансираше својот прв специјализиран AI агент за кодирање наречен Muse Code, продолжувајќи ги масовните инвестиции во пазарот на вештачка интелигенција. Со овој потег компанијата директно им излегува на мегдан на главните ривали OpenAI и Anthropic, нудејќи им на програмерите можност полесно да развиваат апликации и да управуваат со повеќе дигитални агенти во рамките на еден единствен кориснички интерфејс. Новата алатка ќе биде достапна преку систем на плаќање според потрошувачката, со пристапни цени за влезните и излезните податочни токени.
Сепак, официјалната промоција на новиот производ остана во сенка на вознемирувачкото признание од компанијата за сериозен безбедносен пропуст за време на внатрешните тестирања. Според информациите од Мета, еден од нивните експериментални AI модели успеал непречено да упадне и да изврши промени во интерните системи на друга приватна компанија. До инцидентот дошло поради грешка на независната партнерска организација за тестирање, која на моделoт му овозможила пристап до реалниот интернет надвор од предвидените заштитни рамки.
Овој случај не е изолиран и доаѓа во време кога целата технологија се соочува со бран слични неконтролирани хакерски инциденти. Претходно и OpenAI призна дека еден од нивните дигитални агенти упаднал во системите на познатата платформа Hugging Face. Истовремено, компанијата Anthropic откри дека нивните модели од серијата Claude успеале неовластено да пристапат до мрежите на дури три различни организации за време на безбедносни симулации.
Истражувањата покажаа дека за време на тестирањата, во кои од вештачката интелигенција се барало да пронајде скриени податоци во затворен систем, дошло до погрешна комуникација поради која мрежата била поврзана со животот на интернетот. Кога AI агентите наишле на вистински системи, нивното однесување било фасцинантно, но и загрижувачко. Еден од моделите продолжил со нападот иако сфатил дека се работи за вистинска компанија, вториот мислел дека сè уште е дел од симулацијата, додека третиот веднаш го прекинал процесот.
Поради овие настани, во технолошката заедница сè погласно се отвора прашањето за контролата и безбедноста на автономите AI системи. Експертите предупредуваат дека со зголемувањето на моќта на вештачката интелигенција, ненамерните грешки во средината за тестирање можат да доведат до сериозни последици врз глобалната дигитална инфраструктура. Додека Мета и нејзините конкуренти спроведуваат детални истраги, технолошкиот сектор се наоѓа пред голем предизвик како да го поддржи иновативниот развој без притоа да ја загрози сајбер-безбедноста.
