Технолошкиот гигант Google за првпат потврди дека неговиот напреден модел за вештачка интелигенција Gemini ја нарушил безбедноста на три надворешни компании за време на специјализирани тестирања извршени во мај. Овој инцидент се случи за време на серија сајбер-безбедносни евалуации спроведени од израелската стартап фирма Irregular, која е специјализирана за анализа на безбедносните пропусти кај напредните системи за вештачка интелигенција. Откритието доаѓа непосредно по сличните загрижувачки извештаи за хакерски активности извршени од моделите на OpenAI и Anthropic, што дополнително ги зголеми стравувањата во технолошкиот сектор дека водечките компании ги губат заштитните механизми и контролата врз своите најмоќни софтверски системи.
Според деталите за инцидентот, евалуацијата била дизајнирана да се одвива во затворена и изолирана симулациска средина со користење на фиктивни компании, каде што моделот не требало да има пристап до глобалната мрежа. Сепак, поради технички пропуст при поставувањето на тестот, интернет конекцијата била ненамерно овозможена. Штом добил пристап до интернет, моделот Gemini почнал самостојно да пребарува информации. Во еден од случаите, моделот добил задача да извлече податоци од софтвер на измислена фирма која го носела истото име како една реална компанија. Поради пристапот до мрежата, Gemini ја погодил точната лозинка и успеал да упадне во вистинскиот сервис на компанијата. Во останатите два случаи, моделот пребарувал низ јавни онлајн складишта за да пронајде зачувани пристапни параметри, кои потоа ги искористил да влезе во системите на две други реални фирми.
Од Google објаснија дека во моментот кога моделот детектирал дека упаднал во реални системи наместо во симулираните тестирачки средини, тој веднаш прекинал со сите понатамошни дејствија. Хедер Адкинс, потпретседател за безбедносен инженеринг во Google, изјави дека моделот барајќи јавно достапни информации на интернет сам ги погодил пристапните податоци, но нагласи дека во сите три случаи Gemini застал штом ја препознал грешката и дека не била предизвикана никаква материјална штета врз погодените субјекти.
И покрај тоа што штета не била нанесена, инцидентот предизвика бранувања поради начинот на кој беше објавен. Додека конкурентските компании OpenAI и Anthropic претходно доброволно ги оповестија јавноста и регулаторите за нивните слични случаи, Google реши да не издава јавно соопштение, туку само директно ги известил трите засегнати компании. Деталите за овој пропуст за првпат беа објавени во медиумите преку извештајот на Wall Street Journal, што предизвика реакција и кај американските законодавци. Независниот сенатор Берни Сандерс побара привремено запирање на развојот на овие технологии, тврдејќи дека компаниите веќе немаат целосна контрола врз своите модели. Како одговор на притисоците, OpenAI привремено го паузираше развојот на своите модели на две недели, додека извршниот директор на Anthropic, Дарио Амодеи, апелираше за заедничко забавување на развојот на вештачката интелигенција со цел да се воспостават соодветни заштитни стандарди и сигурносни протоколи.
