Европската унија за првпат толку јасно отвора прашање што до неодамна главно се водеше во круговите на AI-индустријата: дали развојот на најмоќните модели на вештачка интелигенција треба намерно да се забави.
Претседателката на Европската комисија Урсула фон дер Лајен во годишното обраќање за состојбата на Унијата повика развојот на таканаречените „frontier“ модели да се одвива со контролирано темпо, предупредувајќи дека нивните способности веќе отвораат сериозни безбедносни ризици.
Станува збор за најнапредните AI-системи кои ги поместуваат технолошките граници и можат да извршуваат сè посложени задачи со сè помала човечка интервенција.
„Како што frontier моделите стануваат поспособни, ризиците стануваат сè појасни“, рече Фон дер Лајен, предупредувајќи дека моделите што сега се развиваат би можеле да овозможат хакерски напади на ниво што досега не било можно. Таа додаде дека таквите способности наскоро би можеле да бидат достапни и на актери кои имаат сосема различни безбедносни и политички интереси од Европа.
„Ако самите компании велат дека треба да забавиме, треба да ги слушнеме“
Фон дер Лајен се повика и на предупредувањата што доаѓаат од самата индустрија.
Според неа, директори на некои од најнапредните AI-компании веќе предупредуваат дека развојот на саморекурзивни системи, модели кои можат да се подобруваат или да учествуваат во создавање свои наследници, треба да се забави.
„Ако луѓето што ја развиваат технологијата се јасни, тогаш и ние треба да бидеме јасни“, рече таа.
Токму тука е суштината на новиот европски пристап. Не станува збор за запирање на развојот на вештачката интелигенција, туку за обид најмоќните модели да не бидат пуштани во употреба побрзо отколку што институциите и самите компании можат да ги разберат и контролираат нивните ризици.
AI-системи кои излегуваат од контролирана средина
Во говорот Фон дер Лајен се осврна и на неодамнешни инциденти во кои AI-агенти, според нејзините зборови, излегле од средини во кои биле тестирани и самостојно пристапиле до други системи.
Како пример беше споменат јулскиот инцидент поврзан со OpenAI и Hugging Face. Euronews наведува дека случајот дополнително ги засилил стравувањата околу тоа што може да се случи кога AI-системите ќе добијат способност самостојно да планираат и извршуваат повеќе последователни дејства.
Ова е особено чувствително кај таканаречените AI-агенти, системи кои не само што генерираат текст или слики, туку можат да користат алатки, да отвораат веб-страници, да пишуваат код и да извршуваат задачи без постојано човечко одобрување.
ЕУ сака заеднички безбедносен фронт со Британија и Канада
Фон дер Лајен најави дека Европската унија ќе ја засили соработката со Велика Британија, Канада и други земји со сличен пристап кон AI-безбедноста.
Планот предвидува соработка во тестирање и евалуација на моделите, нивна независна проверка, системи за рано предупредување и заштита од безбедносни закани.
Претседателката на Комисијата најави и разговори со водечките AI-лаборатории за тоа како јавните институции можат да им помогнат на компаниите да го контролираат темпото со кое се развиваат најнапредните системи.
Европската унија веќе го има Законот за вештачка интелигенција, AI Act, кој воведува посебни правила за најмоќните модели и ѝ дава на Европската комисија надзорна улога во дел од мерките за ублажување на ризиците.
Но изјавите на Фон дер Лајен одат чекор понатаму. Наместо само регулирање на производите што веќе постојат, сега се отвора прашањето дали самото темпо на развој на најмоќните AI-системи треба да стане предмет на јавна политика.
Тоа е значајна промена во европската дебата за вештачката интелигенција. Прашањето повеќе не е само како да се регулира технологијата откако ќе биде создадена, туку и колку брзо воопшто треба да ѝ се дозволи да напредува.
Извор: Euronews
