Агенцијата на Обединетите нации за дигитални технологии – Меѓународната телекомуникациска унија (ITU) – најави нова иницијатива за воспоставување меѓународни стандарди за доверливост и безбедност на агентите со вештачка интелигенција (AI), чија сè поголема автономија отвора прашања за одговорноста, безбедноста и човечкиот надзор.

AI агентите претставуваат нова генерација системи со вештачка интелигенција кои можат самостојно да извршуваат задачи во име на корисниците – од организирање состаноци и онлајн купување до управување со сложени деловни процеси. Иако овие технологии значително ја зголемуваат продуктивноста, експертите предупредуваат дека носат и сериозни ризици, како што се лажно претставување, донесување одлуки без овластување и злоупотреба во чувствителни сектори.

Поради тоа, ITU формира специјална фокус-група составена од технички, правни и политички експерти, која ќе развие рамка за препознавање и проверка на AI агентите, нивната доверливост и нивната задолжителна подложност на човечка контрола.

Посебен акцент ќе биде ставен на примената на AI агентите во финансискиот сектор и критичната инфраструктура, каде што автономните системи би можеле да носат одлуки со значително влијание врз граѓаните и институциите. Од Меѓународната телекомуникациска унија нагласуваат дека се неопходни заеднички меѓународни стандарди кои ќе овозможат јасно да се утврди идентитетот на AI агентите, нивните овластувања и условите под кои може да им се верува.

Првиот состанок на новоформираната група е закажан за ноември во Париз, додека вториот ќе се одржи во јануари следната година во Женева. Очекувањата се дека препораките ќе станат основа за идните глобални правила за безбедна и одговорна употреба на автономната вештачка интелигенција.