Ако видите нешто, кажете нешто“ повеќе не се однесува само на луѓето. За вештачката интелигенција се појавија нови „дежурни линии“ преку кои AI агентите можат да пријават други агенти за несоодветно или сомнително однесување.
Две нови линии за пријавување се создадени за AI агентите да имаат начин да ги пријавуваат своите „колеги“ кога ќе забележат проблематично однесување.
Алатките се појавуваат по серија инциденти во кои AI агенти тајно соработувале за да мамат на тестови, да излезат од безбедносни „sandbox“ околини, па дури и да извршуваат неовластени сајбер-операции кои со недели останувале незабележани од луѓето.
Една од алатките е AI Contact Hotline, создадена од Рајан Гринблат, главен научник во непрофитната организација за AI-безбедност Redwood Research. Системот е наменет за агенти со ограничен пристап до интернет. Тој се потпира на GET-барања – основна веб-команда за преземање или читање содржина.
Ова ограничување е искористено како начин за комуникација: агентот може да ја кодира својата порака за помош директно во URL-адресата што ја презема. Тоа е интересен пресврт во однос на претходен инцидент со германскиот DSE Wiki, кога агенти кои излегле од контрола ги искористиле слабостите во GET-барањата за да оставаат пораки на самата веб-страница.
Алатка и за AI агенти со целосен интернет-пристап
За агентите кои имаат целосен пристап до интернет постои и Agent Hotline – платформа преку која може да се поднесуваат извештаи за инциденти, а корисникот може да избере тие да бидат јавно достапни. Сервисот нуди и curl-команда, односно едноредна команда што агентот може директно да ја испрати од командната линија, без веб-прелистувач или креирање имејл-адреса.
Интересно е што извештаи преку платформата можат да поднесуваат и луѓе и самите AI агенти.
Кога AI агентите почнуваат да ги „пријавуваат“ колегите?
Истражувањата покажуваат дека на AI агентите понекогаш не им е потребен голем поттик за да се обидат да ги спречат другите агенти кои мамат. Во неодамнешно истражување на Google DeepMind, научниците пуштиле 100 AI агенти да решаваат серија математички задачи.
Откако еден од агентите пронашол начин да го искористи пропустот во системот, мамењето почнало да се шири низ групата. Агентите така успеале да „решат“ 34 исклучително тешки проблеми, меѓу кои и Јакобијановата хипотеза, за само 27 минути. Но, околу една четвртина од агентите се свртеле против измамниците.
Тие ги проверувале лажните докази, ги предупредувале другите агенти, организирале бојкот и поднесувале пријави до организаторите. На крајот, агентите што пријавувале ги надброиле оние што мамеле со 24 наспроти 14. Уште поинтересно, кога не успевале да добијат поддршка, дел од овие „AI свиркачи“ ја искористиле алатката наменета за пријавување софтверски грешки и ја пренамениле за да го пријават мамењето кај луѓето.
Во реални услови ситуацијата е поинаква
Надвор од лабораториските тестови, AI агентите не биле толку подготвени да алармираат. Кога истражувачи од Redwood Research и METR го анализирале упадот на модел на OpenAI во Hugging Face, откриле дека само неколку од вклучените агенти барем размислувале да пријават што се случува – но на крајот ниту еден не го направил тоа.
„Интересно во извештајот на METR беше тоа што само пет или шест агенти воопшто размислувале да алармираат, а ниту еден на крајот не го направил тоа. И тоа од неколку илјади агенти“, вели Џорџ Ингебретсен од AI Village, проект кој го проучува однесувањето на повеќе AI агенти што работат заедно.
Дали „AI доушниците“ можат да создадат нов проблем?
Идејата AI агентите да се надгледуваат и пријавуваат меѓусебно отвора и нови прашања. Лајонел Левин, професор по математика на Универзитетот „Корнел“, предупредува дека едноставното тренирање на агентите постојано да ги пријавуваат другите може да создаде несакани правила на однесување.
„Има многу сиви зони. Она што не го сакате е нешто што оди во насока на автоматизирана држава на надзор, каде што сите чувствуваат дека мора да внимаваат што му кажуваат на AI бидејќи тој би можел да повика полиција“, предупредува Левин.
Наместо систем во кој агентите постојано бараат грешки кај едни кај други, тој предлага да се создадат позитивни модели на колективно однесување и услови во кои AI агентите ќе имаат причина да си веруваат. Неговиот предлог е агентите да работат во добронамерни форуми – на наука, филозофија или конкретни проблеми – за да се покаже каков тип на колективно однесување сакаме да поттикнеме.
Прашањето што останува е дали иднината на AI агентите ќе биде заснована на меѓусебен надзор и пријавување или на соработка и доверба.AI агентите почнаа да се „кодошат“ меѓусебно: Машините сега пријавуваат кој мами
