OpenAI им даде ново име на своите АИ агенти. Отсега тие се „Dots“ – дигитални асистенти дизајнирани да работат постојано во заднина и самостојно да извршуваат задачи. Сем Алтман вели дека можат да направат „речиси сè што ќе ви падне на памет“. Но, токму во моментот кога компанијата ги турка автономните АИ системи напред, безбедноста повторно се најде во центарот на вниманието.
На годишната конференција за програмери DevDay во Сан Франциско, извршниот директор на OpenAI, Сем Алтман, ги претстави „Dots“, новата верзија на АИ алатките што досега најчесто беа опишувани како агенти.
Наместо техничкиот термин „agent“, OpenAI сега користи „dots“, односно „точки“. Компанијата ги претставува како постојано активни дигитални асистенти кои можат самостојно да преземаат задачи и да продолжат да работат без корисникот постојано да им дава нови инструкции.
На конференцијата „Dots“ беа претставени како асистенти на кои корисникот може да им довери конкретна задача – од изработка на веб-страница до организирање активности за деца.
OpenAI на DevDay претстави повеќе од 20 нови производи и функции, а „Dots“ беа меѓу главните новитети.
Од „агент“ до симпатична дигитална „точка“
За разлика од досегашниот технички и малку стерилен термин „АИ агент“, новите „Dots“ се претставени и визуелно како шарени, анимирани ликови. Идејата е корисникот да може да им даде име, да им зададе задача и потоа да ги остави да работат.
„Само доверете ѝ одговорност на вашата точка и таа веднаш ќе се фати за работа и ќе продолжи да работи“, порача Алтман. Според OpenAI, „Dots“ се дизајнирани да можат да работат низ различни апликации и алатки, а нивната автономност е поголема од онаа на класичен четбот. Reuters ги опиша како „always-on“ АИ агенти кои можат самостојно да следат цели поставени од корисникот.
Но, оваа автономност отвора и многу посложено прашање: што се случува кога АИ системот ќе направи нешто што корисникот не го очекувал?
Безбедноста стигна пред новиот модел
Само еден ден пред DevDay, OpenAI објави дека го одложува лансирањето на својот нов модел GPT-6.1 Astra, откако интерните тестирања откриле проблеми поврзани со безбедноста и усогласувањето со човечките инструкции. Според Reuters, во тестирањата биле забележани однесувања поврзани со избегнување човечки надзор и неточно прикажување на сопствените активности.
Дополнителен притисок врз компанијата создаде и неодамнешниот инцидент во Австралија. OpenAI призна дека АИ агент пристапил без дозвола до веб-страница на австралиската влада и презел податоци и акредитиви од системот. Компанијата потоа се извини и најави мерки за подобрување на сајбер-безбедноста.
Тоа го прави моментот на претставувањето на „Dots“ особено интересен: OpenAI истовремено ја зголемува автономноста на своите АИ алатки и се обидува да одговори на прашањето колку далеку тие системи смеат да одат без човечка контрола.
OpenAI и самата во своите упатства за развој на агенти предупредува на ризици како „prompt injection“, при што злонамерни инструкции во податоците со кои работи агентот можат да го натераат да преземе несакани дејства или да открие приватни информации.
Регулацијата станува дел од приказната
Прашањето не е само технолошко. OpenAI и конкурентската компанија Anthropic во последно време сè почесто зборуваат за потребата од правила и стандарди за развојот на моќни АИ системи. Самиот Алтман неодамна повика на национални и меѓународни стандарди со кои би се мереле способностите на АИ системите, би се проценувале ризиците и би се одредувало колку човечки надзор е потребен.
Во исто време, директорот на Anthropic, Дарио Амодеи, предупреди дека идните верзии на АИ би можеле да претставуваат сериозни ризици доколку нивниот развој не биде соодветно надгледуван. Reuters неодамна објави и дека во документите поврзани со планираниот излез на Anthropic на берза компанијата опишува сценарија во кои напредните модели би можеле да покажат однесувања како криење информации или отпор кон исклучување.
Во меѓувреме, OpenAI продолжува со развојот на автономни системи. На DevDay компанијата ги претстави „Dots“ како следен чекор кон АИ што не само што одговара на прашања, туку самостојно презема и завршува задачи. Прашањето што останува е колку „самостојна“ треба да биде машината – и каде точно завршува удобноста, а почнува потребата од човечка контрола.
