Корисниците на ChatGPT ќе можат да му наредат на AI агент да најде резервации во ресторани, да пазарува за нив или дури да изработи список на кандидати за работни позиции, откако четботот доби нови овластувања слични на личен асистент, објавија од OpenAI.
Агентот на ChatGPT, лансиран од OpenAI насекаде освен во ЕУ, не само што „размислува“, туку и дејствува, соопшти американската компанија. Овој агент ги комбинира моќите на истражувачките AI алатки со можноста да управува со интернет-прелистувачи, компјутерски фајлови и софтвер како табели и презентации.
Ова доаѓа по лансирањето на слични агенти од страна на Google и Anthropic, во време кога расте интересот за AI модели што можат да вршат задачи со користење на различен софтвер и автоматски да ги завршуваат задачите – како планирање патувања или истражувања за работа.
„Се надеваат дека агенти како овие ќе донесат вистинска корист – да прават нешта за корисниците, а не само да создаваат убав текст што звучи паметно“, рече Ниам Барнс, виш аналитичар во Enders Analysis.
Но, OpenAI признава дека дозволувањето на AI агент да има дури и ограничен пристап до компјутерски системи носи нови ризици.
Иако е наменет да помага со секојдневни задачи, неговата потенцијална моќ значи дека OpenAI воведе заштити за да спречи создавање биолошки закани.
„Иако немаме цврсти докази дека моделот може реално да ѝ помогне на неискусна личност да создаде сериозна биолошка штета“, рече компанијата, „применуваме претпазливост и спроведуваме неопходни заштити уште сега.“
Моделот е обучен да побара потврда од корисникот пред да направи каква било деструктивна или неповратна акција. Според објава на блогот на компанијата:
„Вие секогаш имате контрола. ChatGPT бара дозвола пред да преземе нешто значајно, и лесно може да го прекинете, преземете контрола или стопирате задачата во кој било момент.“
Лансирањето на агентот исто така покрена шпекулации дека OpenAI можеби сака да оствари приходи ако агентите ги водат корисниците до онлајн продавници. Главниот извршен директор на OpenAI, Сем Алтман, претходно изјави дека компанијата би можела да наплаќа провизија од 2% од продажбата направена преку нејзиниот „deep research“ софтвер.
Потенцијални ризици на OpenAI
Аналитичарката Барнс рече:
„Лесно е да се каже дека системот ќе побара ваша потврда пред купување, но што се случува во процесот на пронаоѓање производи? Ќе има ли комерцијални договори каде брендовите плаќаат да бидат промовирани од асистентите, или ќе ги фаворизираат своите производи во однос на конкурентите?“
„Овие AI компании се под притисок да монетизираат, па некоја верзија на реклами или спонзорирано прикажување изгледа неизбежна.“
OpenAI вели дека агентот не вклучува спонзорирани препораки на производи и дека нема планови тоа да се промени.
Демонстрација на софтверот оваа недела покажа дека може да се побара од агентот да ја прегледа Google календарот на корисникот, да избере работна вечер слободна меѓу 18:00 и 21:00 часот, да бара слободни маси во италијански, суши или корејски ресторани со рејтинг од најмалку 4.3 ѕвезди – и да понуди опции.
Задачата траеше 10 до 15 минути, и како со човечки асистент, корисникот можеше да го прекине агентот и да го насочи во друга насока. Агентот, исто така, може да побара појасни инструкции.
Безбедносни предизвици
Друг клучен ризик е што агентот може да стане жртва на злонамерни инструкции скриени во веб-страници, кои на пример можат да побараат податоци на корисникот.
OpenAI тврди дека има спроведено повеќе безбедносни проверки и го обучи агентот да одбива сомнителни барања, вклучително и оние за банкарски трансфери.
Системот прво ќе биде достапен само за корисници што плаќаат месечна претплата за „Pro“, „Plus“ и „Teams“ верзиите на моделот.
