Nvidia денеска ја претстави Open Agent Safety Platform, платформа со која компаниите ќе можат да поставуваат ограничувања и да ја следат работата на AI агентите. Станува збор за програми што можат самостојно да извршуваат задачи со пристап до податоци, алатки и други системи.

Платформата има два главни дела. Софтверот OpenShell треба да одредува што смее да користи еден агент и да ги следи неговите постапки додека работи. Вториот дел, Sentry, е замислен како дополнителен надзор на ниво на компјутерската инфраструктура. Според Nvidia, тој може да го изолира агентот ако се обиде да ги надмине поставените граници.

Идејата е безбедносните правила да се спроведуваат надвор од самиот AI агент. На пример, компанија би можела да му дозволи на агентот да чита одредени документи, но да му забрани пристап до други податоци или самостојно извршување чувствителни дејства. Дали овие механизми ќе бидат доволно ефикасни во широка употреба допрва ќе се види; засега станува збор за можностите што ги претставува Nvidia.

Компанијата соопшти дека софтверските делови на платформата се достапни за развивачите и дека на технологијата соработува со повеќе компании од секторите за вештачка интелигенција и кибербезбедност.