Nvidia разработва нова софтуерна платформа, предназначена да ограничава нежеланото поведение на автономните AI агенти и да предотвратява излизането им извън предварително определена среда. Част от технологията е с отворен код, а компанията я представя като „референтен дизайн“, върху който партньорите ѝ могат да изграждат собствени търговски решения.

Гигантът в производството на полупроводници Nvidia обяви нова софтуерна платформа за безопасност на AI агентите. Целта ѝ е да даде на разработчиците допълнителни инструменти за контрол върху поведението на системите с изкуствен интелект, включително механизми за задаване на ограничения и предотвратяване на действия извън предварително определена среда.

Платформата е част от усилията на индустрията да отговори на новите предизвикателства, свързани с развитието на автономните AI агенти. За разлика от традиционните чатботове, тези системи могат самостоятелно да изпълняват поредица от задачи, да използват външни инструменти и да взаимодействат с различни софтуерни среди. Това увеличава възможностите им, но същевременно поставя по-високи изисквания към контрола и сигурността.

Nvidia определя новото решение като „референтен дизайн“. На практика това означава, че платформата служи като технологична основа, върху която партньорите могат да разработват и предлагат собствени продукти. Част от софтуера е с отворен код, което позволява на разработчиците да го използват и адаптират според конкретните си нужди.

Компанията представи и Sentry – компонент, предназначен да наблюдава действията на AI агентите. Технологията е разработена така, че да работи върху мрежови чипове, вместо да разчита на централния процесор (CPU) или графичния процесор (GPU). Това позволява функциите за наблюдение и контрол да бъдат отделени от основните изчислителни ресурси, използвани от AI системите.

Nvidia разширява ролята си отвъд хардуера

Nvidia се намира в центъра на експанзията на генеративния изкуствен интелект през последните години. Графичните процесори на компанията се превърнаха в ключов хардуерен компонент за обучението и работата на големи езикови модели, както и за изграждането на инфраструктурата зад множество AI услуги.

С навлизането на автономните агенти обаче фокусът постепенно се измества не само към изчислителната мощ, но и към начина, по който тези системи действат в реална среда. Именно в тази посока е насочена и новата платформа на Nvidia – да предостави инфраструктура, чрез която разработчиците да определят граници за поведението на AI агентите и да следят за тяхното спазване.

Сред компаниите, които Nvidia посочва като партньори по инициативата, са Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, Arm и Intel. Компанията работи и с Anthropic по интегрирането на агенти, управлявани в облачна среда, чрез компонента OpenShell.

Новата платформа показва и по-широката посока, в която се развива AI индустрията – от създаването на все по-мощни модели към изграждането на инфраструктура, която да определя как тези модели могат да действат, какви ресурси могат да използват и докъде се простира тяхната автономност.

За Nvidia това означава разширяване на ролята ѝ от доставчик на ключовия хардуер за изкуствения интелект към компания, която се стреми да участва и в изграждането на софтуерните механизми за управление и сигурност на следващото поколение AI системи.