Nvidia lançon një platformë sigurie për agjentët e inteligjencës artificiale, ja si funksionon

Nvidia po lançon një platformë sigurie për agjentët e inteligjencës artificiale (IA) me të cilën po bashkëpunojnë më shumë se 100 organizata, duke përfshirë Anthropic, SpaceXAI dhe JPMorganChase.

E quajtur Platforma e Sigurisë së Agjentëve të Hapur të Nvidia, ajo është projektuar për të vendosur kufizime në atë që agjentët mund të kenë qasje dhe për t’i futur ata në “karantinë” brenda milisekondave nëse i kalojnë këto kufizime.

Platforma mund të përdoret në të gjithë softuerët dhe pajisjet, sistemet kompjuterike dhe robotike që drejtojnë agjentë.

“Potenciali i jashtëzakonshëm i inteligjencës artificiale për shoqërinë do të realizohet vetëm nëse zgjidhim problemin e sigurisë së inteligjencës artificiale”, tha Jensen Huang, CEO dhe themeluesi i Nvidia.

 “Ndërsa vazhdojmë të zbulojmë kufijtë e aftësive të IA-së, duhet të përshpejtojmë zbulimin në kufijtë e sigurisë së IA-së… Së bashku, mund ta ngremë standardin për sigurinë globale të IA-së.”

Platforma e Sigurisë së Agjentit të Hapur Nvidia përbëhet nga dy mjete, OpenShell dhe Sentry.

OpenShell funksionon në njësi qendrore përpunimi (CPU), çipat që merren me shumë nga detyrat e nevojshme për të drejtuar agjentët e IA-së. Nvidia thotë se funksionon në mënyrë efikase në Vera, CPU-në e saj më të fundit të projektuar për agjentët e IA-së, dhe gjithashtu mund të përshtatet për çipat e prodhuar nga kompani të tjera.

Sentry është një sistem shtesë “mbikëqyrës” që do të funksionojë në një çip të veçantë Nvidia, duke vëzhguar agjentët që kalojnë kontrollet e softuerit.

Organizatat që punojnë me Nvidia-n po e përdorin ose po e zhvillojnë teknologjinë në mënyra të ndryshme, thotë Nvidia.

Anthropic ka bashkëpunuar me Nvidia për të shtuar kontrolle sigurie në shërbimin e saj Claude që bizneset të përdorin agjentë të inteligjencës artificiale, duke u lejuar kompanive të kufizojnë aksesin e këtyre agjentëve.

Divizioni i IA-së i SpaceX, SpaceXAI, thotë se po përdor platformën për agjentët e kodimit Cursor dhe modelet Grok, ndërsa Salesforce ka integruar OpenShell me Slack në mënyrë që ekipet të mund të shohin se çfarë po bëjnë agjentët dhe të miratojnë ose refuzojnë kërkesat për leje shtesë.

Në sektorin e financës, JPMorganChase dhe Citi po bashkëpunojnë me Nvidia-n në teknologjinë e përbashkët të sigurisë së agjentëve me burim të hapur.