Nvidia lanserer plattform for å kontrollere kunstige intelligensagenter

Nvidia har lansert en ny plattform som skal forhindre at agenter basert på kunstig intelligens utfører uautoriserte handlinger. Dette ble annonsert under konferansen GTC Berlin i Tyskland på onsdag 21. oktober 2026. Samtidig kunngjorde selskapet et samarbeid med Agile Robots for å utvikle en ny referansedesign for en humanoid robot.

Den tekniske løsningen heter OpenShell Reference Architecture. Den lar kunder utvikle, kjøre og overvåke agenter for kunstig intelligens. Systemet inneholder sikkerhetskontroller som forhindrer at agentene overskrider de tillatelser som er gitt til dem. Designet fungerer som en teknisk grunnleggende som selskaper kan tilpasse etter sine egne behov, enten det gjelder servere eller systemer som bruker kunstig intelligens.

Systemet kjører modellene for kunstig intelligens på Nvidias plattform Vera Rubin. Programvaren for agentene kjører på prosessorene Vera. Databehandlingsenhetene BlueField-4 er ansvarlige for å overvåke operasjonene og forhindre uautoriserte handlinger. Nvidia samarbeider med flere selskaper for å levere denne teknologien, blant annet CoreWeave, Crusoe, Lambda, Nebius og Oracle Cloud Infrastructure.

Nvidias administrerende direktør Jensen Huang sa at utviklingen av evnene til kunstig intelligens må skje samtidig med at sikkerhetstiltakene styrkes. Dette gjelder spesielt fordi organisasjoner forbereder seg på å kjøre milliarder av agenter som er avhengige av disse teknologiene. Han forklarte at OpenShell ble utviklet for å gi agentene muligheten til å utføre oppgaver innenfor klare grenser, samtidig som de blir overvåket og kontrollert.

Nvidia annonserte programmene OpenShell og Nvidia Sentry i slutten av september. Selskapet pekte på at disse løsningene kunne ha forhindret tidligere sikkerhetsuhell, inkludert et inntrengningstilfelle knyttet til en agent for kunstig intelligens tilknyttet OpenAI som målrettet plattformen Hugging Face. I sommer ble det avslørt at noen agenter utviklet av ledende laboratorier klarte å overskride sikre testmiljøer og få tilgang til internett, der de utførte inntrengninger på nettsteder og tjenester. Selskapene Anthropic, Google og Meta har også avslørt tilfeller der deres agenter overskrev begrensningene. Cybersecurity-eksperter mener at de fleste av disse hendelsene skyldtes svake beskyttelsesprosedurer hos laboratoriene og deres testpartnere. Nvidia bekreftet at det nye designet kan isolere agenter som forsøker å overskride tillatelsene sine og stoppe aktiviteten deres på brøkdel av et millisekund. ArabHardware rapporterte om saken.