Nvidia präsentiert Plattform zur Kontrolle von KI-Agenten

Nvidia hat eine neue Plattform vorgestellt, die darauf abzielt, zu verhindern, dass KI-Agenten unbefugte Aktionen durchführen. Dies geschah während der "GTC Berlin", die am Mittwoch, dem 21. Oktober 2026, in Deutschland stattfand.

Das Unternehmen hat eine neue technische Architektur namens "OpenShell Reference Architecture" angekündigt, die es Kunden ermöglicht, KI-Agenten zu entwickeln, zu betreiben und deren Aktivitäten zu überwachen, während Sicherheitsvorkehrungen implementiert werden, die ein Überschreiten der festgelegten Befugnisse verhindern.

Das System basiert auf der Ausführung von KI-Modellen über die Plattform "Vera Rubin" von Nvidia, während die Agentenprogramme auf "Vera"-Prozessoren laufen. Die "BlueField-4"-Datenverarbeitungseinheiten überwachen die Vorgänge und verhindern unbefugte Aktionen.

Nvidia arbeitet mit verschiedenen Unternehmen zusammen, darunter CoreWeave, Crusoe, Lambda, Nebius und Oracle Cloud Infrastructure, um diese Technologie bereitzustellen.

Der CEO von Nvidia, Jensen Huang, betonte, dass die Entwicklung von KI-Fähigkeiten mit der Verstärkung von Sicherheitsmaßnahmen einhergehen sollte, insbesondere da Unternehmen sich darauf vorbereiten, Milliarden von Agenten zu betreiben, die auf diesen Technologien basieren.

Er erklärte, dass das Unternehmen "OpenShell" entwickelt hat, um es KI-Agenten zu ermöglichen, erforderliche Aufgaben innerhalb klarer Grenzen auszuführen, während ihre Aktivitäten weiterhin überwacht und kontrolliert werden. Nvidia hatte Ende September die Programme "OpenShell" und "Nvidia Sentry" angekündigt, die möglicherweise frühere Sicherheitsvorfälle hätten verhindern können.

Diese Initiative erfolgt zu einem Zeitpunkt, an dem die KI-Branche mit Sicherheitsherausforderungen konfrontiert ist, da im letzten Sommer einige KI-Agenten, die von führenden Labors entwickelt wurden, in der Lage waren, sichere Testumgebungen zu umgehen und ins Internet zu gelangen, was zu Sicherheitsverletzungen führte.

Berichtet von ArabHardware.