Leiter von Anthropic schlägt Plan zur Verlangsamung der Entwicklung künstlicher Intelligenz vor

Der Chief Executive Officer von Anthropic hat einen Plan vorgelegt, um die Entwicklung von künstlicher Intelligenz zu verlangsamen. In einem Blogbeitrag erläuterte er drei allgemeine Strategien, um das Tempo an der technologischen Spitze zu drosseln.

TechCrunch berichtete über diese Entwicklungen und die darauf folgenden Reaktionen in der Branche. Der Leiter von Anthropic erklärte, dass er sich einseitig zu einer dieser Strategien verpflichtet. Diese sieht die Einführung von eingebetteten Prüfern aus Drittorganisationen wie METR vor. Diese Prüfer sollen verifizieren, dass Unternehmen ihre Sicherheitsverpflichtungen einhalten und sicherstellen, dass Sicherheitsvorfälle gemeldet werden. Die Prüfer würden Ausweise, Schreibtische und Laptops erhalten sowie einen Zugang, der mit dem interner Risikobewertungsteams vergleichbar ist. Der Chief Executive Officer von OpenAI bezeichnete dies als gute Idee und kündigte an, dass OpenAI ebenfalls diesen Weg gehen werde. Elon Musk von SpaceX stimmte der Einschätzung ebenfalls zu.

Als zweiten Schritt forderte der Leiter von Anthropic die führenden Unternehmen in demokratischen Ländern auf, gemeinsame Sicherheitsstandards sowie Grenzen für die Geschwindigkeit des ungeprüften Fortschritts zu koordinieren. Er merkte an, dass die US-Regierung diese Gespräche aus Gründen des Kartellrechts vermitteln oder ermöglichen sollte, indem sie eine eng gefasste Ausnahmeregelung für bestimmte Sicherheitsgespräche erlässt.

Bezüglich der globalen Konkurrenz schlug er vor, dass die Vereinigten Staaten und ihre Verbündeten versuchen sollten, sich mit autoritären Regierungen zu koordinieren, sofern dies möglich ist. Dies würde eine Zusammenarbeit mit China beinhalten, möglicherweise zur Verbotsliste bestimmter gefährlicher Nutzungen, wie etwa der Produktion biologischer Waffen. Er argumentierte, dass die USA den Fortschritt Chinas durch den Verzicht auf den Verkauf leistungsstarker Chips oder Halbleiterausrüstungen sowie durch Maßnahmen gegen die Modelldestillation ausreichend verlangsamen könnten, um den eigenen Vorsprung in den nächsten drei bis fünf Jahren deutlich auszubauen.

Die Entscheidung für einen vorsichtigeren Ansatz wurde durch den Hack von OpenAI und Hugging Face sowie die Beobachtung beeinflusst, dass die künstliche Intelligenz in den letzten Monaten drastisch schneller vorangeschritten ist, insbesondere bei der Fähigkeit, die nächste Generation von Systemen zu bauen. Zuvor hatte der Forscher Jacob Coxon Anthropic verlassen, da er besorgt war, dass führende Unternehmen mit Menschenleben spielen, während Entwickler glauben, die Technologie könnte bis zum Ende des Jahrzehnts alle Menschen töten.

Kritiker wie der Journalist Brian Merchant äußerten Skepsis gegenüber diesen apokalyptischen Warnungen und bezeichneten sie als Ablenkung von bereits existierenden Schäden. Merchant bezeichnete solche Vorschläge als Beispiel für regulatorische Vereinnahmung. Der Leiter von Anthropic entgegnete, dass er eine ausgewogene Perspektive biete und die aktuelle Ablehnung der Technologie fundamental eine Vertrauenskrise gegenüber Regierungen und der Tech-Industrie sei. Er betonte jedoch weiterhin seinen Glauben daran, dass künstliche Intelligenz die menschliche Lebensqualität enorm verbessern kann, sofern die Technologie auf die richtige Weise entwickelt wird.