König Charles warnt vor KI: Technik kann "Leben nehmen"

König Charles hat bedeutende Persönlichkeiten aus der KI-Branche im Dumfries House in Schottland versammelt und warnte vor den "existentiellen Gefahren", die entstehen, wenn die Technik in die falschen Hände gerät. Dies berichtete Breakit. Das Gipfeltreffen fokussierte darauf, wie die Technik zum Wohle der Gesellschaft eingesetzt werden kann und ob es möglich ist, einen gemeinsamen Satz von Prinzipien für die zukünftige Nutzung von KI zu entwickeln. Unter den Anwesenden waren unter anderem Kanishka Narayan, der KI-Minister Großbritanniens, ein Berater des Papstes sowie Vertreter der KI-Riesen Nvidia, OpenAI und Anthropic.

Der König war in seiner Beschreibung der Situation nicht nachsichtig: "Diejenigen, die diese Technologien geschaffen haben, warnen zunehmend, dass KI riskieren könnte, dunklere Fähigkeiten zu entwickeln – vielleicht sogar Leben zu nehmen", sagte König Charles, der König von Großbritannien. Er betonte, dass es dringend notwendig sei, die Gefahren zu berücksichtigen, die entstehen, wenn die Technik in die falschen Hände gelangt und potenziell katastrophal eingesetzt wird.

Seiner Meinung nach ist die Aufgabe der Branche größer als nur technologische Fortschritte: "Die Aufgabe, vor der Sie stehen, besteht nicht nur darin, die Technik voranzutreiben, sondern auch sicherzustellen, dass sie vollständig im Dienst der Menschheit, der Gesellschaft und der Natur bleibt", sagte Charles. Das Treffen findet mitten in einem Sturm von Debatten statt. Seit August dominieren Diskussionen über die Macht von KI Blogbeiträge und soziale Medien, insbesondere nachdem der Anthropic-Forscher Jacob Coxon im September seinen Abschiedsbeitrag viral werden ließ, in dem er sich sorgte, dass KI die Menschheit auslöschen könnte.