KI-Sicherheitsdebatte: Sam Altman warnt ebenfalls vor Kontrollverlust durch KI

OpenAI-Chef Sam Altman unterstützt den Vorstoß von Anthropic-Chef Dario Amodei, das Entwicklungstempo der leistungsfähigsten KI-Systeme zu drosseln und zugleich verbindlichere Sicherheitsmechanismen zu etablieren. Altman warnt dabei vor zwei Fehlentwicklungen: den Kontrollverlust über oder durch die Künstliche Intelligenz.

Künstliche Intelligenz als Gefahr

Aufschwung erhielt die ohnehin zunehmend intensiv geführte Debatte über die Sicherheit Künstlicher Intelligenz durch den Abgang von Jacob Coxon, der Anthropic in den vergangenen Tagen verlassen hatte. Seinen Abschied verband er mit der eindringlichen Warnung, dass die derzeit entwickelten Systeme bis zum Ende des Jahrzehnts eine existenzielle Gefahr darstellen könnten.

Anthropic-Chef Dario Amodei legte daraufhin einen ausführlichen Vorschlag vor, der eine Verlangsamung der Entwicklung an der technologischen Spitze vorsieht. Unterstützung erhielt er unter anderem von Altman, Elon Musk und Google-DeepMind-Chef Demis Hassabis – eine seltene Übereinstimmung zwischen Vertretern ansonsten stark konkurrierender Unternehmen. Bei OpenAI führte die Debatte zudem dazu, den geplanten Börsengang vorerst auf Eis zu legen.

Altman hat einem Bericht von CNBC zufolge inzwischen konkretisiert, welche Leitplanken OpenAI für einen solchen Kurs als sinnvoll erachtet. Einen vorgeschlagenen bundesweiten gesetzlichen Rahmen, der einheitliche Sicherheits­anforderungen für Entwickler sogenannter Frontier-KI schaffen und unabhängigen Prüfern eine wichtige Rolle einräumen könnte, begrüße der Konzern ausdrücklich. Allein auf staatliche Vorgaben zu warten, hält Altman allerdings für den falschen Weg: Die Unternehmen sollten entsprechende Sicherheits­maßnahmen bereits eigenständig umsetzen, bevor der Gesetzgeber sämtliche Regeln festgelegt hat.

Zu viel Macht an einer Stelle

Zwei Szenarien hält Altman für besonders problematisch. Zum einen bestehe seiner Aussage nach das Risiko, dass Menschen die Kontrolle über die weitere Entwicklung Künstlicher Intelligenz verlieren. Zum anderen könne eine zu starke Konzentration der Technologie außergewöhnlich viel Macht in den Händen einer einzelnen Person oder eines einzelnen Unternehmens bündeln. Die technische Frage nach der Beherrschbarkeit immer leistungsfähigerer KI-Systeme verknüpft Altman damit unmittelbar mit der gesellschaftlichen und politischen Frage, wer letztlich die Kontrolle über diese Technologie ausübt.

Eine Verlangsamung dürfe nach Altmans Vorstellungen allerdings keinesfalls einem Entwicklungsstopp gleichkommen. Der Fortschritt werde weiterhin schnell verlaufen, davon zeigt sich der OpenAI-CEO überzeugt. Stattdessen gehe es darum, die Fähigkeiten neuer Modelle nur in einem Tempo auszubauen, mit dem Verfahren für Alignment, Überwachung und Sicherheitskontrollen Schritt halten können. Bereits Amodei hatte ähnlich argumentiert und darauf verwiesen, dass sich der technologische Fortschritt zuletzt erheblich beschleunigt habe. Setze sich diese Dynamik fort, könnten die menschlichen Möglichkeiten, die Systeme zu verstehen und zu kontrollieren, hinter deren Entwicklung zurückbleiben. Der Konkurrenzdruck innerhalb wie außerhalb der USA dürfe laut Altman dafür keine Rechtfertigung sein.

Internationale Einhaltungen die größte Schwachstelle des Plans

Genau an diesem Punkt liegt für Altman zugleich die wohl größte Schwachstelle des Vorhabens: die internationale Abstimmung. Selbst eine Einigung amerikanischer Unternehmen auf ein begrenztes Entwicklungstempo könnte schnell wirkungslos werden, wenn Konkurrenten in anderen Staaten ihren bisherigen Kurs fortsetzen.

Besondere Bedeutung kommt dabei China zu, das mit den USA um die technologische Führungsposition bei Künstlicher Intelligenz konkurriert. Gleichzeitig gewinnen chinesische Modelle sowohl bei ihrer Leistungsfähigkeit als auch bei ihrer internationalen Verbreitung zunehmend an Boden. Auch Amodei räumt ein, dass sich eine internationale Begrenzung des Entwicklungstempos angesichts erheblicher wirtschaftlicher und militärischer Anreize nur schwer durchsetzen lassen dürfte.

USA und China lehnen Pläne aus mehr oder weniger gleichen Gründen ab

Damit wäre eine internationale Koordination unter Führung verschiedener Regierungen eine wesentliche Voraussetzung für den Erfolg des Vorhabens. Widerstand kommt allerdings bereits aus den USA selbst. Die US-Regierung lehnt eine Verlangsamung ab, weil Präsident Trump darin eine mögliche Gefährdung der amerikanischen Führungsposition gegenüber China sieht. Zugleich stellte er die Warnungen der KI-Chefs öffentlich infrage und hob stattdessen die strategische Bedeutung eines amerikanischen Sieges im internationalen KI-Wettbewerb hervor. Auch darüber hinaus stoßen zusätzliche Regulierungen innerhalb der US-Politik auf erhebliche Skepsis.

Erwartungsgemäß fällt die Reaktion aus China ebenfalls ablehnend aus, wenn auch aus einer anderen Blickpunkt: Dort werden die jüngsten Warnungen als reine Panikmache zurückgewiesen. Gleichzeitig gilt Amodeis Vorstoß als Versuch, Chinas legitime technologische Entwicklung als Bedrohung darzustellen und damit die Konfrontation zwischen beiden Ländern im KI-Bereich weiter zu verschärfen.