Microsoft-CEO Nadella: Superintelligenz muss unter menschlicher Kontrolle ste­hen

In den letzten Tagen warnte Anthropic-Chef Dario Amodei vor Agenten-Schwärmen, OpenAI sagte angesichts der aktuellen Krise bei der KI-Sicherheit den geplanten Börsengang ab. Nun fordert auch Microsoft-Chef Satya Nadella ein bewusstes und kontrolliertes Entwicklungstempo auf dem Weg zu einer möglichen KI-Superintelligenz.

Klare Richtung gefordert

Eine Verlangsamung allein reicht Nadella dabei nicht aus, wie dieser auf dem Kurznachrichtendienst X mitteilte. Ebenso entscheidend seien eine klare Ausrichtung auf den Nutzen für die Menschheit und letztlich die menschliche Kontrolle über die Technologie. Eine Superintelligenz, die diesen Anforderungen nicht gerecht wird, sei seiner Auffassung nach „nicht erstrebenswert“. Diese Vorsicht dürfe allerdings nicht dazu führen, die Verbreitung und Nutzung bereits verfügbarer Künstlicher Intelligenz ebenfalls auszubremsen. Während bei immer leistungsfähigeren Frontier-Modellen Zurückhaltung geboten sei, müssten die wirtschaftlichen und gesellschaftlichen Vorteile von KI schneller über Länder, Gemeinschaften und Unternehmen hinweg verfügbar werden.

Nadella zieht damit eine klare Trennlinie zwischen dem Entwicklungstempo an der technologischen Spitze und der Verbreitung bereits vorhandener KI-Fähigkeiten. Je leistungsfähiger neue Modelle werden, desto wichtiger sei für ihn ein bewusstes und kontrolliertes Vorgehen. Bei der praktischen Nutzung von KI gelte dagegen das Gegenteil: Sie müsse beschleunigt werden, damit ihre Vorteile möglichst breit verfügbar seien. Als Voraussetzung dafür sieht Nadella ein Ökosystem, in dem geschlossene und quelloffene Modelle gleichermaßen bestehen und weiterentwickelt werden können. Grundsätzlich spricht sich der Microsoft-Chef für einen breiten Zugang zur KI-Technologie und entsprechende Wahlmöglichkeiten über das gesamte Ökosystem hinweg aus.

Verbindliche Regelungen bei Microsoft geplant

Microsoft selbst will diese Grundsätze in nächster Zeit mit einem eigenen Verhaltenskodex für seine MAI-Modelle untermauern. Nach der Veröffentlichung soll dieser einer öffentlichen Begutachtung unterzogen werden, sodass nicht allein das Unternehmen darüber entscheidet, in welche Richtung sich die eigenen Modelle entwickeln und welchen Regeln sie künftig folgen. Eine ebenso zentrale Rolle räumt Nadella der Kontrolle von Unternehmen über ihre eigenen Daten, Modelle und Lernprozesse ein. Wer KI einsetzt, müsse seiner Ansicht nach „unerlässlich“ die vollständige Kontrolle über sein „einzigartiges und implizites Wissen“ behalten. Jeder KI-Anbieter soll dazu einen eigenen „Lernkreislauf“ aufbauen können, ohne dauerhaft von einem einzigen Modellanbieter abhängig zu sein. Organisationen sollen darüber hinaus die Möglichkeit erhalten, ihr eigenes Wissen in Modelle zu integrieren und zugleich die Kontrolle über die Modelle beziehungsweise deren Gewichtungen zu behalten.

CEO bewertet Auseinandersetzung positiv

Die derzeit intensiv geführten Diskussionen und Auseinandersetzungen über die Zukunft der Künstlichen Intelligenz und deren mögliche Gefahren sieht Nadella ausdrücklich positiv. Das gilt auch für Bemühungen um ein bewusst gewähltes Entwicklungstempo, mit dem die Ausrichtung von KI an menschlichen Zielen von Beginn an zu einem zentralen Design-Prinzip werden soll. Gleiches gelte für Ansätze, bei denen Evaluierungsmechanismen unmittelbar in die KI-Systeme selbst integriert werden.

Die Ausrichtung und Kontrolle immer leistungsfähigerer KI dürfe nach Ansicht des Microsoft-Chefs allerdings nicht in den Händen einiger weniger Unternehmen oder Institutionen liegen. Nadella hält es für wichtig, Vertreter unterschiedlicher technologischer Ökosysteme, Länder und Fachgebiete in diesen Prozess einzubeziehen. Dabei bezieht er sich ausdrücklich auch auf die Wissenschaft.