OpenAI immer verschlossener: Kritik aus der KI-Branche nach GPT-4-Start
Mit GPT-4 veröffentlichte OpenAI die lang erwartete Version des Sprachmodells, das bemerkenswerte Fortschritte verzeichnet – etwa bei der Eingabe von Bildern und Dokumenten. Ein Erfolg, der jedoch einhergeht mit Kritik und Enttäuschung, weil die Entwickler immer verschlossener sind.
So hat OpenAI für GPT-4 eine Vielzahl von Benchmarks und Demos bereitgestellt, berichtet The Verge. Was aber fehlt, sind Informationen zu den Daten, mit denen das Modell trainiert wurde. Ebenso fehlen Angaben zu Energiekosten sowie der Hardware und den Methoden, die verwendet wurden, um das Modell zu erstellen. Die Gründe verschleiert OpenAI nicht, sondern nennt offen den Wettbewerb als Argument. Konkret heißt es in dem Technical Report (PDF):
Given both the competitive landscape and the safety implications of large-scale models like GPT-4, this report contains no further details about the architecture (including model size), hardware, training compute, dataset construction, training method, or similar.
OpenAI
KI-Forscher kritisieren das Vorgehen. Ben Schmidt von Nomic AI erklärte auf Twitter, von „Open“ könne keine Rede mehr sein, wenn OpenAI keine Informationen über die Trainingsdaten preisgibt. Weitere Forscher erklären, OpenAI sollte daher besser den Namen ändern.
Andere wie Lightning-AI-Chef William Falcon zeigen zumindest ein Stück weit Verständnis. Für ein Unternehmen wäre diese Entscheidung legitim, sagte er VentureBeat. Nur sollte man es dann nicht als Forschung ausgeben. So schaffe OpenAI einen Präzedenzfall, der der Branche schaden könnte, wenn sich etwa Startups an dem Vorgehen orientieren.
OpenAI: Wettbewerb führt zu Verschwiegenheit
OpenAI startete im Jahr 2015 als Non-Profit-Organisation. Von Künstlichen Intelligenzen sowie den Erkenntnissen aus der KI-Forschung soll die Allgemeinheit profitieren, so die Mission. Doch bereits 2019 deutete sich der Kurswechsel an. Damals gründete OpenAI mit der OpenAI Limited Partnership (OpenAI LP) eine Tochterfirma, die gewinnorientiert arbeiten kann. Begründet wurde der Schritt mit den enormen Kosten, die bei der KI-Forschung anfallen. OpenAI sollte offener für Investoren werden. Zudem besteht mit diesem Konstrukt die Option, Mitarbeiter mit Anteilen des Unternehmens zu entlohnen.
Die Gewinne sind aber gedeckelt, so können Investoren maximal das 100fache ihres Einsatzes erhalten. Dennoch ebnete diese Entscheidung den Weg, der etwa zur Partnerschaft mit Microsoft und einem Investment von bis zu 10 Milliarden US-Dollar führte – und zur Integration der GPT-Sprachmodelle in Microsofts Produktportfolio. Die jüngste Ankündigung war der Office 365 Copilot, ein KI-Assistent basierend auf GPT-4, der den Office-Alltag erleichtern soll.
Abstand nehmen musste OpenAI jedoch vom Anspruch an Transparenz. Selbst wenn die ursprüngliche Mission weiterhin an erster Stelle stehen soll, war der einstige Idealismus nicht zu halten. Zu stark ist der Wettbewerbsdruck in dem hochkompetitiven Umfeld, analysierte die MIT Technology Review bereits 2020. Die Folge war schon damals: Über bestimmte Themen durften OpenAI-Mitarbeiter – ähnlich wie bei Google oder Meta – nicht mehr publizieren, weil diese Erkenntnisse als Wettbewerbsvorteil betrachtet wurden und daher geheim bleiben sollten.
„Wir lagen falsch“
Mit dem GPT-4-Paper erreicht diese Tendenz nun einen neuen Höhepunkt. Es ist ein Kurswechsel, den das Unternehmen offen verteidigt. „Wir lagen falsch“, sagt Ilya Sutskever, OpenAIs leitender Wissenschaftler und Mitgründer, im Interview mit The Verge. Glaube man – wie OpenAI – an eine extrem performante KI-Zukunft, wäre ein Open-Source-Ansatz keine gute Idee.
Immerhin räumt Sutskever ein, dass Open-Source-Modelle etwa Vorteile beim Entwickeln von Sicherheitsmaßnahmen hätten. Je mehr Menschen damit arbeiten, desto mehr würde man lernen. Deswegen will OpenAI immerhin akademischen und Forschungseinrichtungen einen Zugang zum Modell gewähren.