OpenAI: Sprachmodell GPT-4o mini löst GPT-3.5 Turbo in ChatGPT ab
Die KI-Entwickler von OpenAI haben mit GPT‑4o mini ein neues multimodales Sprachmodell (LLM) vorgestellt, das als kleinere Ausführung von GPT‑4o an den Start geht und bessere Ergebnisse liefern soll als GPT‑3.5 Turbo. Dementsprechend wurde GPT‑3.5 Turbo jetzt durch das neue GPT‑4o mini innerhalb von ChatGPT abgelöst.
GPT-4o mini sei das kosteneffizienteste kleine Sprachmodell, das OpenAI bislang entwickelt habe, heißt es in der Ankündigung. Das LLM erreiche eine Wertung von 82 Prozent in MMLU (Measuring Massive Multitask Language Understanding), während GPT‑3.5 Turbo, das durch GPT‑4o mini ersetzt wird, lediglich auf 69,8 Prozent komme. Spitzenreiter in dem von OpenAI zusammengestellten Vergleich ist unterdessen das vollwertige GPT‑4o mit 88,7 Prozent. Konkurrent Gemini Flash kommt auf 77,9 Prozent. Das Sprachmodell soll aber auch in anderen Messwerten besser abschneiden.
Besser und günstiger als GPT‑3.5 Turbo
Die Kosten von GPT-4o mini belaufen sich auf 15 US-Cent pro Input von einer Million Tokens und 60 US-Cent für eine Million Tokens Output. Damit sei das LLM 60 Prozent günstiger als GPT‑3.5 Turbo und schneide dennoch besser ab. Das Sprachmodell habe mit seinen geringen Kosten und der niedrigen Latenz Vorteile bei der Verkettung mehrerer Aufrufe, wenn multiple APIs angesprochen werden, und könne Eingaben mit größerem Kontext wie beim Import einer vollständigen Codebasis besser verarbeiten.
Aktuell unterstützt GPT-4o mini Kontextfenster von 128.000 Tokens und 16.000 Output-Tokens pro Anfrage. Als multimodales Sprachmodell sollen künftig Text, Bilder, Video und Audio als Input und Output unterstützt werden. Der Wissensstand des Sprachmodells hat den Stand Oktober 2023.
Wie bei den anderen Sprachmodellen von OpenAI seien vor dem Training Informationen herausgefiltert worden, mit denen das LLM nicht trainiert und die bei Anfragen nicht ausgegeben werden sollen. Dazu zählen Hassrede, Erwachseneninhalte, Seiten primär mit persönlichen Informationen und Spam.
Kostenlos in ChatGPT verfügbar
Verfügbar ist GPT‑4o mini ab sofort in der Assistants API, Chat Completions API und Batch API von OpenAI. Entwickler müssen für den Zugriff die eingangs erwähnten 15 US-Cent respektive 60 US-Cent für eine Million Tokens als In- und Output zahlen.
Innerhalb von ChatGPT, das von OpenAI selbst angeboten wird, steht GPT-4o mini den Nutzergruppen Free, Plus und Team anstelle von GPT-3.5 Turbo ab sofort zur Verfügung. Ab kommender Woche sollen auch Enterprise-Anwender umgestellt werden.