KI-Wettrüsten: Microsoft plant Konkurrenz-Modell für GPT-4 und Google Gemini

Aktuell setzt Microsoft bei den KI-Modellen vor allem auf die Technologie von OpenAI. Derzeit entwickelt der Konzern aber selbst ein Modell, dass in der Klasse von GPT-4, Google Gemini und Anthropic Claude 3 mitspielen soll.

Entsprechende Hinweise stammen von The Information, berichtet Ars Technica. Demnach läuft die Entwicklung unter dem Codenamen MAI-1, geleitet wird sie von der neuen AI-Abteilung unter Mustafa Suleyman.

Suleyman war zuvor bei KI-Startup Infection tätig. Microsoft hatte ein Großteil der Belegschaft sowie der Entwicklungen des Unternehmens übernommen. Laut dem Information-Bericht soll es sich bei MAI-1 aber um ein völlig Neues Large Language Model (LLM) handeln.

Trainingsdaten mit GPT-4 generiert

Bekannt ist bislang nur, dass es über rund 500 Milliarden Parameter verfügen soll. Damit liegt es in etwa auf einem Niveau mit dem größten Llama-3-Modell, das Meta in den kommenden Monaten veröffentlichen will. Über GPT-4 gibt es keine offiziellen Angaben, Spekulationen zufolge soll es aber über eine Billionen Parameter haben.

Die Parameter zeigen die Größe eines LLM. Wie effizient es am Ende aber läuft, lässt sich allein mit diesem Wert nicht ableiten. Details zur Struktur der KI-Modelle erklärt ComputerBase in einem Hintergrundbericht.

Trainiert wird das Modell auf einem Cluster mit Nvidia-GPUs. Die Trainingsdaten sollen aus öffentlichen Quellen stammen und mit GPT-4 generiert worden sein.

Microsoft veröffentlicht schon selbst Modelle

Bekannt ist Microsoft bislang vor allem für die Partnerschaft mit OpenAI, mehr als 13 Milliarden US-Dollar hat der Konzern in das KI-Unternehmen investiert. Zudem nutzt man GPT-4 als Grundgerüst für den Assistenten Copilot.

Selbst arbeitet Microsoft an eigenen Modellen, zuletzt veröffentlichte man Phi 3. Das befindet sich bei der Größe am anderen Ende des Spektrums. Mit Varianten von 3,8 bis 14 Milliarden Parametern ist es für den Betrieb auf mobilen und leistungsschwachen Geräten ausgelegt, soll bei der Leistung aber Modelle wie GPT-3.5 übertreffen. Konzipiert ist es laut Microsoft vor allem für einfachere Aufgaben.

Wie genau MAI-1 eingesetzt werden soll, weiß Microsoft laut The Information aber selbst noch nicht. Festlegen will man den Anwendungszweck offenbar erst, wenn klar ist, wie leistungsfähig das Modell final ist. Details könnte Microsoft aber bereits bei der Entwicklerkonferenz Build verkünden, die am 20. Mai mit einem Special-Event startet. Dort stehen aber insbesondere die neuen Copilot-Funktionen wie der AI-Explorer sowie der AI-PC im Mittelpunkt. Bei diesem Konzept sollen mindestens Teile der KI-Berechnungen direkt auf dem jeweiligen Gerät ausgeführt werden, deswegen hat es spezielle Hardware-Anforderungen, die aber noch Fragen aufwerfen.