Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsChinesisches AI-Modell: DeepSeek ist schneller und günstiger als OpenAIs o1-Modell
Das chinesische AI-Modell DeepSeek sorgt in den Kreisen der AI-Entwickler für Aufsehen. Leistungsmäßig halten die Versionen mit Spitzenmodellen wie Anthropic Claude 3 und OpenAIs Modellen GPT-4o und o1 mit. Der Clou: Es ist Open Source und wurde nur für den Bruchteil der Kosten entwickelt.
Ich habe das 32b Modell auch heute mal ausprobiert und es läuft sogar auf meiner RTX 4080S mit "nur" 16GB VRAM. Die Leistung ist laut Benchmarks vergleichbar mit dem o1-Mini Modell. Vor nicht all zu langer Zeit wäre es noch undenkbar gewesen, ein solches Modell lokal ausführen zu können.
An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.
DeepSeek hat auch ca. 50.000 "normale" H100. Dazu noch viele H800 und H20.
Zudem ist es nicht multimodal, kann also nur Text, und auch da nur Englisch und Chinesisch. Klar ist es einfacher zu trainieren. Da schwirrt gerade sehr viel Desinformation rum. Fast noch schlimmer als der KI-Hype selbst.
Sgt.4dr14n schrieb:
Am Freitag bei Finanzmarktwelt. Heute schon auf ComputerBase.
Ich bin beeindruckt, aber nicht überrascht. Das irgendwann einer um die Ecke kommt war klar. Und wer nicht die nötigen Ressourcen hat um die Konkurrenz zu schlagen muss halt improvisieren und optimieren, aber Leute die den Wert Ihres Hauses für den Aktienmarkt in die Höhe prügeln wollen sind daran nicht interessiert. Wette verloren.