News Mehr als 5,5 Millionen USD: Was die Entwicklung von DeepSeek tatsächlich gekostet hat

[CyborgBeta]

Ach bitte, auf der Faktenbasis bleiben.

 

[Sebbi]

Bei Deepseek auf der Website wird jeder Tastenanschlag und noch viel mehr mitprotokolliert und gespeichert auf chinesischen Servern und garantiert auch weiter benutzt.

und auch gleich antworten live zensiert oder manipuliert, die die chinesiche Regierung nicht möchte XD

https://www.theguardian.com/technol...pseek-censors-itself-in-realtime-users-report

https://t3n.de/news/zensur-deepseek-china-sprechen-1670488/

lässt sich zwar "umgehen" aber mal sehen wie lange noch. Und in China wird defintitv alles geloggt, wer wo was sagt, damit diese dann erfasst und in Linie gebracht werden können.

@topic

würd mal sagen, wenn man alles in allen rechnet, werden bestimmt noch so 3 - 4 Nullen vor dem Komma kommen, wenn wirklich alles selbst erstellt und nichts geklaut wurde.

 

[Rollkragen]

Jetzt passiert, was sich einige schon gedacht haben: Es reicht günstigere Hardware. Die Frage bleibt also, ob Nvidia auf Dauer alleine profitieren wird – eher nein. Jetzt heißt es teilen. Aktuell ist an AMD zu erkennen, dass die bisher am besten von der Deep-S.-Krise profitieren, denn die Nachfrage an deren Hardware steigt. Das Kosten-Nutzen-Verhältnis, was KI angeht, ist geringer. An der Börse gibt es ein klares Kaufsignal.
https://www.finanztrends.de/amd-aktie-china-ki-alternative-drueckt-wedbush-sagt-kaufen/

 

[Erkekjetter]

Das die kolportierten Kosten geschönt waren, ebenso die genutze Hardware und einige andere Sachen hätte zumindest teilweise bereits im ursprünglichen artikel stehen können.

Und die in diesem Artikel genannten Sachen sind noch immer nicht alle Ungereimtheiten.

Die ganze Aktion um DeepSeek ist völlig überzogen. Sie haben gute Ansätze zur weiterentwicklung. Aber so atemberaubend ist es bei weitem nicht zumal die neuen Ansätze eben auch nachteile mit sich bringen. Die marktreaktion war und ist völlig daneben. Freuen kann sich, wer einkaufen war.

 

[Slayterix]

Ich bedanke mich ebenfalls für diesen informativen und ausführlichen Beitrag ! Die Reaktion des überhitzten Marktes sind zu kritisch aber dennoch nachvollziehbar durch die Überbewertungen

Ergänzung (29. Januar 2025)

Soweit ich mitbekommen habe stimmen Zahlen aus China nie. Niemals. Sie sind immer geschönt.
Verkünden sie etwas gutes sind sie 50% zu gut.
Verkünden sie was schlechtes kann man 50% dazu rechnen.
Das was in den Nachrichten abgeht ist doch nur lächerlich. Alle sensationsgeil.

also quasi wie die Bilanzen nach HGB und IFRS/IAS durch bilanzielle Wahlrechte

 

[MaverickM]

Die Markreaktion war natürlich lächerlich.

Finde ich nicht. Sie war gerechtfertigt, gemessen an dem, wie die Börse sonst auch auf jeden Furz reagiert.

 

[Ayo34]

@MaverickM #

Es gibt Billionen an Investitionen, Trump hat das 500 Milliarden $ Stargate Projekt vorgestellt und das ganze Geld muss ja auch irgendwie wieder eingespielt werden. Wenn das nicht mehr geht, weil alles auf einmal 10x günstiger wird und OpenSource in ähnlicher Qualität bereitsteht, dann sind diese Investitionen schnell nicht mehr lukrativ.

Abgesehen davon, kann man auch einfach sagen, dass die Blase einfach einen kleinen Rücksetzer hatte. Viel ist ja am Ende dann doch nicht passiert.

 

[MaverickM]

@Ayo34
Ja, und? Die Tech-Riesen sind doch selbst Schuld, sie forcieren es ja. Kein Mitleid, wenn die Blase endlich platzt.

 

[Ayo34]

@MaverickM das # bedeutet eigentlich nur, dass ich deinen Beitrag ähnlich sehe.

Ich glaube aber eher an eine Überbewertung. KI bleibt die Zukunft, aber ein LLM scheint nicht einzigartig zu sein oder womit man sich absetzen kann. Dazu gibt es zu Viele auf ähnlichem Niveau.

 

[Firefly2023]

Die Markreaktion war natürlich lächerlich. Aber immerhin konnte und kann man immer noch fleißig „günstig“ Aktien kaufen.

Habe ich gemacht. Zwar nur zum spielen und nicht wirklich viel. Aber mal sehen wohin die Reise geht.

 

[Madden.]

Toller redaktioneller Content @Andy - eine Wonne, so einen gut recherchierten und genausl gut geschriebenen Hintergrundartikel bei cb zu lesen!

 

[gartenriese]

Danke für den sachlichen Artikel. Nicht alles ist entweder schwarz oder weiß. Weder wird Nvidia dadurch bankrott gehen noch ist Deepseek nur eine billige Chinakopie. Die Wahrheit liegt mal wieder in der Mitte.

 

[Sdfendor]

und auch gleich antworten live zensiert oder manipuliert, die die chinesiche Regierung nicht möchte XD

https://www.theguardian.com/technol...pseek-censors-itself-in-realtime-users-report

https://t3n.de/news/zensur-deepseek-china-sprechen-1670488/

lässt sich zwar "umgehen" aber mal sehen wie lange noch. Und in China wird defintitv alles geloggt, wer wo was sagt, damit diese dann erfasst und in Linie gebracht werden können.

@topic

würd mal sagen, wenn man alles in allen rechnet, werden bestimmt noch so 3 - 4 Nullen vor dem Komma kommen, wenn wirklich alles selbst erstellt und nichts geklaut wurde.

Verrückt, versuch mal Copilot oder Chat GPT nach den existierenden Sexual Misconduct Vorwürfen gegen Sam Altman zu fragen oder versucht mal mit Github Copilot was mit "Gender" zu programmieren. Zensur wo man nur hinschaut, es ist s c h o c k i e r e n d.

 

[LamaMitHut]

Da Platz gar nichts, jetzt geht's erst richtig los.

 

[tomgit]

So begann Liang bereits 2021 mit dem Einkauf von GPUs, er baute damals laut Financial Times ein Cluster mit 10.000 Chips auf. Welche GPUs verbaut worden sind, schreibt die Financial Times jedoch nicht, bei Wired ist aber von 10.000 H100-Chips die Rede, die DeepSeek bereits zum Start nutzen konnte.

Wirklich ein Visionär, bereits 2021 GPUs zu beziehen, welche 2022 erst verfügbar waren: https://nvidianews.nvidia.com/news/...-the-next-generation-of-accelerated-computing

OpenAIs Chef-Wissenschaftler Mark Chen erklärte etwa via X, DeekSeeks Paper zeige, dass die Entwickler eigenständig einige der zentralen Konzepte entdeckt hätten, die auch OpenAI für die Entwicklung von o1 genutzt hat. Was Chen an dieser Stelle nicht sagt: OpenAI hat diese Ideen selbst nie veröffentlicht.

Weil das Konzept von beiden nicht weltbewegend wäre. Auch bei RAGapp (https://github.com/ragapp/ragapp) sieht man, wie das Modell "denkt". Und das Ding gibt es auch seit bald einem Jahr. Wissenschaftler können zeitgleich auf gleiche Ideen kommen, ist weder etwas besonderes, noch etwas kriminelles.

Inferenz-Berechnungen sind aufwändig und benötigen eine leistungsfähige Infrastruktur.

Das ist leider falsch. Inferenz ist genau das, was bei dem gesamten Prozess am günstigsten ist. Vortraining und Training sind die mit Abstand teuersten Teile beim erstellen eines Modells. Das sieht man aber auch alleine schon daran, was für eine Hardware jeweils benötigt wird. Selbst Fine-Tuning ist deutlich teurer als die Inferenz.
Ich kann auf meinem MacBook ein Phi-3 oder ein Gemma-2 bis 27b Parameter performant laufen lassen. An Finetuning, was deutlich weniger kostet als Training, kann ich hier einfach vergessen.

 

[trastero]

Ich habe vorhin probehalber mal Deepseek installiert und offline laufen lassen. Ging wirklich einfach. Die Ergebnisse (meiner anekdotischen Abfragen) waren aber schlecht. Sehr sehr schlecht. Liegt wahrscheinlich an meiner unzureichenden Hardware. Aber von wegen "einfach auf einem Laptop installieren"... na ja... Installieren geht, aber das Laufenlassen und vor allem die Ergebnisse...
Hab's wieder gelöscht. Halte es persönlich für einen absolut übertriebenen Hype.

 

[Sebbi]

Github Copilot was mit "Gender" zu programmieren

ob man das als Zensur oder Manipulation bezeichnen kann, wenn man "Gender" nicht unterstützt, sei mal dahin gestellt. Ich würde es nicht als solches sehen, sondern als Meinung, das man gewisse Sachen nicht unterstützen muss und es wichtigere Sachen gibt.

existierenden Sexual Misconduct Vorwürfen gegen Sam Altman

hier müsste man dazu wissen. was die Aussage dazu dann ist: wird gesagt das das nicht bewiesen wurde bisher, wird gesagt das das es nicht stimmt und die Anklagenden bewiesenermaßen gelogen haben oder bleiben die Programme eine Antwort darauf schuldig?

Ersteres ist keine Zensur, da dies immernoch ein offener Fall ist.
Letzteres hat zwar einen faden Beigeschmack, ist zumindest keine Manipulation, aber gewisse Informationskontrolle. Aber immerhin bekommt man keine Falschinformationen.
Nur das 2. wäre ausgewiesene Zenur, Manipulation oder Falschinformation wie bei DeepSeek

 

[Ayo34]

Ich habe vorhin probehalber mal Deepseek installiert und offline laufen lassen. Ging wirklich einfach. Die Ergebnisse (meiner anekdotischen Abfragen) waren aber schlecht. Sehr sehr schlecht. Liegt wahrscheinlich an meiner unzureichenden Hardware. Aber von wegen "einfach auf einem Laptop installieren"... na ja... Installieren geht, aber das Laufenlassen und vor allem die Ergebnisse...
Hab's wieder gelöscht. Halte es persönlich für einen absolut übertriebenen Hype.

Wieviel VRAM hast du und welche Modellvariante hast du verwendet? Hast du die Vollversion von dem Modell verwendet oder eine optimierte? Da liegen dann Welten zwischen den Ergebnissen.

Auf einem AMD Ryzen AI Max mit 64GB kannst du sogar das große optimierte 70B Modell laufen lassen -> Top Ergebnisse!

Das 32B und 14B Modell sollten auch sehr ordentliche Ergebnisse abliefern und geht mit 16 - 32GB VRAM. Darunter wird es dann schwierig, wenn man nur 4-8GB VRAM hat.

 

[=dantE=]

Es ist vollkommen irre auf was der Wohlstand unserer Gesellschaft basiert.

Inwiefern dann die Meldungen zu vermeintlich aufgewendeten Ressourcen und den tatsächlichen Aufwendungen dann zu enormen Auswirkungen und Negativ-Effekten beitragen ist wirklich gruselig.

Bin ich hier der einzige dem dabei ein Schauer über den Rücken läuft?!?

 

[4nanai]

Bin ich hier der einzige dem dabei ein Schauer über den Rücken läuft?!?

Keine Ahnung, vielleicht magst das ja nochmal erläutern. Du hast beim Schreiben der 2 Sätze nämlich herzlich wenig gesagt.