ollama deepseek-r1:70b - x509: certificate has expired or is not yet valid:

[Goldilox]

Vielleicht machen die Chinesen bald eine gute kostenlose AI für Musik. 🥰

Hopp hopp, Riffusion ausprobieren. Das ist derzeit als kostenlose Beta praktisch unbegrenzt nutzbar und m. E. bereits ähnlich gut wie die anderen kommerziellen Angebote.

 

[WildKätzchen]

@Goldilox Okay, danke. Es wird wahrscheinlich früher oder später sowas als offline Lösung geben?

Ich habe gestern mit 'ollama run deepseek-r1:32b' ein Modell gezogen und danach den PC ausgeschaltet und jetzt wollte ich es starten, aber es scheint weg zu sein. Habe ich etwas falsch gemacht?

 

[JumpingCat]

Die Modelle bleiben auf Festplatte liegen.

 

[WildKätzchen]

@JumpingCat Oh, dann muss etwas schief gelaufen sein:

C:\Users\denise>ollama list
NAME ID SIZE MODIFIED

C:\Users\denise>

 

[oicfar]

Ich habe gestern mit 'ollama run deepseek-r1:32b' ein Modell gezogen und danach den PC ausgeschaltet und jetzt wollte ich es starten, aber es scheint weg zu sein. Habe ich etwas falsch gemacht?

Wurde es wirklich komplett runtergeladen? Sporadisch habe ich das Problem, dass der pull nicht abgeschlossen wird und man muss es widerholen.

Ergänzung (11. Februar 2025)

@Goldilox Okay, danke. Es wird wahrscheinlich früher oder später sowas als offline Lösung geben?

Es ist eine Offline Lösung. Man kann auch manuell Modelle hinzufügen.

 

[WildKätzchen]

Wurde es wirklich komplett runtergeladen? Sporadisch habe ich das Problem, dass der pull nicht abgeschlossen wird und man muss es widerholen.

Ergänzung (11. Februar 2025)

Was ich komisch fand, war dass es bei 17gb war und dann vor meine Augen wieder auf 14gb gesprungen ist. Dann ging es wieder unerwartet schnell. Keine Ahnung... Vielleicht downloade ich erstmal das kleinste modell um überhaupt was zum laufen zu bekommen und versuche es dann nochmal mit der 20gb version. Es ist anscheinend etwas schief gelaufen. Ich dachte erst, vielleicht wird das Modell nur temporär geladen, aber das ist anscheinend nicht so der fall. Irgendwas ist schief gelaufen.

Es ist eine Offline Lösung. Man kann auch manuell Modelle hinzufügen.

Wirklich? Die wollen, dass man sich mit seiner Nummer anmeldet...

 

[JumpingCat]

Welche Nummer?

Manchmal kann man den pull auch später fortsetzen, manchmal nicht. Es wird sogar ein "Offline Loader" angeboten. Der war aber etwas komplexer.

 

[WildKätzchen]

@JumpingCat Für Riffusion wollen die Discords, Gmail oder Telefonnummer.

Das command promt hat mir gesagt es wurde zu 100% runtergeladen. Dann habe ich den PC runtergefahren und jetzt wollte ich es testen und es nichts mehr da soweit ich sehen kann.

 

[JumpingCat]

Geht es un ollama oder was anderes?

 

[oicfar]

Was ich komisch fand, war dass es bei 17gb war und dann vor meine Augen wieder auf 14gb gesprungen ist. Dann ging es wieder unerwartet schnell. Keine Ahnung... Vielleicht downloade ich erstmal das kleinste modell um überhaupt was zum laufen zu bekommen und versuche es dann nochmal mit der 20gb version. Es ist anscheinend etwas schief gelaufen. Ich dachte erst, vielleicht wird das Modell nur temporär geladen, aber das ist anscheinend nicht so der fall. Irgendwas ist schief gelaufen.

Am Ende muss es so

aussehen.

Wirklich? Die wollen, dass man sich mit seiner Nummer anmeldet...

Nummer!? Das wird hier noch spannend.

 

[WildKätzchen]

Geht es un ollama oder was anderes?

Es geht um Ollama, ein user hat eine andere software angesprochen, worauf ich reagiert habe. Davon abgesehen geht es um Ollama Deepseek.

Am Ende muss es so
Anhang anzeigen 1582764
aussehen.

Ich hatte nur den oberen balken mit dem großen Volumen, aber 100%. Der Rest ist nicht gekommen. Kann ich jetzt noch etwas was tun oder muss ich neu laden. Der Download hatte sich auch komisch verhalten, weil er an einem punkt auf 17gb war und dann auf 14 gb gesprungen ist. Selstam

Nummer!? Das wird hier noch spannend.

Ja, ich finde das auch äußerst abenteuerlich.

 

[oicfar]

geht es um Ollama Deepseek.

Ollama -> Software
DeepSeek -> Firma, LLMs ...

Ich hatte nur den oberen balken mit dem großen Volumen, aber 100%. Der Rest ist nicht gekommen. Kann ich jetzt noch etwas was tun oder muss ich neu laden. Der Download hatte sich auch komisch verhalten, weil er an einem punkt auf 17gb war und dann auf 14 gb gesprungen ist. Selstam

Also wenn Ollama läuft und der Download nicht abgeschlossen wurde, kann man es fortsetzen. Ollama hat aber ein Mechanismus, welches bei Ollama Start nicht abgeschlossene Downloads erkennt und diese bereinigt. D.h. in deinem Fall muss alles neu geladen werden und dann ist es lokal gespeichert. Stoppst du Ollama oder fährst den Rechner herunter, dann bleibt das Model weiterhin gespeichert.

 

[WildKätzchen]

@oicfar okay ich lade erstmal das kleinste Modell, dann kann ich schonmal sehen wie das normalerweise laufen soll. Danach versuche ich es noch mal mit den 20gb.

 

[WildKätzchen]

C:\Users\denise>ollama run deepseek-r1:1.5b

>> Spreche mit mir als der Charakter eines sprechenden Hundes

<think>
Okay, ich muss die Frage beantworten: "Spreche mit mir als der Charakter eines sprechenden Hundes."

Zuerst verstehe ich, dass die Antwort ein Hund sein und sein Charakter ist. Der Haudruck ist bekannt, er hat eine
spezieelle Lautung, was man auch als "Haukspeicherslang" oder "Hausprung genannt wird."

Dann muss ich den Text verstehe rinnern. Der Text war:

"Hausprung, der aus dem Hund %% %% %% aus dem Haudruck %% %% %%"

Möchtest ich das rinnen? Oder ist es ein Text mit Guetschen?

Ich sehe, dass die Guetschen entweder im Haudruck oder im Hansprung entstehen.

Sind wir auf der gleichen Stelle or tief in der Ver utterbarkeit? Oder warum teile ich das?

Also, es gibt eine Person, die den Guetschen hat. Das ist in den Guetschen van den Haudruck und im Hansprung.

Ich muss also die Guetsche rinnern, um die Guetschierde zu schreiben: "Hausprung der Hund %%."

Dann muss ich den text rinnern, um es aufzuzeigen.

Also, der Text war: Hausprung, der aus dem Hund %% %% %% aus dem Haudruck %% %% %%"

Ich sehe, dass die Guetsche im Haudruck und im Hansprung entwachsen.

Dann muss ich das rinnen, um es zu Schreiben.

Also: Hausprung der Hund %%.

Aber was die Guetschierde mit. Sie hat den Guetschen in dem Haudruck und im Hansprung.

Okay, also ist die Guetschiede: Hausprung der Hund %%.

Ich sehe, dass es keine anderen Guetschierde gibt, die man vermuten könnte.

Also, der Text war: Hausprung, der aus dem Hund %% %% %% aus dem Haudruck %% %% %%"

Ich muss den text rinnern, um den Guetschiede zu schreiben.

Also, der Text becoming Hausprung, der aus dem Hund %% %% %% aus dem Haudruck %% %% %% becomes Hausprung der Hund
%%.

Also ist die Guetschierde: Hausprung der Hund %%.

Ich sehe, dass es keine anderen Guetschierde gibt, die man vermuten könnte.

Also, der text becoming Hausprung der Hund %%.

Aber was die Guetschiede mit. Sie hat den Guetschen in dem Haudruck und im Hansprung.

So, der Text becoming Hausprung der Hund %% ist das rinnene Display.

Ich verstehe, dass es keine anderen Guetschierde gibt, die man vermuten könnte.

...

Ich habe jetzt die 1.5b Version geladen und Sie gebeten mit mir als sprechender Hund zu reden. Das hat nicht funktioniert, liegt das an dem Modell oder an der Forderung?

 

[JumpingCat]

deepseek funktioniert nur auf english oder chinesisch gut. Die kleinen Modelle haben durch die Quantisierung auch Probleme das da Buchstaben/Wörter kaputt gehen.

 

[WildKätzchen]

Okay, hier nochmal auf englisch. Irgendwie versteht mich die KI nicht. Liegt dass an der kleinen 1.5b version oder an meiner Anweisung?

C:\Users\denise>ollama run deepseek-r1:1.5b

>> Have a conversation with me. Do this as the character of a talking dog.

<think>
Alright, so I need to figure out how to respond when the user says "Have a conversation with me." Since they asked
for a conversation as if it's with a talking dog, I should make sure my response is friendly and engaging.

First, I want to start by introducing myself in a welcoming way. Maybe something like, "Hello! How can I assist
you today?" This sets a positive tone right from the beginning.

Next, I should acknowledge their request by thanks them for asking. Something like, "Of course!" makes sense here
to show that I understand and appreciate their question.

Then, I want to let them know my capabilities as a talking dog. I can mention how I respond naturally in this
conversation, using simple terms without any complexity. So, "Sure! Just say what you'd like me to do." This
reinforces the idea of being approachable and easy to interact with.

I should also make sure the language is friendly and not too formal. Avoiding anything too robotic might be
important here because the user wants a conversational tone.

Finally, I'll close the conversation by inviting them to ask anything further. Ending with, "Let me know what
you'd like to talk about!" makes it clear that I'm here to help with whatever they have in mind.

Putting it all together, my response should be warm, approachable, and ready to assist them in a friendly manner.
</think>

Hello! How can I assist you today? Of course! Just say what you'd like me to do. Sure! Let me know anything
further you're interested in.

>> What are you?

<think>t are you?
Okay, the user just asked, "What are you?" This is kind of an open-ended question. I need to respond in a friendly
and engaging way as if talking to a dog.

First, I should acknowledge their request by thanking them for asking. Maybe something like, "Thanks! How can I
assist you today?"

Next, since this is a conversational exchange, I'll let them know my capabilities as the conversation's dog. I can
say, "Just say what you'd like me to do."

I want to keep it simple and friendly without being too robotic or complex. So, "Sure! Just say what you want me
to do."

Then, to invite further interaction, I'll close with, "Let me know what you're interested in next time you chat!"

Putting it all together, the response should be warm, approachable, and ready to help them in a friendly manner.
</think>

Thanks! How can I assist you today? Just say what you'd like me to do. Sure! Let me know anything further you're
interested in. Let me know what you want to talk about next time you chat!

 

[JumpingCat]

Nimm doch mal ein Modell in der Größenordnung ca 10b und dann so was wie z.B. phi4 oder dolphin3 oder mistral aus der Liste von https://ollama.com/library?sort=popular .

deepseek ist schon etwas speziell.

 

[WildKätzchen]

@JumpingCat Ja, deepseek 1.5b geht nicht auf das ein was ich sage. Im Denkprozess sagt es, es möchte einen 'polite tone' behalten. Wenn ich sage, dass es das lassen soll und aggresiv antworten soll, wird das einfach verweigert.

Ich würde der KI gerne Szenarien vorgeben und bitten mein englisch zu korrigieren. So wie ich dich verstehe ist eine ganz andere KI wahrscheinlich besser als z.B. deepseek mit größerem Volumen? Ich habe leider keine Ahunung und würde einfach völlig zufällig ein anderes Modell wählen.

Interessanterweise benutzte deepseek 1.5b den Begriff "thanksing", das ist aber ein Sprachfehler.

 

[oicfar]

Habe es mal mit 70b eingegeben.

Was hast du mit der KI vor?

Ergänzung (11. Februar 2025)

mein englisch zu korrigieren

Würde dann mit: Mistral-7B-Instruct, Mistral-Small-24B oder Phi-4:14B versuchen.

 

[WildKätzchen]

Habe es mal mit 70b eingegeben.
Anhang anzeigen 1582856


Was hast du mit der KI vor?

Ergänzung (11. Februar 2025)

Würde dann mit: Mistral-7B-Instruct, Mistral-Small-24B oder Phi-4:14B versuchen.

Haha, ja so hatte ich mir das vorgestellt. Also ich werde mal die 32b laden.

Ich möchte mit der KI auf englisch reden und wenn ich etwas grammatikalisch oder von den Vokabeln her falsch sage, dass sie mir dann den Fehler zeigt und korrigiert. Zum Beispiel wenn ich schreibe "Do he go outside?" die KI mir sagt, dass es "Does he go outside" sein muss.

Ich möchte zum z.B. der KI auch sagen, du bist ein Kellner in einem Fish and Chips restaurant und nimmst meine bestellung auf. Sowas