KI für Anfänger

[Don_2020]

Welche KI ist für Anfänger geeeignet. System sollte lokal installiert werden. Ki darf nicht nach Hause telefonieren!
Empfehlungen?

 

[ghecko]

Ki darf nicht nach Hause telefonieren!

Machen die Dinger nicht (zumindest die, die lokal laufen). Das ist keine Software sondern ein gespeichertes Netzwerk, das in einer Umgebung läuft die dem Netzwerk die passenden Schnittstellen bereit stellt, das du damit interagieren kannst. Diese Software wäre dann in der Lage, das Internet aufzurufen, zu welchem Zweck auch immer.

Welche KI ist für Anfänger geeeignet.

1. Was soll damit gemacht werden?
2. Was hast du für einen Rechner?

Das entscheidet, was bei dir möglich und sinnvoll ist.

 

[seyfhor]

Welche KI ist für Anfänger geeeignet.

Frag am Besten mal die KI deiner Wahl
Ansonsten bleibt natürlich die Frage was Du machen willst. Und dann Google. Anleitungen gibt es en Masse.
https://www.getguru.com/de/reference/what-is-llama-3

 

[tomgit]

Für Sprachmodelle ist LM Studio ganz angenehm: https://lmstudio.ai/
Für Bildgenerierung ist es etwas schwieriger, da hängt die Auswahl der einfachen Tool ein wenig von der Hardware ab

 

[Topinambur]

für kleine Spielereien und Gehversuche probiere einfach ollama,
läuft komplett lokal

• https://ollama.com/
• 

  YouTube

  An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

  YouTube-Embeds laden

  Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.
  YouTube-Embeds laden

  Datenschutzerklärung

 

[seyfhor]

Das hatte ich gesucht: https://dev.to/pavanbelagatti/run-deepseek-r1-locally-for-free-in-just-3-minutes-1e82

Für Bildgenerierung ist es etwas schwieriger, da hängt die Auswahl der einfachen Tool ein wenig von der Hardware ab

Das stimmt! Also RX6700XT geht (unter Linux).... aber, wenn man stricken kann, dann hat man pro zehn Bilder auch mal ne Socke fertig würde ich tippen

 

[Don_2020]

Ich will nix besonders machen. Keine Bilder generieren, keine Doktorarbeit erstellen und vor allem keine Schriftsätze anfertigen. Einfach mal sehen was machbar ist.
Programmieren - mal einen Vorschlag machen lassen zum berechnen des kGT (kleinster gemeinsamer Teiler) uvm. z.B. Entwurf Rechnung Schreiben.

 

[tomgit]

Wie gesagt, LM Studio oder Ollama und OpenWebUI, aber LM Studio ist eine abgeschlossene App, das ist komfortabel und nutze ich selbst

 

[siao_tschu]

Ki darf nicht nach Hause telefonieren

bei chatgpt kann auf temporärer chat geschaltet werden.
i know, es wurde nach lokaler installation gefragt, aber evtl ist es fuer fragen zum thema programmieren denkbar.

"will my Temporary Chats appear in my history?

Temporary Chats won’t appear in your history, and ChatGPT won’t remember anything you talk about. For safety purposes we may still keep a copy for up to 30 days."

 

[tomgit]

Es wurden nach Wegen gefragt, die Dinger lokal laufen zu lassen fürs rumspielen.
Nicht für das Finetuning
Qwen Coder 2.5 mit 7b Parametern ist da ausreichend und läuft mit afaik 4gb auch in fast jeder halbwegs modernen GPU

 

[oicfar]

Ich will nix besonders machen. Keine Bilder generieren, keine Doktorarbeit erstellen und vor allem keine Schriftsätze anfertigen. Einfach mal sehen was machbar ist.

Das hängt davon ab, welches Modell man nimmt und was im Detail generiert werden soll.

Programmieren - mal einen Vorschlag machen lassen zum berechnen des kGT (kleinster gemeinsamer Teiler) uvm. z.B. Entwurf Rechnung Schreiben.

Welche Hardware hast du da? D.h. welche Grafikkarte, wie viel VRAM und RAM? CPU?

 

[Uzer1510]

Nun das Problem der lokalen LLMs ist einfach die können im Vergleich fast nichts.

Ja sie sind für die Grösse extrem gut "das Wissen der Menschheit über (fast) alles und die Fähigkeit der Interatkion in ein paar GByte", das ist total verrückt - aber absolut gesehen halt sind die Modelle "strunzdumm".

Das ist halt wie wenn man die Fähigkeiten der Menschheit beurteilen will und sich maximal dann mit 4 jährigen unterhält - auch wenn nebenan eine Uni ist - Ist halt leider so - bei AI gilt halt size matters.

Für obigen Einsatzzweck natürlich einen Blick wert keine Frage.