ChatGPT: Chat verschwindet immer und Antworten kommen im Broswer nur sehr langsam und zögernd.

[Uhrensohn!!!]

Guten Tag zusammen,

ich habe ChatGPT für meine Brand trainiert. Ich habe ihn mit viel Informationen gefüttert und sehr viel in einem Chat geschrieben und er hat auch einige Erinnerungen erstellt.

Jetzt merke ich aber, dass er nicht mehr will. Dieser eine Chat verschwindet oft wenn ich zur App gehe oder im Broswer und auch kommen kaum noch Antworten. Ich schreibe etwas und er antwortet nicht mehr ( ein leeres weißes Feld bleibt ) da.

Ich frage mich, ob er zu überlastet ist und mit dem langen Chatverlauf und den gewonnenen Wissen nicht mehr klarkommt oder was muss man da konkret machen, damit er trotzdem weiterhin Antworten gibt. Ich will ja nicht einen neuen Chat eröffnen und wieder von vorne mit dem Training beginnen….

Könnt ihr mir hier helfen?

Liebe Grüße

Uhrensohn

 

[40l0so]

Ich nehme an du zahlst für den Service? Hast du bereits den Support kontaktiert - wenn ja, was hat dieser gesagt?
Wenn nein - kontaktiere doch bitte den Support.

 

[Janush]

Noch besser, frage doch mal ChatGPT was du da machen kannst ... also einen frischen ;-)

 

[Azghul0815]

Also wenn du kein eigenes ChatGPT Model auf deiner Kiste hast, mit passender DB, kannst du ChatGPT nicht trainieren.

Du kannst einen Chat mit Informationen füttern und diese können dann von ChatGPT im Kontext verwendet werden. Ich gehe davon aus, dass du dies meinst.
In dem Fall ist es nicht von ChatGPT vorgesehen, dass du nur EINEN Chat benutzt.
Jedes Topic, jede Frage, die einen anderen Kontext hat, benötigt sogar einen eigenen Chat, da es sonst zu Dingen wie vermehrter Halluzination und co. kommt.

 

[madmax2010]

kannst du ChatGPT nicht trainieren.

doch, es gibt fine tuning https://platform.openai.com/docs/guides/fine-tuning auch in der UI

Die Darin abgelegten Infos, kann man ueber die API und im Webinterface dann wieder einbeiehen

 

[tollertyp]

Ja, mit dem Fine Tuning kann man das Training anpassen. Wobei ich es dennoch nicht zwingend mit klassischem Training gleichsetzen würde?
Aber würde jetzt schon gerne wissen, was der TE genau meinte, dieser Uhrensohn.

 

[XCatenaccioX]

"Dieser eine Chat" + "Ich will ja nicht einen neuen Chat"

Genau das ist das Problem. Bei jeder neuen Chat-Nachricht, die man absetzt, wird (im Hintergrund) der gesamte bisherige Dialog als Prompt mitübergeben. Nicht nur die jeweils aktuelle Eingabe. ChatGPT kann sich nichts "merken". Jeder Prompt übergibt alles Bisherige. Exponenziell wachsender Token-Verbrauch sozusagen. Deswegen handelt es sich auch nicht um ein echtes "Training", sondern vielmehr nur um das Diskurswissen dieses einen Chats, wie ein Spickzettel, aber keine trainierten grauen Zellen. Natürlich ist das ärgerlich, denn manche Chats funktionieren für bestimmte Aufgaben einfach hervorragend. Was du machen kannst:

1. ChatGPT Plus erwerben und einen CustomGPT erstellen. Dort kann man Wissensbestände und gewünschte Verhaltensweisen vorab festlegen, die vor dem ersten Prompt dann quasi vorab gebrieft sind. Lieber hier tunen als einen einzelnen Chat zurecht frisieren.

2. Wenn der Lieblings-Chat abzusaufen droht, versuche, den gesamten bisherigen Dialog per Prompt sehr ausführlich zusammenfassen zu lassen. Mit Aussagen, Annahmen, Belegen, Zitaten, etc., alles schön strukturiert. Die dann komprimierte Zusammenfassung durchlesen und staunen. Wenn was fehlt, ergänzen lassen. Die Gesprächszusammenfassung dann als Briefing mit in einen neuen Chat nehmen.

 

[Goldilox]

Möglicherweis bezieht sich der TE auf die relativ neue Memory-Funktion von ChatGPT.

So oder so wird das Kontextfenster immer irgendwann zum Problem. Offenbar ist das Memory aber nicht an einzelne Chats gebunden:

"ChatGPT's memories evolve with your interactions and aren't linked to specific conversations."

 

[Azghul0815]

Genau das ist das Problem. Bei jeder neuen Chat-Nachricht, die man absetzt, wird (im Hintergrund) der gesamte bisherige Dialog als Prompt mitübergeben. Nicht nur die jeweils aktuelle Eingabe. ChatGPT kann sich nichts "merken".

Das meinte ich.
Klassisches Trainieren geht eben nicht.
Das fine tuning hatte ich vergessen @madmax2010

 

[tollertyp]

Wird wirklich der Gesamte Chat (bzw. die Eingaben) nochmal reingegeben, oder nur die letzten? Also zumindest werden irgendwann Teile des Chats nicht mehr berücksichtigt, auf welche Weise kann ich da nicht sagen.

 

[Azghul0815]

Naja. Liegt halt in der Natur von ChatGPT.
Das ist halt erstmal nur ein, wenn auch sehr mächtiges, LLM und kein speziell trainiertes Modell.
Aber das Fine tuning könnte doch die Lösung sein?
Wenn da die Infos quasi fix hinterlegt werden, sind die ja theoretisch in jedem neuen Chat. Für den angemeldeten User, verfügbar. Wie gut der Kontext ist kann dann nur der User selbst bestimmen.
Bei AI gilt shit in, shit out.

 

[Knito]

Es ist ein Browser-Cache-RAM-Problem. Es hilft fast immer Cache und Cookie zu löschen und sich neu anzumelden. Die Threads sind dann wieder alle da und funktionieren in gewohnter Geschwindigkeit.

 

[Uhrensohn!!!]

Vi

"Dieser eine Chat" + "Ich will ja nicht einen neuen Chat"

Genau das ist das Problem. Bei jeder neuen Chat-Nachricht, die man absetzt, wird (im Hintergrund) der gesamte bisherige Dialog als Prompt mitübergeben. Nicht nur die jeweils aktuelle Eingabe. ChatGPT kann sich nichts "merken". Jeder Prompt übergibt alles Bisherige. Exponenziell wachsender Token-Verbrauch sozusagen. Deswegen handelt es sich auch nicht um ein echtes "Training", sondern vielmehr nur um das Diskurswissen dieses einen Chats, wie ein Spickzettel, aber keine trainierten grauen Zellen. Natürlich ist das ärgerlich, denn manche Chats funktionieren für bestimmte Aufgaben einfach hervorragend. Was du machen kannst:

1. ChatGPT Plus erwerben und einen CustomGPT erstellen. Dort kann man Wissensbestände und gewünschte Verhaltensweisen vorab festlegen, die vor dem ersten Prompt dann quasi vorab gebrieft sind. Lieber hier tunen als einen einzelnen Chat zurecht frisieren.

2. Wenn der Lieblings-Chat abzusaufen droht, versuche, den gesamten bisherigen Dialog per Prompt sehr ausführlich zusammenfassen zu lassen. Mit Aussagen, Annahmen, Belegen, Zitaten, etc., alles schön strukturiert. Die dann komprimierte Zusammenfassung durchlesen und staunen. Wenn was fehlt, ergänzen lassen. Die Gesprächszusammenfassung dann als Briefing mit in einen neuen Chat nehmen.

Danke für die Nachricht. Ich habe ChatGPT Plus und hier halt in den einen Chat alles so reingeschrieben und gefüttert und auch manche Nachrichten als Erinnerung abgespeichert. Wenn ich diesen Chat wieder aufmache, dann kommt immer der ganze Chatverlauf und es scrollt komplett runter bis zum letzten Stand.

Okay, dann muss ich einen CustomGPT erstellen und dort chatten statt einen neuen Chat voll zu schreiben…

Ergänzung (9. Oktober 2024)

Wird wirklich der Gesamte Chat (bzw. die Eingaben) nochmal reingegeben, oder nur die letzten? Also zumindest werden irgendwann Teile des Chats nicht mehr berücksichtigt, auf welche Weise kann ich da nicht sagen.

Der gesamte Chat wird immer geladen, wenn ich auf den Chat gehe. Ja

 

[tollertyp]

Der gesamte Chat wird immer geladen, wenn ich auf den Chat gehe. Ja

Ich habe nichts von "geladen" gesagt und das schon gar nicht gemeint.

 

[Uhrensohn!!!]

Also wenn du kein eigenes ChatGPT Model auf deiner Kiste hast, mit passender DB, kannst du ChatGPT nicht trainieren.

Du kannst einen Chat mit Informationen füttern und diese können dann von ChatGPT im Kontext verwendet werden. Ich gehe davon aus, dass du dies meinst.
In dem Fall ist es nicht von ChatGPT vorgesehen, dass du nur EINEN Chat benutzt.
Jedes Topic, jede Frage, die einen anderen Kontext hat, benötigt sogar einen eigenen Chat, da es sonst zu Dingen wie vermehrter Halluzination und co. kommt.

Okay muss man dann zu jeden Chat immer ein eigenes kleines Thema auswählen. Also quasi Unterthemen? Z.B. Thema A —> Unterthema A.A A.B A.C usw und dann zu jedem Unterthema ein Chat?

Ergänzung (9. Oktober 2024)

Ich habe nichts von "geladen" gesagt und das schon gar nicht gemeint.

Entschuldigung, ja der ganze Chat wird reingegeben.

 

[tollertyp]

Wo reingegeben? Nur um sicher zu sein, dass wir vom gleichen reden.

 

[Uhrensohn!!!]

Es ist ein Browser-Cache-RAM-Problem. Es hilft fast immer Cache und Cookie zu löschen und sich neu anzumelden. Die Threads sind dann wieder alle da und funktionieren in gewohnter Geschwindigkeit.

Wie kann ich in der App die Cache und Cookies löschen?

Ergänzung (9. Oktober 2024)

Wo reingegeben? Nur um sicher zu sein, dass wir vom gleichen reden.

Wenn ich in die App reingehe und den jeweiligen Chat öffne, dann lädt es lange und alle Nachrichten, die ich in diesen Chat vom Anfang bis zum Ende durchgeführt habe, werden eingegeben und es scrollt automatischn nach dem fertigen Eingeben nach unten zur letzten Nachricht / zum letzten Stand.

Das geht jetzt nicht mehr so gut.

 

[tollertyp]

Und was hat das mit meinem Beitrag zu tun? Beachte doch bitte mal den Kontext einer Konversation.

 

[Uhrensohn!!!]

@tollertyp ,,Wird wirklich der Gesamte Chat (bzw. die Eingaben) nochmal reingegeben, oder nur die letzten?‘‘ Das sagst du doch. Ich habe darauf die Antwort gegeben, was da passiert. Es wird der gesamte Chat eingegeben und nicht die letzten.

 

[tollertyp]

Selbst ChatGPT hat ein besseres Verständnis von Kontext...

habe es mal weiter zusammengeschoben