Also auf unsachgerechte OC Einstellungen ist schonmal nix zurückzuführen.
Ich gehe mal davon aus, dass die manuellen 1,65Volt bei der DRAM Spannung manuell auf anraten gesetzt wurden? Läuft der Ram, wenn Du ihn auf "Auto" belässt mit 1,5Volt?
Ist Dein Fehler eigentlich reproduzierbar oder kommt das nur "nach ner Weile" quasi?
Wenn das System dann einfriert... bleibt das Bild an? Hilft nur Reset?
Schonmal in der Ereignisanzeige vom Windows nachgeschaut ob da zu dem Zeitpunkt nen Eintrag steht?
Als typischer für Speicherfehler würde ich persönlich ja die üblichen Bluescreens empfinden.
Speicher würde ich, wenn sichs vermeiden lässt, nicht auf 1,65V dauerhaft betreiben.
Wenn Du das Problem mit 1,5Volt beobachten konntest und jetzt mit 1,65V auch... lass den Speicher auf 1,5V laufen.
Die Ram Timings könntest Du 2 Dinge probieren (oberer Abschnitt, primäre Taktwerte -werte in der Reihenfolge), meinetwegen je mit 1,5V, 1,55V, 1,6V und 1,65V.
Alternative 1:
9 / 10 / 9 / 24 / 1
Alternative 2:
9 / 9 / 9 / 24 / 2
Die letzte Zahl, ist die schon angesprochene Commandrate.
Zweitere Variante bedeutet jedoch nen (zumindest deutlich messbaren) Leistungseinbruch.
Du hast ja 1600Mhz@1,65V Speicher, die müssten eigentlich bei 1333Mhz gut mit 1,5V zu betreiben sein. Vielleicht bringts also sogar was, die Timings nen kleinen Tick zu entschärfen, wobei die derzeitigen für meine Begriffe kein Problem darstellen sollten.
Nach Temperaturen im System (v.a. CPU/Grafikkarte/Netzteil) wurde schon gefragt? Konnts grad nicht finden, und nicht dass es nachher sowas banales ist. *g*
Nachtrag:
Achja sind die GPU-Z Screens im Idle? Womöglich direkt nach Systemstart?
Ist schon ne beachtliche Temperatur auf der Grafikkarte und das bei 36% Fan Speed.
Lass das Programm mal sicherheitshalber nebenher laufen und schau ob die auch unwillkürlich weiter ansteigen.