Die Vega64 ist nicht defekt, am Netzteil liegt es auch nicht. Ich kann dir genau sagen, woran es liegt. Hatte selbst schon zig Vega64 (eigentlich fast alle Modelle am Markt), gleiches gilt für die Vega56. Diese Probleme treten hauptsächlich dann auf, wenn dein HBM zu hoch getaktet ist bzw. zu heiß wird.
In deinem Screen erkennt man, dass fast alle Sensoren über 70° verbuchen. Das ist im Hotspot ok, aber der HBM beginnt ab 70° lustige Dinge zu tun. Problem ist auch und ich hatte die gleichen Probleme: Du hast die V64 von Gigabyte..sogar die MSI-Blower ist besser. Das Gigabyte-Modell ist absoluter OBERMÜLL. Tue dir selbst einen Gefallen und kaufe ausschließlich die Nitro+ von Sapphire. Glaube mir, damit hast du die Probleme nicht. Halte großen Abstand von der GB, der MSI und der Asus. AMD-Karten kannst du heute eigentlich nur von Powercolor, Asrock und am Besten von Sapphire beziehen, AUSSER du baust dir nen eigenen Kühler drauf.
Das Kühlsystem der GB ist Grotte und die Karte überhitzt bzw. der HBM, daher hast du Treiberresets. Du kannst entweder versuchen zu undervolten, oder die Karte geht zurück und du kaufst dir ne Nitro+, was ich in jedem Fall empfehlen kann.
Der Treiber kann auch mit hineinspielen, durchaus, besonders weil der Taktgeber dort ab und an anders angesprochen wird, aber dein Hauptproblem sind Temps. Kannst du ganz einfach testen. @Stock sollte die Karte zu fast 99% mit 0.95V laufen, also stellst du als bei P7 als Spannung 1000mV ein und als Speicherspannung 950mV und senkst den HBM dazu noch auf 900MHz. Benutze nicht Furmark zum testen, das kannst du mit AMD-Karten vergessen, komplett inkompatibel um die Leistung zu prüfen. Am besten eigenet sich hierfür 3DMark FireStrike Ultra, am besten im Stress-Test-Loop, das ergibt auch fast identische Spielebedingungen.
Falls du noch weitere Fragen hast, einfach Fragen. Ich habe mit Vega gelebt und fast alles getestet, was man sich so vorstellen kann und auch fast, nein habe jeden Fehler gehabt, der die Karte selbst betrifft.
PS: Wenn du den Speicher richtig hart testen willst: Nimm Timespy extreme, mach dir nen Custom-Loop mit dem 2ten Graphics Test, stell die Auflösung manuell auf 5k, mach AA volle Kanne auf und aktiviere HBCC im Treiber und stell das auf 16GB (also +8GB). Damit kriegst du fast alle schlechten HBm-Settings gefunden.