Mahlzeit!
Das ist ja schon sehr kurios, dass bei 2 Grafikkarten und 2 Mainboards die Probleme gleich bleiben.
Ich habe hier einen ähnlichen PC ohne diese Probleme:
Ryzen 9 3900X / MSI MAG B550M Bazooka / XFX Merc Radeon RX 6600XT / 32 GB Corsair Vengeance LPX 3600 (4 x 8 GB) / Xilence Performance A+ III 650 Watt etc.
Mit manchen AMD Adrenalin-Treibern gab es schon mal Treiber-Timeouts und der RAM will nicht mit XMP auf 3600 MT/s laufen (ab und zu Bluescreens) - 3533 MT/s geht ohne Probleme.
Das liegt aber daran, das die beiden RAM-Kits unterschiedliche Revisionen haben und auch andere Speicher-Chips verbaut haben (Micron & Samsung).
@ TE: Du hattest ja u.a. mit nur einem RAM-Modul getestet. Hast Du da auch einmal XMP deaktiviert?
Probier mal, ob die Fehler auch unter Linux auftreten.
Linux Mint läuft auf obigen PC bei mir neben Windows 10 ohne Probleme.
Ich habe mir einen USB-Boot-Stick mit Ventoy eingerichtet.
Ventoy legt auf dem Stick eine Boot-Partition und eine Daten-Partition an.
Hier kann man dann ganz einfach mehrere ISOs von Betriebssystemen ablegen und dann beim Booten auswählen welches OS man installieren bzw. testen will.
Ich habe einen 32 GB-Stick im Einsatz auf dem diverse Linux-Distros, Win 10, Memtest86, Boot Repair Disk, Supergrub etc. abgelegt sind.
Das ist viel komfortabler, als immer nur ein OS auf dem Stick zu haben (wie beim MCT oder Rufus).
https://www.ventoy.net/en/index.html