So, um Streitigkeiten im Vorfeld beizulegen:
ATI, PowerVR und MATROX verwenden ebenso wie nVidia ein gerades Raster. Soweit ich weiss ist 3dfx der einzige Hersteller gewesen, der mit einem "Rotated Grid" arbeitet.
@HighVoltage
Als Beispiel nehme ich mal 4fach FSAA, da es sich am einfachsten erklären lässt.
Am besten stellst du dir das Raster von herkömmlichen Antialiasing vor wie die 4 Augen auf einem Würfel, der dann natürlich die Zahl 4 anzeigt
Der Würfel ist nun ein Pixel und die 4 Augen die Abtastpunkte.
Für jeder dieser Punkte (Subpixel) wird nun kontrolliert welcher Farbwert in diesem Teil des Pixels zu sein hat.
Bei einem 4er Raster hast du also 2 senkrechte und 2 Wagerechte Abtastreihen.
Jetzt drehst du die Punkte in Gedanken um 45° und du siehst, daß sich auser der Ausrichtung der Punkte noch etwas getan hat.
Du hast jetzt 3 wagerechte und 3 senkrechte Abtastreihen.
Nun drehst du die Punkte wieder ein wenig zurück und du siehst wie sich die Punkte so verschieben, daß du irgendwann auf 4 Abtastlinien wagerecht so wie auch senkrecht kommst.
So kommst du mit der selben Anzahl von Abtastpunkten auf eine höhere Genauigkeit des FSAA-Ergebinsses ohne dabei an Performance einzubüssen.
Es gibt diesbezüglich noch andere Denkansätze. Z.B. könnte man die 4 Abtastpunkte für jeden Pixel zufällig verteilen, sodaß kein gleichmässiger AA-Effekt entsteht, was die ganze Sache natürlicher wirken lassen soll.