Du verwendest einen veralteten Browser. Es ist möglich, dass diese oder andere Websites nicht korrekt angezeigt werden. Du solltest ein Upgrade durchführen oder einen alternativen Browser verwenden.
NewsAMD CDNA 2 Whitepaper: Mehr Details zum Compute-Monster Instinct MI200
@Skysnake Tensoren kommen ursprünglich aus der Physik bzw. Differentialgeometrie, es gibt aber seit einer guten Weile eine mathematisch sauber Theorie, die hinter allen Konzepten steht, die sich Tensor schimpfen. An den Stellen, wo einfach zur Einschüchterung "Matrix" durch "Tensor" ersetzt wurde, bin ich kein Freund davon.
Ein Mathematiker versteht unter einem Tensor ein Element eines Tensorprodukts (von Vektorräumen oder allgemeiner Moduln); ein solches Tensorprodukt ist ein Vektorraum/Modul, der aus anderen Vekorräumen/Moduln "gewonnen" wird und sich durch spezielle Abbildungseigenschaften auszeichnet.
Deine Erklärungen zu Tensorcores sind plausibel, keine Frage, aber für meine Zwecke halt nicht belastbar genug. Verstehst Du mein Problem?
Ja, das verstehe ich als Physiker und gehe mal davon aus, dass du Mathematiker bist. Ich sehe das pragmatisch und kürzen auch durch Differenzialquotienten ohne Scham. Und ja ich weiß das sich dir bestimmt gleich die Zehennägel davon hoch rollen. Aber die Differenzen kennen wir ja sicherlich
Ich hab das Zeug mit Tensorfeld etc alles gemacht, aber nie den wirklichen Bezug dazu gefunden da ich neben der Vorlesung keine Anwendung dafür hatte. Und klar in Praktikas hat man dann das doch mal verwendet, aber halt alles sehr einfach. Wenn ich noch computational Physics gemacht hätte wäre der Bezug vielleicht größer, aber sein wir doch mal ehrlich. Für die Meisten ist es halt ein Werkzeug. Genau wie die Feynman Graphen ein Werkzeug sind. Die ganzen Spezialfälle usw überlasse ich den Experten in der Domäne und den reinen Mathematikern.
Kann man jetzt die Nase drüber rümpfen, ist vielleicht sogar angemessen. Ich habe im Physinstudium irgendwann aber aufgegeben alles verstehen und wissen zu wollen. Das können vielleicht einige wenige, ich aber ganz sicher nicht. Dafür bin ich nicht gut genug, oder zu normal. Je nach Blickwinkel. Ich denke du weißt was ich meine
Ergänzung ()
Rage schrieb:
An den Stellen, wo einfach zur Einschüchterung "Matrix" durch "Tensor" ersetzt wurde, bin ich kein Freund davon.
Ein Mathematiker versteht unter einem Tensor ein Element eines Tensorprodukts (von Vektorräumen oder allgemeiner Moduln); ein solches Tensorprodukt ist ein Vektorraum/Modul, der aus anderen Vekorräumen/Moduln "gewonnen" wird und sich durch spezielle Abbildungseigenschaften auszeichnet.
Und genau da kommen wir den Punkt wo es absolut richtig ist, der unbedarfte Leser aber keinerlei weitere Erkenntnis hat, außer zu sehen, dass das ein fucking großes Feld ist das sich da auf tut.
Und wenn man damit aktuell nicht zu tun hat, muss man auch echt aufpassen keinen Quark zu erzählen. Das artet zumindest für mich schnell in Arbeit aus.
Wenn ich mich recht erinnere sind bei Tensoren doch die Ergebnisse auch immer Realwertig oder nicht? Und ansonsten halt muss doch das Tensorproduct permutativ sein etc. Klar für ne Mathematiker ist das wichtig weil ihr auch ne Algebra euch ausdenken könnt wo das eben nicht so ist. Aber für den Ottonormalverbraucher ist das einfach so. Der kommt doch gar nicht auf die Idee das es auch anders sein Könnte. Und selbst viele Physiker sehen das doch am Ende auch sehr pragmatisch. Deswegen sind sie ja auch Physiker und keine Mathematiker. Wobei ich froh bin das es auch Mathematiker gibt die Physik machen und Physiker die Mathematik machen. Das ist sehr befruchtend.
Rage schrieb:
Deine Erklärungen zu Tensorcores sind plausibel, keine Frage, aber für meine Zwecke halt
Danke. Ist wie gesagt 10 Jahre bereits her das ich mich damit beschäftigt habe und die
Erinnerung verblasst doch immer mehr. Ich erinnere mich aber noch gut an die Diskussion Matrizen vs Tensoren in der Vorlesung und Übungsgruppe. Und ich empfand sie damals schon als etwas akademisch, wenn auch wichtig!
Ergänzung ()
Rage schrieb:
aber für meine Zwecke halt nicht belastbar genug. Verstehst Du mein Problem?
Verstehe ich nicht so ganz, was du mir damit sagen willst. Musst/willst du was für ne Hausarbeit schreiben?
Wenn ja schau dir die ISA Manuals an. Da steht eigentlich immer drin was die Operationen auf den Einheiten können oder halt auch nicht. Wobei das schon etwas dünn ist.
Wird halt mit ner realen Anwendung aus der Physik oder AI gedacht. Die Formulieren ja auch in Tensoren.
Und bitte Bedenken, dass das aus der Industrie kommt. Da hat sich also eher kein reiner Mathematiker hingesetzt und sich über das Tensorprodukt Gedanken gemacht, sondern man hat geschaut wie die numerischen Verfahren die dafür ja bereits bestehen in Software realisiert sind und wie man das schön in billige Hardware gießen kann.
@Skysnake Tensoren an sich sind erstmal nur Elemente eines abstrakten Vektorraums/Moduls. Unter passenden Umständen kann man diese Vektorräume mit gewissen Funktionenräumen identifizieren, und so Tensoren mit Funktionen.
Zu den Tensorcores: Nein, ich will hier einen Artikel schreiben. Dazu hätte ich die Information, warum Tensorcores gerade das machen was wie machen, aus einer verlässlichen Quelle. Das ist alles.
Wie gesagt, was Tensoren sind weiß ich im Prinzip schon als Physiker
Details zu den Tensorcores wirst du nicht bekommen. Das sind implementierungsdetails. Man kann aus den Funktionen, Latenz und sonstiger Einschränkungen schon Vermutungen anstellen was da gemacht wird durch reines logisches Denken. Wissen tut man es aber nicht und wird es auch nie.
