News Neuer Rekord bei künstlichen neuronalen Netzwerken

[ich_nicht]

Die sollten da ein BOINC (http://boinc.berkeley.edu/) Projekt draus machen, dann hätten die genug Rechenleistung.

Es kann auch sein das man die ganze Rechenleistung live braucht und man den Vorgang nicht so gut aufteilen kann.

 

[calluna]

sonderlich kompliziert funiktionieren die einzelnen am denken und lernen beteiligten teile unseres gehirns nicht, wie sich das mancher wohl vorstellt.

Deswegen steht die Hirnforschung auch noch immer am Anfang... oder wie meinst du das? Es ist letztendlich auch unklar, was man durch künstliche neuronale Netze über Gehirne lernt, da zum Beispiel bei Gehirnen die Zeit wichtig ist. Alles, was ein Computer berechnen kann, kann letztendlich auch durch menschliche Handlungen mit "Spielregeln" realisiert werden. Die Berechnung läuft dann zwar extrem langsam ab, aber das Ergebnis ist das gleiche. Zeit spielt da keine Rolle... bei Gehirnen hingegen schon.

 

[etking]

Diese künstlichen Netze haben ein Problem, sie leben nicht und sind daher starr und unveränderlich und haben mit den echten biologischen Vorgängen im Menschen rein gar nichts zu tun. Die Anwendungsmöglichkeiten sind deshalb stark beschränkt, insbesondere für die Erklärung von Vorgängen im Gehirn. Muster- Sprach- und Objekterkennung ist zwar nett aber noch viel cooler und leistungsfähiger wäre ein biologisch plausibles neuronales Netz nach dem Vorbild der Natur.

http://www.neuronalesnetz.de/

 

[Dese]

Deswegen steht die Hirnforschung auch noch immer am Anfang... oder wie meinst du das?

die hirnforschung umfasst noch ganz andere dinge, als die für eine KI dieser art relevanten dinge.

ausserdem steht diese bei weitem nicht so "am anfang" wie man glaubt. aber die menschen stehen noch am anfang sich vorstellen zu können, dass mit so wenigen mitteln denken möglich ist, dass sie zwanghaft noch nach mehr suchen, was gar nicht nötig ist.
kann ja doch nicht sein, dass so einfache prinzipien solch komplexes denken wie das des menschen möglich machen.... lasst uns weiter forschen.

und so haben sie die letzten 30 jahre immer wieder FAST alles über den haufen geworfen und landeten immer wieder bei Hebb und co.

dennoch gibt es andere, auch nicht weniger wichtige dinge zu entdecken, in denen die hirnforschung noch viel zu entdecken hat. aber bei dem worum es in der news geht hat sich in den letzten 15/20 jahren kaum was getan, ausser, dass was aufkam und dann wieder verworfen wurde.

 

[calluna]

@Dese

Mich hat die Hirnforschung schon immer interessiert, weswegen ich auch gerne Dissertationen zu diesem Thema lese. Darüber wie "Denken" funktioniert habe ich bisher wenig gefunden.

 

[malachias]

aber irgendwie stimmt doch etwas bei den Angaben nicht:

2012 Google:
1.000 Server = 16.000 CPU-Kerne (bei Octa-Cores: 2000 Cpus)
1,7 Milliarden Parametern

2013: nVidia:
16 Server = 128 Kerne + 64 GPU Kerne
11,2 Milliarden Parameter

Die Performancesteigerung innerhalb von einem Jahr...

Grüße
franeklevy

Sind es nicht 98304 + die CPU Kerne?

Denn 16 Server a 4*GTX680(1536 Shader) sind dann 98304 Kerne. Oder denke ich falsch?

 

[franeklevy]

@malachias:
sofern man jeden Shader als einen Kern betrachten würde, stimmt deine Rechnung - aber diese Betrachtungsweise ist wohl eher theoretischer Natur, da ein Shader wohl kaum mit einem Kern vergleichbar ist.


Grüße
franeklevy

 

[malachias]

Aber trotzdem laufen die Operationen ja viel Parallelisierter ab. So könnte ich mir den Schub an leistung erklären.

 

[Onkelhitman]

Ich glaube, irgendwas hier an dem Artikel hat mich gestört. Ein paarmal habe ich es gelesen und stolpere immer wieder über:

Lernziel des Projektes war es, durch Maschinelles Lernen und Künstliche Intelligenz (K.I.) dem neuronalen Netz das Erlernen der Fähigkeit, verschiedene Katzen zu erkennen, beizubringen.

Dazu dann der Link in dem steht:

We then ran experiments that asked, informally: If we think of our neural network as simulating a very small-scale “newborn brain,” and show it YouTube video for a week, what will it learn? Our hypothesis was that it would learn to recognize common objects in those videos. Indeed, to our amusement, one of our artificial neurons learned to respond strongly to pictures of... cats. Remember that this network had never been told what a cat was, nor was it given even a single image labeled as a cat. Instead, it “discovered” what a cat looked like by itself from only unlabeled YouTube stills. That’s what we mean by self-taught learning.

Das bedeutet, Ziel des Experimentes war es, mithilfe von Youtube die "KI" dazu zu bringen, sich an Dinge zu "erinnern" bzw. das assoziative Denken zu erlernen. Das bedeutet, würde ein solcher Computer z.B. ein Auto sehen, könnte er, weil er unzählige Automodelle gesehen hat "denken": Dies ist ein Auto. Dabei würde wahrscheinlich Form, Räder usw. eine entscheidende Rolle spielen. Das heißt, das Ziel des Experimentes war keineswegs der "KI", also dem Programm beizubringen Katzengesichter zu erkennen. Sondern aufgrund der Daten, die dieses neuronale Netzwerk mit Youtube-Videos verarbeitet hat, hat sich ein Neuron darauf spezialisiert Katzengesichter zu erkennen. Das ist also kein hingearbeitetes Ziel gewesen, sondern Ziel war es einfach, etwas wiederzuerkennen, also zu speichern und demnach zu lernen.

Demnach stimmt auch die Formulierung:

Maschinelles Lernen ist die Wissenschaft, Computer etwas tun zu lassen, ohne sie explizit dafür zu programmieren.

leider nicht. Denn programmiert werden musste der Computer bzw. das Programm schon. Die Programmierung sorgte dann für den Lerneffekt. Auch Menschen funktionieren ja nicht ohne Befehlskette, wir sind nur durch unsere Körpersinne und Gegebenheiten auf Lernen ausgerichtet.

Diese Methode hat in den letzten Jahren selbstfahrende Autos und effektivere Websuche maßgeblich weiterentwickelt sowie viel zum Verständnis des menschlichen Genoms beigetragen.

Auch hier muss man bedenken, dass die Programme alle mit Parametern gefüttert wurden. Z.B.: Das dort ist die Straßenlinie, das dort ist die Leitplanke, das dort ist ein anderes Auto usw. usf. Das heißt, die Programme und Computer würden, wenn sie einfach doof in einem Auto hingestellt würden einen Kehrricht tun. Würden in unseren Genen nicht "Programme" abgespeichert sein, würden wir als Babys alle sterben, da unser Körper nicht funktionieren würde. Das heißt, dass die Grundprogrammierung schon vorhanden sein muss.

 

[riDDi]

Finde es merkwürdig, dass sie gerade auf den Compute-Krüppel GK104 setzen.

 

[max10]

"Maschinelles Lernen ist die Wissenschaft, Computer etwas tun zu lassen, ohne sie explizit dafür zu programmieren."

Mir graut davor. Ich hoffe das sich sowas nicht in großem Umfang durchsetzt.

 

[ich_nicht]

@Onkelhitman
Richtig, wenn man es genau nimmt folgt unser Hirn auch nur einer "Programierung" und da jeder eine andere Wahrnehmung hat lebt man auch in seiner eigenen Welt... das ist alles schon ziemlich abgefahren.

 

[Fabian228]

Diese ganzen Terminator Fantasien. Eine Maschine hat eine Energiequelle, trenne ich diese Energiequelle ist die Maschine aus, das war schon immer so und wird auch immer so sein, da reicht ein einfacher Ein/Aus Schalter.

 

[Amusens]

hm? Ein Hrinforscher will es schaffen das man seine Ganzen Wissen in einem Computer uploaden kann.
Wenn das in 100 Jahren klappt und hier das Projekt auch in 100 Jahren so weit ist
Passt das alles super zusammen

 

[[F]L4SH]

Es kann auch sein das man die ganze Rechenleistung live braucht und man den Vorgang nicht so gut aufteilen kann.

Ach Quatsch - Schau dir mal die Denkgeschwindigkeit einiger Zeitgenossen an! Da reicht sogar UMTS als Übertragungsweg. Man denke beispielsweise an die Reaktion von George Bush 09/11 vor dieser Schulklasse - man konnte förmlich sehen, wie die Denkvorgänge von einem Pentium III berechnet und per WLAN übertragen wurden. Daher der "Sanduhr" Gesichtsausdruck.


Will damit aber wirklich etwas sagen: wenn die Latenz nicht passt, kann man mit so einer BOINC Sache einfach sehr langsames Denken berechnen. Selbst wenn die Operationen voneinander abhängen. Dann braucht man eben zehn Sekunden für einen Denkschritt statt einer. Vollkommen egal - die Rechenleistung ist für die Forscher kostenlos.

 

[Marius]

Die Leistungsfähigkeit unseres Gehirns wäre mal interessant zu wissen.
Bei manchen Inselbegabungen tritt sie eindrucksvoll zutage und stellt so manches in den Schatten.

Wie Leute die 1000ende Stellen lange Zahlenreihen aus dem Stehgreif einfach WISSEN, sofort, einfach so, wie ein Quantencomputer.
Ein 256 Bit Schlüssel wird da zur Witzfigur...

@Fabian 228
Bediene mal den EIN/AUS Schalter einer auf dich zurasenden Drohne die ihre Waffe aus 120km Enfernung zündet!

@Onkel Hitman
Stimmt.
Ich erinnere mich gelesen zu haben, daß wir quasi fast völlig aus der Grundprogrammierung heraus handeln und der "freie Wille" nur denkt er sei frei.

 

[calluna]

Die Leistungsfähigkeit unseres Gehirns wäre mal interessant zu wissen.
Bei manchen Inselbegabungen tritt sie eindrucksvoll zutage und stellt so manches in den Schatten.

Die eigentlich erstaunliche Leistung unseres Gehirns ist eher Folgende: die Mitmenschen in der Umgebung verstehen zu können und ihr Verhalten vorhersagen und zu manipulieren. Eine Diskussion mit mehreren Menschen an einem Tisch ist z.B. ebenso eine erstaunliche Leistung, da ein Gehirn (natürlich nicht jedes) in der Lage ist, dem gesamten Diskussionsverlauf zu folgen und präsent zu halten, dabei gleichzeitig auf das soziale Gefüge am Tisch zu achten, die Perspektive der anderen zu übernehmen, die verschiedenen Kontexte zu beachten etc.

Ich erinnere mich gelesen zu haben, daß wir quasi fast völlig aus der Grundprogrammierung heraus handeln und der "freie Wille" nur denkt er sei frei.

Wenn jemand so etwas sagt, dann ist es lediglich eine Meinung. Der Stand der Wissenschaft lässt solche Aussagen nicht zu. Aber das hindert natürlich Wissenschaftler nicht daran ihre Meinung zu äußern, was auch ihr gutes Recht ist und was einige gerne in Sachbüchern tun. Leider wird das in den Medien selten unterschieden, was Spekulation ist und was tatsächlich dem nüchternen Wissensstand entspricht.

@[F]L4SH

Man muss zwischen Denken und dem Inhalt des Denkens unterscheiden. Rechnen ist ein Denkinhalt. Und zwar einer, der sich mechanisch umsetzen lässt. Entweder durch Zahnräder, oder eben auch durch menschliche Handlungen, die eine Turing-Maschine realisieren. Das, was so eine Maschine macht, ist kein Denken.

 

[max10]

Diese ganzen Terminator Fantasien. Eine Maschine hat eine Energiequelle, trenne ich diese Energiequelle ist die Maschine aus, das war schon immer so und wird auch immer so sein, da reicht ein einfacher Ein/Aus Schalter.

Solang du die Kontrolle über die Energieversorgung hast.

 

[wazzup]

Diese ganzen Terminator Fantasien. Eine Maschine hat eine Energiequelle, trenne ich diese Energiequelle ist die Maschine aus, das war schon immer so und wird auch immer so sein, da reicht ein einfacher Ein/Aus Schalter.

Schöne Theorie. Wo hat denn der T-1000 den Ausschalter?

Natürlich ist ein solches Szenario momentan noch nicht realistisch, aber in 5-10 Jahren schon.
Man stelle sich vor: Ein solches Netz, kombiniert mit Prism. Alle Informationen der Welt gefüttert in eine KI unvorstellbarer Größe. Was wird wohl passieren?
Mal eben Schalter drücken ist da nicht. Selbst wenn du die Sicherungen rausnimmst schalten sich die Backupsysteme ein und die KI interpretiert dies als Angriff, das wars dann.
Selbstverständlich ist Terminator nur ein Film, aber das Szenario mit Skynet ist realistisch. Wenn man mal sieht was heute schon an Technik in einem durchschnittlichen Mittelklasse Wagen steckt: Die Kiste könnte theoretisch komplett selbst fahren. Die neuen Modelle werden allesamt Internetzugang erhalten und dann ist es nur eine Frage der Zeit bis sich das ganze Flächendeckend verbreitet hat. Wenn die entwicklung so weiter geht wie bisher sind in 20 Jahren lockere 80% aller KFZ rollende Computer mit Internetzugang.
Eine solche KI bräuchte also nichtmal Atomwaffen um möglichst viele Menschen zu vernichten, das Auto vor die Wand setzen reicht auch. Hoffen wir das es nie soweit kommen wird.

 

[Dese]

@Dese

Mich hat die Hirnforschung schon immer interessiert, weswegen ich auch gerne Dissertationen zu diesem Thema lese. Darüber wie "Denken" funktioniert habe ich bisher wenig gefunden.

ich weiß. und das wirst du zimlich sicher auch lange nicht in dissertationen zum thema hirnforschung bzw. von hinrforschen finden. die sind die falschen für diese frage.

ändert aber nichts an meiner aussage.