Bericht Interview: Warum KI nicht die Menschheit auslöscht und wieso Open Source hilft

[kaktux]

KI wird vielen Menschen die Arbeit kosten… Alleine das sehe ich schon als Problem.

Was aber - wie du schon sagst - keine Gefahr ist - sondern allenfalls ein Problem
Mit der Argumention könnte man die komplette Industrialisierung wegwischen.

Wie jede neue Technik ist es einfach sie zu verfluchen und pauschal als böse hinzustellen - kommt aber halt immer drauf an, wie sie verwendet wird. Gibt genug Beispiele, wo der wissenschaftliche Konsenz eindeutig ist - aber lieber auf Panik gesetzt wird. Ist halt für einige eine Geschäftsmodell.
Und Angst ist halt immer eine gute Schlagzeile - bringt mehr Auflage als alles andre.

 

[Hellyeah]

Oho, ein Interview! Ein seltener, aber willkommener Anblick auf Computerbase. Danke dafür, zukünftig gerne mehr!

 

[pseudopseudonym]

Immer wieder diese anmaßenden Formulierungen, die liegen voll im Trend unserer Zeit
Im Übrigen ist das keineswegs gesichert.

Diese Behauptung würde ich über meinen Nudelauf, hinten links im Kühlschrank, den ich seit Wochen entsorgen will, anmaßender finden. Der wächst nämlich auch ganz kräftig und kann somit direkt physischen Eingriff auf die Welt nehmen.

 

[Timmex]

Hier mal ein sehr ausführliches Interview zu dem Thema:

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[aid0nex]

Also zunächst einmal finde ich es toll von @Andy und CB allgemein dass sie nun auch ausführliche Experten-Interviews führen! Tolle Sache! Andererseits muss ich mich der Kritik anschließen, dass eine Einordnung oder Gegenüberstellung der Aussagen mit konträren Positionen fehlt. Dieser Mann ist durch seine Position ja auch etwas biased.

 

[Magellan]

Die Aussagen gehen doch irgendwie völlig am Thema vorbei.

Insofern kann ich eine Superintelligenz, die ihre eigenen Ziele verfolgt, in der jetzigen Technologie überhaupt nicht erkennen.

Es mag sein, dass so etwas in zehn Jahren entsteht.

Hat denn irgendwer behauptet dass es die jetzige Technologie wäre welche diese Gefahr darstellt?
Natürlich geht es darum was sich in 10, 20 oder auch 50 Jahren daraus entwickelt, der Zeithorizont macht das Thema doch nicht weniger ernst.

Wenn wir jetzt nichts machen, ist es irgendwann zu spät. Diese Art von Argumentation lenkt von den real existierenden Risiken ab, die jetzt existieren und nichts mit dem Weltuntergang zu tun haben

Warum? Kann man denn nicht mehr als 1 Risiko gleichzeitig benennen? Kann man etwa nicht gegen verschiedene Risiken gleichzeitig vorgehen?

Der letzte Brief ist zudem nicht ungeschickt formuliert, weil dort nicht direkt gesagt wird, wie die KI die Weltherrschaft übernimmt.

Ernsthaft? Erwartet er jetzt Hellseherei oder was? Der Punkt einer Starken Künstlichen Intelligenz ist doch gerade dass wir nicht vorhersagen und nicht kontrollieren können was sie tut - WENN es eine solche irgendwan gäbe und WENN diese zu dem Schluss kommt dass die Menschheit weg muss, dann wird der schon ein Weg einfallen.

Niemand kann beziffern wie hoch das Risiko dafür ist, das Problem ist nur beim Eintritt dieses Falls ist halt Ende, insofern ist es doch wohl sinnvoll frühzeitig etwas dafür zu tun dieses Risiko so weit es irgendwie geht zu minimieren.

 

[Alphanerd]

Die KI wird nicht direkt die Menschen auslöschen aber sie kann dafür sorgen das sich die Menschen gegenseitig auslöschen.

Wann haben wir da je eine KI für gebraucht. Und ich glaube nicht, dass wir uns gegenseitig auslöschen.

Aber wir löschen n uns selbst aus, bzw machen den Planeten für uns unbewohnbar.

Auch das schaffen wir ganz ohne KI.

 

[h00bi]

Im Übrigen ist das keineswegs gesichert.

es heißt ja auch

Wie gefährlich aktuelle KI-Systeme tatsächlich sind

 

[rentex]

Also ich fühle mich eher von unseren Politikern und den Menschen dahinter bedroht, aber ich bin mir sicher dass diese "KI"s unsere Gesellschaft nachhaltig verändern werden. Insbesondere bestimme Berufsgruppen werden in 10-20 Jahren bestimmt nicht mehr durch echte Menschen abgedeckt.

Du meinst den allseits bekannten "Bürohengst"?

 

[Apocalypse]

Hat denn irgendwer behauptet dass es die jetzige Technologie wäre welche diese Gefahr darstellt?
Natürlich geht es darum was sich in 10, 20 oder auch 50 Jahren daraus entwickelt, der Zeithorizont macht das Thema doch nicht weniger ernst.

Man könnte an dieser Stelle auch einwerfen, hätte man sich Gedanken über den Umgang mit Atomwaffen und co vor Nagasaki und Hiroshima gemacht, hätte es einen ABC Sperrvertrag geben können, und zwar schon vor dem ersten Weltkrieg. ;-)

Aber noch 1928 und 1933 wurde die Möglichkeit Kernspaltung zu nutzen als Sci-Fi Utopie von durchaus sehr angesehenen Wissenschaftlern bezeichnet.

Nicht das man jetzt alles unmögliche für Praktikabel halten muss, ganz im Gegenteil Skeptzis ist gut, aber Arthur C. Clarke hat schon nicht ganz unrecht mit seinem Ausspruch:
"If an elderly but distinguished scientist says that something is possible, he is almost certainly right; but if he says that it is impossible, he is very probably wrong."

 

[Lan_Party94]

Im Übrigen ist das keineswegs gesichert.

Man könnte meinen die Pandemie hat ihre Kreise gezogen - die Impfung ist auch ABSOLUT Risikolos.... Oh, da war doch was...🤔

Die Leute einfach im Glauben lassen das alles gut wird - wenn es knallt ists sowieso zu spät.

Schon jetzt können Cyber-Kriminelle Fakenews,
auch ohne KI, getarnt als echte News unter die Menschen bringen und somit massiv Einfluss auf die Meinungsbildung nehmen. Stichwort: Propaganda.

Geht noch schlimmer:
Fake News und Propaganda im ÖR.

Fake News aus dem Internet kann man ja noch enttarnen, aber die ÖR verbreiten Fake News (versehentlich natürlich! ;]) und Propaganda (ganz offensichtlich!) im Netz, Radio und TV.
DAS ist noch viel schlimmer!

KI kann extrem gut für die Menschheit sein, kann aber auch extrem nach hinten los gehen!

Das Internet ist auch eine tolle Sache, aber die unendlichen Möglichkeiten schafften auch einen exzellenten Nährboden für Kriminelle.

Ich bin sehr gespannt wie das ganze weitergeht, aber bei der Jugend von heute wird eine KI extrem wichtig werden oder diese KI wird leider extrem dumm. 😂😁

 

[NoNameNoHonor]

Schon klar. Fragt einfach den CEO vom Deutschen Forschungszentrum für KI.
Ist so wie wenn ich den CEO von Philip Morris frage, ob Rauchen gefährlich ist.
Wäre nett, wenn man eher jemand neutrales fragen könnte.

 

[cloudman]

Wie bei Klimaforschern, Atomwaffenforschern oder Pandemieforschern, gibt es auch Forscher die nicht alles dramatisieren oder negativ sehen. Nur die will keiner hören, bringt keine Quote.

Du meinst die 5% der Wissenschaftler die eine andere Meinung als der Großteil der Wissenschaftler hat?

Wie auch bei KI können leider die wenigsten von uns nachvollziehen wie die Wissenschaft zu bestimmten Ergebnissen kommt - einfach weil wir eben keine Fachleute sind.
Man kann auch nicht alles so erklären, dass es jeder versteht.
Ist eben meist mehr oder weniger heftige Mathematik.
Aber zumindest die Grundzüge kann man schon selbst mal recherchieren - gibt genügend seriöse Wissenschaftsseiten

Gefährlich finde ich es nur wenn man sich dann aussucht was mit der eigenen Meinung zusammen passt und nicht was am wahrscheinlichsten ist. Wenn 95% sagen die Erwärmung wird dramatische Folgen haben aber mir gefallen die Konsequenzen nicht - glaube ich dann den 5% die es herunter spielen.

Abgesehen davon - welche Quote?
Journalisten sind übrigens keine Wissenschaftler.

 

[axi]

Ich wüsste auch gar nicht, wo es herkommen soll, dass generative KI-Systeme in irgendeiner Form eine eigene Agenda entwickeln. Die leben von den Daten, mit denen sie trainiert wurden, aber ohne diese auf Meta-Ebene zu reflektieren. Insofern kann ich eine Superintelligenz, die ihre eigenen Ziele verfolgt, in der jetzigen Technologie überhaupt nicht erkennen.

Das ist für mich der aktuell springende Punkt, was wir im Moment sehen ist eben (noch) keine Intelligenz, sondern streng genommen sehr fortschrittliche Statistik kombiniert mit Sprachmodellen und Entscheidungsfindung - Es erfolgt aber keinerlei Reflektion in Form eines Bewusstseins, das kann man sich auch in diversen Youtube Videos angucken oder selber ausprobieren.

Und ja wir sollten uns Gedanken machen bevor irgendwas nach hinten los geht....

 

[kaktux]

Schon klar. Fragt einfach den CEO vom Deutschen Forschungszentrum für KI.
Ist so wie wenn ich den CEO von Philip Morris frage, ob Rauchen gefährlich ist.
Wäre nett, wenn man eher jemand neutrales fragen könnte.

Und warum sollte das sein? Kann ein öffentlich Angestellter keine differenzierte Meinung dazu haben?
Dieses Expertenbashing ist kompletter Unsinn.

Was bedeutet den bitte "jemand neutrales"? Jemanden, der nicht in die Materie involviert ist - aber eine Meinung dazu hat?

Sorry - Vergleiche von nem Konzern und ner Forschungseinrichtung sind Humbug.

 

[Lan_Party94]

Wie auch bei KI können leider die wenigsten von uns nachvollziehen wie die Wissenschaft zu bestimmten Ergebnissen kommt - einfach weil wir eben keine Fachleute sind.

Aber zumindest die Grundzüge kann man schon selbst mal recherchieren - gibt genügend seriöse Wissenschaftsseiten

Wenn 95% sagen die Erwärmung wird dramatische Folgen haben aber mir gefallen die Konsequenzen nicht - glaube ich dann den 5% die es herunter spielen.

Journalisten sind übrigens keine Wissenschaftler.

Auch "Fachleute" verlieren ihren rationalen und logischen Verstand, wenn es darum geht eine "Antwort" zu finden.

Geh mal zurück ins 14. Jahrhundert und sag den Leuten die Erde ist rund und das Sonnensystem dreht sich um die Erde. 😂
Du bist ja vom Fach und bist ein seriöser Wissenschaftler - der nach der oberen Aussage wahrscheinlich der Hexerei beschimpft wird. 😂

Ja, es kann auch viel mit der eigenen Meinung zu tun haben, aber evtl. sind die 95% einfach nur verblendet? Wie gesagt - im 14. Jahrhundert hättest du das selbe geschrieben - nur halt über Leute die meinen die Erde sei rund.

Journalisten können auch Wissenschaftler sein - das eine schließt das andere nicht aus.
Ein Wissenschaftsmagazin braucht auch aufrufe - stell dir vor die schreiben auf einmal alle Äpfel sind blau, nur weil unsere Augen das Licht anders brechen sehen die für uns rot aus. Meinste dieses Magazin wird noch besucht? Auch wenn es evtl. tatsächlich recht hat? Nein - es entspricht nicht deinen Vorstellungen.

Ich sage es gibt Aliens - wer meint das es nicht so ist, ist in meinen Augen ein ziemlicher "Idiot". Beweisen kann ich es nicht, aber der logische und rationale Verstand sagt es dennoch.

Und zum Schluss:
Ein Wissenschaftler der nicht an der Wissenschaft zweifelt ist kein Wissenschaftler.

 

[aspro]

Schon klar. Fragt einfach den CEO vom Deutschen Forschungszentrum für KI.
Ist so wie wenn ich den CEO von Philip Morris frage, ob Rauchen gefährlich ist.
Wäre nett, wenn man eher jemand neutrales fragen könnte.

Wenn du das Interview gelesen hättest, wüsstest du, dass es genau darum geht, dass renommierte KI-Wissenschaftler eben der Meinung sind, dass KI gefährlich für die Menschheit werden kann.
Zudem ist dieses Ad-Hominem-Argument billig und bei komplexen Fragestellungen auch völlig kontraproduktiv. Relevanz hat da vor allem die Sachkenntnis und nicht die Neutralität.

 

[Palomino]

Wenn man bedenkt wovor die Menschheit schon so alles Angst hatte dann ist KI einfach nur die nächste Sau die man durchs Dorf treibt.

Der entscheidende Fakt ob KI mächtig oder gefährlich wird oder werden kann ist wie so oft der Mensch. Aber dazu müsste man der KI tatsächlich auch dazu ermächtigen um entsprechende Befugnisse und Entscheidungen treffen zu dürfen die für die Menschen tatsächlich gefährlich werden können.

Gefährdungspotential sehe ich eher darin dass KI missbraucht wird. In einigen Bereichen wird es Kriminalität fördern weil es neue Möglichkeiten bietet. Gleichzeitig werden auch die Sicherheitsbehörden aufrüsten müssen um mithalten zu können.

Die größte Gefahr die durch KI entstehen könnte sehe ich in der sozialen Sprengkraft. Wenn die Möglichkeiten genutzt werden um Arbeitsplätze zu ersetzen. Je mehr Leistung wir automatisieren und an Maschinen übertragen, desto wichtiger wird es dass die große gesellschaftliche Frage gelöst wird wie denn die Menschen dann noch am Leben teilhaben können wenn ihre Arbeitsleistung nicht mehr notwendig ist.

In der Geschichte hat technischer Fortschritt ja auch immer neue Möglichkeiten und Chancen eröffnet. MI den Möglichkeiten der KI könnte es tatsächlich anders werden

 

[911er]

Sobald eine KI ein neues physikalisches Gesetz findet ala Relativitätstheorie etc., vielleicht die berühmte Weltformel, bin ich beindruckt. Der Rest ist nur Vereinfachung von bestimmter Arbeit, wie z.B. Taschenrechner.

 

[aspro]

Auch "Fachleute" verlieren ihren rationalen und logischen Verstand, wenn es darum geht eine "Antwort" zu finden.

Pauschale Unterstellung, die nur dazu geeignet ist, die Meinung anderer abzuwerten.

Geh mal zurück ins 14. Jahrhundert und sag den Leuten die Erde ist rund und das Sonnensystem dreht sich um die Erde. 😂
Du bist ja vom Fach und bist ein seriöser Wissenschaftler - der nach der oberen Aussage wahrscheinlich der Hexerei beschimpft wird. 😂

Es ist eine Legende, dass die flache Erde damals eine Mehrheitsmeinung war. Strittig war, ob sich die Sonne um die Erde dreht oder anders herum. Aber das wurde von der Kirche dogmatisch vorgegeben, das hatte nichts mit Wissenschaft zu tun, daher ist der Vergleich abwegig.

Ja, es kann auch viel mit der eigenen Meinung zu tun haben, aber evtl. sind die 95% einfach nur verblendet? Wie gesagt - im 14. Jahrhundert hättest du das selbe geschrieben - nur halt über Leute die meinen die Erde sei rund.

Siehe oben.
Des weiteren sollte es ja nicht um die Meinung gehen, sondern um die Argumente. Wer einfach nur eine Meinung hat, ohne diese ausreichend zu begründen, egal wie mehrheitsfähig die ist, braucht auch nicht erwarten ernst genommen zu werden. Und das ist üblicher Weise der Unterschied zwischen Wissenschaftlern und Leuten, die zwar keine oder wenig Sachverstand haben, aber trotzdem meinen ihre unbegründete Meinung hat genauso viel Relevanz.

Journalisten können auch Wissenschaftler sein - das eine schließt das andere nicht aus.
Ein Wissenschaftsmagazin braucht auch aufrufe - stell dir vor die schreiben auf einmal alle Äpfel sind blau, nur weil unsere Augen das Licht anders brechen sehen die für uns rot aus. Meinste dieses Magazin wird noch besucht? Auch wenn es evtl. tatsächlich recht hat? Nein - es entspricht nicht deinen Vorstellungen.

Wie gesagt, es geht um die Argumentation. Wenn es eine gibt, gibt es auch die Möglichkeit darüber zu diskutieren. Wenn nicht, braucht sich keiner beschweren, nicht ernst genommen zu werden.

Ich sage es gibt Aliens - wer meint das es nicht so ist, ist in meinen Augen ein ziemlicher "Idiot". Beweisen kann ich es nicht, aber der logische und rationale Verstand sagt es dennoch.

Keine Ahnung, wie es dazu eine logische und rationale Meinung existieren kann. Es gibt schlicht keine geeignete Technologie, diese Frage rational zu klären. Damit ist es eine Glaubensfrage und es steht jedem frei seine eigene Meinung dazu zu haben.

Und zum Schluss:
Ein Wissenschaftler der nicht an der Wissenschaft zweifelt ist kein Wissenschaftler.

Wird nur leider gerne vergessen, wenn Leute Aussagen tätigen, die im Nachhinein doch nicht ganz richtig waren. Da wird dann immer gerne die Propaganda-Keule rausgeholt, siehe dein anderer Post.