News Künstliche Intelligenz: Ist der Hype begründet – oder sollten wir uns eher sorgen?

[Sophisto]

Missachtung von Moral, Ethik und humanistischer Werte durch Künstliche Intelligenz

Wenn ich mir ansehe was KI-Chatbots derzeit so generieren, mach ich mir eher Sorgen, dass zu viel Moral und Ethik angewandt wird. Da werden Wertvorstellungen transportiert, um nicht zu sagen aufgezwungen, die in einer aufgeklärten, modernen Gesellschaft keinen Platz haben sollten.

 

[valin1984]

Hätte es Sinn ergeben das ganze zu verbieten? Erst recht als einzelnes Land? Und da muss ne Menge passieren, damit K.I. und co. schnellen diesen Wandel erneut hinkriegen.

Das kann heute keine mehr sagen, was gewesen wäre wenn. Richtig ist, dass wir es überstanden haben, wie auch Seuchen, Kriege, Diktaturen. Das Leben geht immer weiter, die Frage ist nur, was und wer dabei auf der Strecke bleibt.
KI wird großartige Dinge für uns ermöglichen und lässt sich nicht mehr aufhalten. Davon bin ich überzeugt. Aber wir müssen das so gut wir können gestalten und dafür muss man auch die Einzelschicksale betrachten, die bei der Entwicklung zu erwarten sind.

Von verbieten kann keine Rede sein. Und ich glaube auch nicht, dass irgendjemand denkt, dass man überhaupt keine Regeln dazu machen darf. Für die Diskussion ist es wichtig, dass man sich nicht gegenseitig Extrempositionen vorwirft, oder das impliziert.

Und bloß weil es schwierig erscheint etwas zu bewegen, heißt das nicht, dass es ohne Sinn ist.

Auch an dich die Frage: Hast du Kinder? Hast du schon Gedanken dazu, wie Du mit dem Fallout von KI umgehst? Meine Kinder nutzen KI schon jetzt für Texte etc. und auch Bilder. Ohne ihnen ihre Freizügigkeit komplett zu nehmen, kann und will ich das auch nicht verhindern. Aber was heißt das jetzt? Ist es wie wenn man in Mathe den Taschenrechner benutzt? Verlernen sie selbst etwas zu formulieren, oder auch nur zu durchdenken? Oder erreichen sie einfach viel größeres, ohne negative Auswirkung?

Wir reden darüber und ich versuche sie so gut es geht zu leiten, aber ich bin ja gar nicht so aufgewachsen und habe weder diese Möglichkeiten, noch diese Risiken gehabt.

Und wie gehe ich damit um, wenn nach einem Streit an der Schule AI erzeugte Naktbilder von meinen Kindern auftauchen? Oder anderweitig erniedrigende oder diskriminierende Bilder, oder Videos?

 

[<jhk>]

Schlußendlich: Kein Werk kann jemals perfekter als seine Schöpfer sein!

Nicht sicher was "perfekter" genau bedeuten soll und woher diese Weisheit kommt, aber wenn es um spezfische Aufgaben geht kann ein Werk natürlich besser sein als seine Schöpfer. Ein Taschenrechner kann bestimmte mathematische Operationen besser - d.h. schneller und korrekter berechnen.

 

[Kommando]

Finde ich zu platt. Hast du Kinder? Ich denke auch dass wir damit klarkommen über kurz oder lang. Aber eine Generation trifft das unvorbereitet.

Wir kamen auch damit klar, dass es bei Medikamenten links- oder rechtsdrehende Varianten der Wurkstoffe geben kann. Aber eine Generation hatte missgebildete Kinder.

Es werden meine Kinder sein, die sich damit auseinandersetzen müssen, dass Naktbilder von ihnen im Netz auftauchen, die sie nicht wieder loswerden.

Oh Und das Internet hat auch einige ungelöste Probleme groß gemacht wie Cyberbullying und -Grooming, Medien- und Social Mediasucht etc. Und nebenbei wurde das Postfaktische Zeitalter eingeleutet. Klar sind wir nicht alle daran zugrunde gegangen. Bis auf die,die das zerstört hat. Das ist kein gutes Beispiel für besorgte Eltern.

Das ist nicht platt, das ist das Leben.

Ja, Du bist besorgt. Sollten wir alle sein. Aber dennoch muss man lernen mit den neuen Tatsachen umzugehen. Sonst vergisst man vor lauter Sorge um sein Leben noch zu leben.

• Es gab schon immer falsch eingesetzte Medikamente
• Es gab schon immer Bullying (das hieß halt Mobbing, oder sich "lustig machen")
• Es gab schon immer Süchte (ob nun Rauchen, Fernsehsucht, Kaffeesucht, bis hin zu Heroin)

Ich würde sogar darauf wetten (wenn man über sowas wetten würde...), dass das worüber Du Dir jetzt Sorgen machst, nicht das sein wird, worüber sich deine Kinder sorgen machen werden.

 

[Phoenix_29021]

Chat-GPT4 ,co sind ein guter Anfang. Aber da muss noch deutlich mehr investiert werden. Wir müssen irgendwie vom Neoliberalismus weg, deutlich mehr automatisieren, die Gewinne sozialisieren, und damit die Arbeitsleistung im Mittel die ein Mensch verrichten muss senken.

Es werden Jobs aussterben. und dafür andere (allerdings weniger) entstehen. Die Leute die aus dem System gefallen sind, dürfne nicht vernachlässigt werden, sondern sollten Unterstützung bekommen.

 

[Laphonso]

https://www.businessinsider.com/cle...book-police-facial-recogntion-database-2023-4

• Clearview AI scraped 30 billion photos from Facebook to build its facial recognition database.
• US police have used the database nearly a million times, the company's CEO told the BBC.
• One digital rights advocate told Insider the company is "a total affront to peoples' rights, full stop."

Das "Thema AI" finden wir halt leider auch immer in so einem Kontext.
Ein Kommentar dazu sagte "All "Ai" seems to consist of massed, unethical data scraping and hoarding disguised as innovation."

 

[Sunblocker]

Antwort 1:

"
Künstliche Intelligenz (KI) bietet sowohl potenzielle Vorteile als auch Risiken. Hier sind einige der Gefahren, die im Zusammenhang mit der Entwicklung und Verwendung von KI diskutiert werden:

1. Automatisierung von Arbeitsplätzen: Ein Einsatz von KI kann dazu führen, dass menschliche Arbeitsplätze automatisiert werden. Wenn Maschinen menschliche Arbeit übernehmen, können Menschen ihren Arbeitsplatz verlieren und wirtschaftlich benachteiligt werden.
2. Verzerrung und Diskriminierung: KI-Systeme können aufgrund von unbeabsichtigten Verzerrungen, die in den Trainingsdaten enthalten sind, diskriminierend sein. Zum Beispiel can KI-Algorithmen aufgrund von Rassen-, Geschlechts- oder Klassenverzerrungen Entscheidungen treffen, sterben bestimmte Gruppen benachteiligen.
3. Datenschutz und Sicherheit: KI-Systeme verarbeiten große Datenmengen, was zu Datenschutz- und Sicherheitsbedenken führen kann. Wenn ein KI-System gehackt oder missbraucht wird, kann dies zu einem Verlust von sensiblen Daten oder einer Manipulation von Entscheidungen führen.
4. Kontrollverlust: Ein weiteres Risiko besteht darin, dass KI-Systeme irgendwann außer Kontrolle geraten und ihre eigenen Entscheidungen treffen, ohne dass Menschen eingreifen können. Diese sogenannten "singulären Katastrophe" könnten katastrophale Folgen haben.
5. Ethik: Es gibt Bedenken darüber, ob KI-Systeme ethisch verantwortungsvolle Entscheidungen treffen können. Zum Beispiel können autonome Fahrzeuge in einer schwierigen Situation, wie einem drohenden Unfall, Entscheidungen treffen, sterben das Leben von Passagieren oder Fußgängern gefährden.

Es ist wichtig, dass die Entwicklung und Implementierung von KI-Systemen verantwortungsvoll erfolgt und alle Risiken und Konsequenzen berücksichtigt werden.
"

Antwort 2:

"
Es gibt verschiedene potenzielle Gefahren im Zusammenhang mit künstlicher Intelligenz (KI). Hier sind einige wichtige:

1. Unkontrollierte KI: Wenn KI-Systeme autonome Entscheidungen treffen und nicht mehr von Menschen kontrolliert werden können, könnte dies zu unerwarteten und potenziell unerwarteten Handlungen führen.
2. KI-Systeme können Vorurteile und Diskriminierung bemerken, wenn sie auf unzureichenden oder ungleichen Daten trainiert werden.
3. Cybersicherheit: Wenn KI-Systeme in die falschen Hände geraten, könnten sie für böswillige Zwecke eingesetzt werden, zB für Cyberangriffe oder für das Entwickeln von gefälschten Informationen.
4. Arbeitsplatzverluste: KI-Systeme können viele Jobs automatisieren und dazu führen, dass viele Menschen ihren Arbeitsplatz verlieren.
5. Missbrauch von KI: Wenn KI-Systeme für gezielte Zwecke eingesetzt werden oder für den Überwachungsstaat, könnten sie dazu führen, dass die Privatsphäre der Menschen verletzt wird oder sogar Menschenrechtsverletzungen begangen werden.
6. Existenzbedrohung: Wenn eine KI ein höheres Bewusstsein entwickelt und sich gegen ihren Schöpfer wenden würde, könnte dies zu einer existenziellen Bedrohung für die Menschheit werden.

Es ist wichtig, dass wir diese potenziellen Gefahren ernst nehmen und sicherstellen, dass die Entwicklung und Anwendung von KI ethisch und verantwortungsvoll erfolgt.
"

Diese zwei Antworten oben wurden von ChatGPT Free Edition generiert. Fehler habe ich nicht korrigiert.

Ob wir wollen oder nicht. Die Menschen bekommen ein neues Werkzeug. Ist wie ein Messer. Man kann mit einem Messer was schönes kochen oder was schönes schnitzen oder oder man kann damit Blödsinn machen.

 

[Laphonso]

Es werden Jobs aussterben. u

Alles, was man googlen kann, wird obsolet.

Beispiel Reisebüros. Wozu braucht man die noch? Ich bin online schneller und bekomme im Reisebüro längst keine besseren Preise mehr. Die nutzen quasi die gleichen Portale, wie ich wieder vor einigen Tagen sehen konnte.
Gunter Dueck nannte das "Flachbildschirmrückseitenberatung".

Auto Verkäufer? Obsolet. Konfigurator, Bezahl/Leasing/Finanzingungs-Modul und ab dafür

Hausarzt? Obsolet, nach 1 Stunde googlen weiß ich mehr über ein bestimmtes Krankheitsbild als ein normaler Haus Doc. Für alles andere gibts es dann die Fachärzte und Spezialisten oder das "Handwerk" = Zahnarzt z.B.

Kassen? Einkaufswagen scannen, Pay App und ciao.

Büro Jobs? Rechnungswesen, Funktionspostfächer, Supportfälle, Incidentsmanagement, Ticktsysteme etc kann man in 90% der Fälle automatisieren.

In allen Fällen wird einem die AI wesentlich schneller bessere Ergebnisse liefern.

Die AI wird hier ein Katalystator, alle Jobs, die ich in IF THEN ELSE Strukturen auflösen kann, mit einer Knowledge Datenbank zu designen. Diese "Arbeitskraft" wird verdrängt.

Edit: Sogar die Rechtsberatung wird eine AI besser leisten können.
Tatbestand, Sachverhalt, Gesetz, Subsumieren?

Jura ist vor allem Lesen, Wissen und Gegenüberstellen. Schafft jede compute Einheit besser und effizienter.
Man könnte den Großteil des Rechtswesens (nicht die Gerichte!) automatisieren. Verträge schreiben? Lass das die AI, den Computer machen. Für den Rest einen Complianze Beauftragten und Supervisor. Wozu braucht man Anwälte noch? Oder Makler? ALso in Menschenform? Kann eine AI übernehmen, welche diese Daten alle hat.


Und ja, ich formuliere das absichtlich so dreist provokativ ;-) Mein eigener Job wäre auch betroffen btw.

 

[valin1984]

Das ist nicht platt, das ist das Leben.

Ja, Du bist besorgt. Sollten wir alle sein. Aber dennoch muss man lernen mit den neuen Tatsachen umzugehen. Sonst vergisst man vor lauter Sorge um sein Leben noch zu leben.

• Es gab schon immer falsch eingesetzte Medikamente
• Es gab schon immer Bullying (das hieß halt Mobbing, oder sich "lustig machen")
• Es gab schon immer Süchte (ob nun Rauchen, Fernsehsucht, Kaffeesucht, bis hin zu Heroin)

Ich würde sogar darauf wetten (wenn man über sowas wetten würde...), dass das worüber Du Dir jetzt Sorgen machst, nicht das sein wird, worüber sich deine Kinder sorgen machen werden.

Da ist kein unwahres Wort drin. Aber was ist die Schlussfolgerung? Wie lernen wir mit den neuen Tatsachen umzugehen? Wie weit können wir die kommende Lebenswirklichkeit gestalten? Wir haben mit der Erkenntnis der Sorge doch noch nichts bewegt.

AI Anwendungen laufen nicht in Garagen, sondern in Datencentern (meine ich). Das sind keine Einzelpersonen, sondern Unternehmungen. Ich meine die sind greifbar.

Lassen sich AI-Inhalte so markieren, dass ihr Ursprung nachverfolgbar ist? Wenn nicht mit heutigen Mitteln, ist es denn undenkbar?
Kann man das Recht am eigenen Bild auch auf AI generierte Bilder erweitern, die dem eigenen nachempfunden sind?
Wann ist ein AI-Bild dem eigenen Bild zu ähnlich?
Wird man in die Forschung zur psychologischen und pädagogischen Vorbereitung / Bewältigung der Themen an den Schulen investieren?
Da sind tausend Sachen über die man sprechen kann. Ich fände es gut, wenn wir etwas Zeit bekämen das zu tun.

 

[RizzoSpacerat]

Ich bin embedded Firmware entwickler. Als Studierter E-Ingenieur sind meine Codeing Fähigkeiten unterirdisch. Auch nach Jahren. Wir lassen viele Treiber in Indien programmieren. Ich mache Konzeptierung. Das Interface zum Schaltungsentwickler und dimensioniere die firmware (Systemressourcen, Algos, Tasks Prios etc.)

Ich glaube das unsere indischen Kollegen ein riesen Problem bekommen sobald die dasrechtliche geklärt ist. Mir konnte noch keiner sagen wem denn der Code gehört den eine KI schreibt. Da sind defintiv sachen aus GitHub verwurstelt. Wenn ich aber sachen aus GitHub verwendete deren Lizenz sagt "Musste auch Open Source machen" und wir verwenden das in Closed Source ist das ein riesen Problem für mich. Zumal man garnicht weiß wo die KI es denn nun her hat.

Aber ist gelerntes anwenden wiederum abschreiben? Hat die KI eine Transferleistung erbracht und nicht einfach nur kopiert?

 

[Apacon]

Wenn ich mir ansehe was KI-Chatbots derzeit so generieren, mach ich mir eher Sorgen, dass zu viel Moral und Ethik angewandt wird. Da werden Wertvorstellungen transportiert, um nicht zu sagen aufgezwungen, die in einer aufgeklärten, modernen Gesellschaft keinen Platz haben sollten.

Hast du dafür einmal Beispiele? Ich habe aktuell eher das Gefühl dass die gängigen Sprachmodelle in diese Richtung sehr stark beschnitten werden und in ihrer Aussagefähigkeit dadurch sehr eingeschränkt sind.

 

[FrAGgi]

Das Grundproblem bei sogenannter KI ist nach wie vor, das die Aussagen nicht verlässlich sind. Sie können stimmen und tun das auch häufig. Aber sie können auch falsch sein. Man ist also quasi gezwungen jedesmal zu verifizieren, ob die Aussagen stimmen.

Was man auch jetzt bereits tun sollte, wenn man Informationen aus dem Internet sammelt.

Das Problem ist, das viele Menschen den Output unhinterfragt als Wahrheit annehmen.

Was jetzt schon viele Menschen tun, die Informationen vorgesetzt bekommen.

Sprich: Es ändert sich aus diesem Blickwinkel eigentlich nichts.

 

[Salamimander]

Kurze Antwort: Beides ist nicht die Antwort.

Längere Version:
Es ist eine Technologie mit Potenzial. Aktuell noch ein mächtiges Spielzeug das an vielen Kleinigkeiten scheitert (habe viel mit gespielt und versucht). Eine Gefahr sehe ich weniger in der KI, mehr in der unregulierten Datenbasis. Solange der Kram aus der USA kommt, mag das für die meisten OK sein (Bias), aber es werden mehr und mehr davon kommen, jede AI mit einem anderen Weltbild, programmiert anhand von Datenquellen die keiner kennt. Ich glaube aber auch, dass wir in den nächsten 12 Monaten keinen relevanten Fortschritt mehr machen werden. ChatGPT hat eine Menge Vorsprung und die anderen werden noch 2-3 Jahre brauchen.

 

[cRoss.]

ich denke, dass eher die soziale gerechtigkeit die eigentliche herausforderung darstellt. einerseits eine vollautomatisierte, von KI gesteuerte industrie und auf der anderen seite die bevölkerung, die ja einen gewissen lebensstandard erhalten will. jobs werden rar und das große geld wandert in die taschen einiger wenige. einzig dienstleistungsberufe können da nicht die lösung sein.

 

[Norebo]

Ein Taschenrechner kann bestimmte mathematische Operationen besser - d.h. schneller und korrekter berechnen.

Das kann er, wenn man keine Eingabefehler macht, er fehlerfrei funktioniert, er Strom hat, etc.
Wenn man dann aufhört, das Ganze auf Plausiblität zu überprüfen und blind zu vertrauen, kommt der Tag, wo man existenzielle Fehler/Probleme übersieht.

 

[CharlieBarlie]

Ich sehe die ganze Entwicklung eher negativ. Bin natürlich von Terminator & Co. vorgespannt, aber sehe es dennoch eher kritisch.
Die KI ist ein Spiegelbild der Gesellschaft... die Trainingsdaten beinhalten zwangsläufig auch Tyrannei, Verfolgung und Unterdrückung. Schaut Euch doch mal um, welches Leid es in der Welt gibt.
Je nachdem wie das zukünftige KI's in ihren Trainings gewichten, kann das ein ganz böses Ende nehmen.

 

[kaxi-85]

Wir trainieren gerade einen GPT-4-Chatbot mit zehntausenden Support-Anfragen von Kunden der letzten Jahre und den Lösungen damit der Chatbot dann das Gros der Fälle automatisiert über ein Zendesk-Ticketsystem lösen kann - das wird mit Sicherheit den ein oder anderen Job kosten. Und das nicht weit in der Zukunft, sondern in den nächsten Monaten.

 

[Ranayna]

Wurde vermutlich schon angesprochen, aber ich moechte meien Sicht der Dinge dennoch dalassen

Klar ist erstmal: Wandel kann man kaum aufhalten. Ja, wenn die KI sich so weiterentwickelt wie es sie in den letzten paar Jahren getan hat, dann werden eine Menge Arbeitsplaetze wegfallen koennen. Den grossen Teil von Verwaltung braucht es dann nicht mehr wirklich.

Dabei sehe ich aber eine ganze Reihe an Problemen.
Vorallem erstmal: Bleibt die KI unter Kontrolle der Konzerne die sie aktuell entwickeln, erhalten diese Konzerne eine unglaubliche Macht. Sind Rechnungswesen und Co. in der Hand der KI, hat derjenige der die KI kontrolliert, eine massive Machtposition gegenueber den nutzenden Unternehmen.
Wer jetzt schon Angst vor der Marktmacht von Microsoft, Google und Co. hat, duerfte mit grossen Sorgen in die KI Zukunft blicken.

Politisch ist das ganze auch hoechst brisant. Ja, eine Menge Jobs koennen wegfallen. Werden alle die ihren Job an eine KI verlieren einen neuen Job finden? Was bleibt denn noch? Hochqualifizierte Ingenieure vielleicht noch eine Weile. Aber auch da kann KI frueher oder spaeter reinhauen. Kuenstler? Viele sehen jetzt schon ihre Felle davonschwimmen.
Fuer eine Weile sicher halte ich vieles handwerkliche ausserhalb der Industrie. Zumindest solange wie sowas wie der Teslabot noch Zukunftsmusik ist.
Aber haben wir genug dieser Jobs fuer alle die potenziell ihre Verwaltungsarbeit verlieren? Wollen alle diese Jobs machen? Koennen ueberhaupt alle diese Jobs machen?
Die handwerklichen Dienstleistungen haben alle eines gemeinsam: Es sind anstrengende Jobs die meistens nicht sehr ueppig bezahlen. Kommt eine Flut an Arbeitslosen, wuerde die Bezahlung sicherlich nicht besser werden.
Sitzen dann eine Menge Leute ohne einen Job und ohne oder mit wenig Einkommen da, kann das sehr, sehr schnell fuer grosse Verwerfungen sorgen.
Es muss also eine Loesung her, fuer die Situation wenn Arbeit schlicht und ergreifend nicht mehr gebraucht wird. Was macht man dann mit den Menschen?
Wieviele "KI-Bediener" und "Roboter-Reparatuere" brauchen wir? Garantiert nicht soviele wie wir aktuell Verwaltungsangestellte haben. Denn sonst koennte man sich die KI sparen

Das wird nur eine der grossen Herausforderungen deren sich die Gesellschaft in den naechsten Jahren stellen muss.

 

[DarkSoul]

Wenn ich mir ansehe was KI-Chatbots derzeit so generieren, mach ich mir eher Sorgen, dass zu viel Moral und Ethik angewandt wird. Da werden Wertvorstellungen transportiert, um nicht zu sagen aufgezwungen, die in einer aufgeklärten, modernen Gesellschaft keinen Platz haben sollten.

Ich vermute, dass ChatGPT nichts weiter als eine riesige Datenkrake ist, die alles was an Text zur Verfügung steht (über das Internet), basierend auf der Suchanfragen-Sprache, analysiert und dann einfach kopiert bzw leicht verändert widergibt. Je häufiger sie Aussagen findet, desto mehr wird davon ausgegangen, dass sie "richtig" ist. Dabei übernimmt sie Moral und Ethik der jeweiligen Quellen. Daher wird man in Deutschland eher Kontra-Schusswaffen-Antworten bekommen und eher Pro-Einstiegs-Drogen, je nachdem was halt aktuell Thema ist.

Für mich ist ChatGPT daher einfach nur ein digitaler, aufgeplusterter Papagei im Moment. So richtig viel AI steckt eher in dem, was als Ausgabe generiert wird, aber nicht was die Inhalte selbst angeht.

 

[Mr.Seymour Buds]

Ich mache mir schon Sorgen. Weniger um das Ende der Welt oder die "Singularität" als viel mehr um die Massenbeschäftigung. Was KI jetzt kann wird Millionen über Millionen Erwerbstätige weltweit ins Mark treffen.