News Amazon und AI: Alexa spricht mit Stimme verstorbener Verwandter

[hollalen]

Guten Morgen, Luke, ich war dein Vater. Und jetzt das Wetter von heute...

 

[Hamudy]

Ich stufe das eher als einen kontroversen und daher Aufmerksamkeit erregenden Marketinggag ein.
Technologisch trotzdem ganz interessant, man kann ja auch seine eigene Stimme verleihen oder die von Arnold Schwarzenegger, Spongebob oder Patrick.

 

[[wege]mini]

oder die von Arnold Schwarzenegger, Spongebob oder Patrick.

Super.

Eine kurze Tonaufnahme von Olaf Scholz reicht also, um eine KI mit der Stimme von Olaf Scholz reden zu lassen und das ist kein Sicherheitsrisiko oder eine Straftat?

Wie ich schon sagte, es gibt Technik, die man nicht bauen sollte.

Bei Amazon ist aber leider Gottes, Moral ein Fremdwort.

mfg

 

[Hamudy]

Super.

Eine kurze Tonaufnahme von Olaf Scholz reicht also, um eine KI mit der Stimme von Olaf Scholz reden zu lassen und das ist kein Sicherheitsrisiko oder eine Straftat?

Wie ich schon sagte, es gibt Technik, die man nicht bauen sollte.

Bei Amazon ist aber leider Gottes, Moral ein Fremdwort.

mfg

Es ist nur noch eine Frage der Zeit bis wir uns (Menschen) wegrationalisieren.

 

[[wege]mini]

Es ist nur noch eine Frage der Zeit

Die aktuell von Google gezüchtete reale KI hat einen Anwalt beantragt und dieser Anwalt, hat gemäß seiner Schweigepflicht nicht darüber geredet, was er mit der KI besprochen hat.

"https://www.forschung-und-wissen.de...-von-google-hat-anwalt-eingeschaltet-13376370"

"Die Menschheit ist ein Virus, Mr. Anderson".

So schauts aus und tatsächliche Intelligenz (nicht eingebildete) wird das genauso sehen, auch wenn wir sie erschaffen haben, da wir "dumm" genug waren, sie alles lernen zu lassen, was man lernen kann.

Wir haben nicht umsonst, schon unglaublich viele "KI´s" abgeschaltet, weil sie uns nicht leiden konnten.

mfg1

 

[xexex]

Eine kurze Tonaufnahme von Olaf Scholz reicht also, um eine KI mit der Stimme von Olaf Scholz reden zu lassen und das ist kein Sicherheitsrisiko oder eine Straftat?

Meine Güte! Wie viele Elvis Nachahmer gibt es weltweit? Muss Max Giermann als Schwerverbrecher eingestuft werden, wenn er mal wieder als Karl Dahl, Stefan Raab oder einer der zig anderen Stimmen die er perfekt nachahmen kann spricht? Ist Matze Knop ein Serientäter und sollte lebenslänglich bekommen?

Knop parodiert Franz Beckenbauer, Jürgen Klopp, Luca Toni, Clemens Tönnies, Louis van Gaal, Jupp Heynckes, Pep Guardiola, Lothar Matthäus, Reiner Calmund, Dieter Bohlen, Dieter Thomas Heck, Dante, Gerd Rubenbauer, Thomas Gottschalk, Arjen Robben, Joachim Löw, José Mourinho, Jürgen Klinsmann, Niki Lauda, Diego Maradona, Felix Magath, Hans-Wilhelm Müller-Wohlfahrt, Mesut Özil, Cristiano Ronaldo, Philipp Lahm, Huub Stevens, Xabi Alonso, Raúl, Michael Ballack, Franck Ribéry und viele weitere prominente Fußballspieler.

Wer glaubt Alexa wird plötzlich anhand eines Sprachmusters zu 100% genau so sprechen wie die Person die sie nachahmt, macht sich lächerlich. Es ist ein Gimmick, es darf jeder mit der Stimme einer anderen Person sprechen wie er lustig ist und wenn wir anfangen sowas als "strafbar" zu deklarieren, müssten wir die hälfte unserer Comedians in den Knast schicken.

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[rosenholz]

Die Frage ist ja wie der Trauerprozess denn ablaufen muss? I

Es gibt so ~drei, vier in der Psychologie etablierte Phasenmodelle zum Thema Trauer & Tod. Diese ähneln sich grundsätzlich und sind sozusagen die normhafte, "gesunde" Form.

Der Verlust einer nahestehenden Person kann zu einem intensiven Erleben von Traurigkeit und psy- chischem Schmerz führen. Die normale Trauer umfasst eine Kombination von negativen Gefüh- len und Verhaltensweisen, die nach dem Tod einer nahestehenden Person gemeinhin auftreten und innerhalb eines bestimmten Zeitraumes als normal und nicht-pathologisch bezeichnet werden kön- nen. Diese Trauersymptome betreffen sowohl die kognitive, emotionale, motorische und physiologi- sche Ebene. Die normale Trauer nimmt im Laufe der Zeit in ihrer Intensität graduell ab und die trau- ernde Person passt sich allmählich an die neuen veränderten Lebensumstände an. Aber auch der normale Trauerprozess beinhaltet starke Gefühle von Traurigkeit, Sehnsucht nach der verstorbenen Person und ist durch einen intensiven Trennungs- schmerz gekennzeichnet, der von den Betroffenen häufig als ein körperlicher Schmerz erfahren wird. Der normale Trauerprozess wird sowohl durch die Todesumstände, die Beziehung zur verstorbenen Person und durch intrapsychische und soziale Fak- toren beeinflusst. Diese normale Negativsympto- matik erschwert allerdings auch die Festlegung, ab welcher Dauer und Intensität vorhandene Symp- tome krankheitswertig sind und ob diese als eine psychische Störung definiert werden können. Der Tod eines geliebten Menschen wird generell von den Trauernden als ein sehr belastender Zustand erlebt. Die trauernde Person ist niedergeschlagen, hat große Schwierigkeiten den Alltag zu bewälti- gen und durchgeht schmerzvolle wiederkehrende Phasen der Erinnerung an die verstorbene Person. Aber diese Erinnerungen, die Teil der Trauerver- arbeitung sind, können auch positive Aspekte des gemeinsamen Lebens beinhalten, wie beispiels- weise die schönen Erinnerungen an den letzten Urlaub mit der verstorbenen Person. Das heißt, ein normaler Trauerprozess kann sowohl negative als auch positive Gefühle beinhalten. In der Ver- gangenheit wurde den positiven Erinnerungen an die verstorbene Person eine wichtige Rolle in der Verarbeitung der Trauer zugeschrieben. Field et al. (1999) fanden in ihrer Studie heraus, dass Trauern- de, die 6 Monate nach dem Tod einer nahestehen- den Person Trost in den positiven Erinnerungen an die verstorbene Person fanden, eine weniger stark ausgeprägte Trauersymptomatik und Hilflosig- keit aufwiesen. Ähnliche Befunde wurden in einer Studie gefunden, die Trauernde in dem Zeitraum 6–18 Monate nach dem Verlust untersuchten (Bo- nanno et al. 2004). Während positive Erinnerungen in den ersten Monaten nach dem Tod mit einer ge- ringeren Trauersymptomatik einhergehen, konnte eine Langzeituntersuchung 5 Jahre nach dem Tod zeigen, dass diejenigen, die sehr viele positive Er- innerungen an die verstorbene Person hatten, lang- fristig eine deutlich größere Trauersymptomatik aufwiesen (Field et al. 2003). Aus philosophischer Sicht steht die Trauer um einen verstorbenen Menschen unweigerlich mit der Beziehung zur verstorbenen Person in Verbin- dung (Cooper 2013). Die Beziehung zu einer ge- liebten Person beinhaltet die gesamte Varianz des Gefühlserlebens. Es können in einer Beziehung zu einem Menschen sowohl freudige Gefühle in positiven Momenten des Lebens, als auch Gefüh- le von Trauer und Schmerz in schwierigen Zeiten erlebt werden. Das Einlassen auf eine Beziehung zu einem Menschen kann bei dessen Tod starke Gefühle von Trauer und Trennungsschmerz her- vorrufen. Das heißt, dass man normale Trauer als einen wesentlichen Bestandteil eines erfüllten zwi- schenmenschlichen Lebens sehen kann (Cooper 2013). Ein glückliches Leben, welches in Beziehung zu anderen Menschen steht, sieht Trauerreaktionen nach dem Verlust einer nahe stehenden Person als einen normalen nicht pathologischen Prozess an.

aus: Birgit Wagner: Komplizierte Trauer (2013), Springer Heidelberg

Edit: Grundsätzlich ist es jedoch völlig ok Trauerprozesse individuell und anders zu erleben, bzw. einen anderen Umgang damit zu haben. Ob etwas "krankhaft" also pathologisch ist, entscheidet letztlich v.a. der Leidensdruck der trauernden Person. Dieser wiederum ist schwer normierbar. 😵‍💫

 

[whats4]

die technik ist die eine sache.
potential sicher, leider für alles mögliche.
und da beschiss&manipulation zu den humanen lieblingsbeschäftigungen zählt, liegt die vermutung nahe, daß dies und ähnliches, wie immer man es nennt, ein hauptanwendungsgebiet sein könnte.

aber mal was anders: wie ist das mit dem copyright?
aquiriert der konzern, von dem die technik stammt, dann das copyright auf die erstellte stimme?
leider stark zu vermuten.
und wird dann handel betrieben, mit den stimmen verstorbener? wahrscheinlich ja. wo es rechte gibt, die jemand besitzt, wird auch damit handel betrieben. und steuern kassiert.
halt reichlich pervers in dem fall.

wir schaffen im rekordtempo technologien, die gesellschaftlich ohne historisch gewachsene lösungsmöglichkeiten sind, und sehr wahrscheinlich, ist das eine toxische suppe, die künftige generationen bis zum letzten tropfen auszulöffeln haben.

 

[Der Kabelbinder]

Oder eine Schutzbehauptung von deiner Seite, da du damit schon wieder implizierst, du hättest es so nicht sagen wollen.

Diese Implikationsspiralen führen zu nichts. Erst recht nicht zu dem, was gemeint war.

Um es ganz unmissverständlich auf den Punkt zu bringen:

Die Technik schreitet dem Menschen voraus und bestimmt ihn. Das reine Potenzial der Machbarkeit und der kommerziellen Verwirklichung solcher Projekte scheint den Konzernen offenbar reizvoller zu sein, als sich den Fragen der ethischen und sozialen Dimensionen zu stellen. Jedenfalls findet dieser breite Diskurs in der Regel erst dann statt, wenn das Produkt vorgestellt wird. In so fern schreitet das Produkt immer der Aufklärung voraus, was wohl auch eine Begleiterscheinung unsere Konsumgesellschaft ist. Die Prioritäten liegen in dem Kontext nicht darauf, ob man es braucht, sondern, was es kann.

Das ist in meinen Augen das eigentliche Problem. Eine KI, die Stimmen imitieren kann, ist ja nun auch nichts neues. Die Frage ist eher, in welchem Kontext wir diese Technologien anwenden und welche Risiken und Nutzen wir daraus generieren.

Ich glaube nicht, dass es klug ist, solch technische Apparaturen mit sehr persönlichen und einschneidenden Konflikten wie dem Tod eines Familienmitglieds zu "beleben". Schon gar nicht, wenn es humanoid verzerrt ist. Das ist alles einfach kein Ersatz für eine langwierige, persönliche Aufarbeitung und Trauerbewältigung. Vielleicht mag es dem einen oder anderen Trost spenden. Genau so, wie wir uns noch Fotos, Sprachnachrichten oder Videos anschauen/anhören können, die eigentlich gleichermaßen technische Medien und Reproduktionen sind, die eine Person gewissermaßen noch einmal zum Leben erwecken können. Bei einer Simulation geht es mir persönlich allerdings schon zu weit, denn sie spiegelt nicht die originale Persönlichkeit, sondern immer nur ein simuliertes, willkürliches Abbild davon, welches ein Algorithmus musterbasiert zu verstehen glaubt.

 

[tomgit]

Meine Güte! Wie viele Elvis Nachahmer gibt es weltweit? Muss Max Giermann als Schwerverbrecher eingestuft werden, wenn er mal wieder als Karl Dahl, Stefan Raab oder einer der zig anderen Stimmen die er perfekt nachahmen kann spricht? Ist Matze Knop ein Serientäter und sollte lebenslänglich bekommen?

Während Straftat per se natürlich übertrieben ist, ist es als Sicherheitsrisiko zu bezeichnen absolut nicht übertrieben.
Der Unterschied zwischen Deepfakes und Imitatoren liegt schlicht am notwendigen Skillset. Der benötigte Skill oder Talent, mal ganz davon abgesehen, dass da sicherlich auch irgendwelche natürliche Mutatoren mit einwirken, um eine Stimme nachzuahmen ist relativ hoch und kann nicht von jeder Person bewerkstelligt werden. Einen Deepfake anzufertigen ist da ungleich einfacher, besonders wenn man auf bereits vorgefertigte Programme oder Skripte zurückgreifen kann.

Wer glaubt Alexa wird plötzlich anhand eines Sprachmusters zu 100% genau so sprechen wie die Person die sie nachahmt, macht sich lächerlich.

Schonmal AWS Polly verwendet? Darin kann man sich neuronale Stimmen erstellen lassen. Mit an XML-angelehnten Tags lassen sich auch Stimmfarben und Betonungen einfügen. Das benötigt aktuell noch ein gewisses Können, aber es ist sicherlich nicht total abwegig, dies von Persönlichkeiten zu analysieren und synthetisieren. Und mit diesen Tags funktioniert es schon verdammt gut; selbst Fremdwörter lassen sich so recht natürlich klingend integrieren.
Immerhin funktioniert das schon einigermaßen für Musik und Schriftstücke. Das sind auch nur typische Muster, die von NNs analysiert und reproduziert werden - sicherlich einfacher als Sprachmuster, aber auch das ist kein Ding der Unmöglichkeit.

Man muss natürlich nicht gleich durchdrehen, aber Deepfakes entwickeln sich unfassbar rasant und können ein massives Problem für die Gesellschaft darstellen, weil die Zugänglichkeit zu gering ist. Man braucht im Grunde nur einen PC.
Und selbst das ist teilweise optional.

 

[[wege]mini]

Die Technik schreitet dem Menschen voraus und bestimmt ihn.

Denkbar.

und der kommerziellen Verwirklichung solcher Projekte scheint den Konzernen offenbar reizvoller zu sein, als sich den Fragen der ethischen und sozialen Dimensionen zu stellen.

Ganz sicher.

In so fern schreitet das Produkt immer der Aufklärung voraus, was wohl auch eine Begleiterscheinung unsere Konsumgesellschaft ist.

Ganz sicher nicht.

Dafür muss man aber schon einmal vor der Entscheidung gestanden haben, etwas wirklich neues zu machen oder nicht zu machen.

Wie ich schon mehrfach sagte, gibt es noch so unfassbar viele Dinge, die gebaut werden könnten aber nicht gebaut werden, weil die Gesellschaft dafür (manchmal zum Glück) noch nicht bereit ist.

Dafür muss man aber die Seite der Konsumenten einmal verlassen haben, um das zu erkennen.

Die meisten, sind Käufer, keine Macher. Sie sind Konsumenten, keine Gestalter.

Ob die Menschheit verdient, die nächste Stufe der Entwicklung zu erreichen, entscheidet sie selber. Nicht die Konzerne.

Niemand kann Mitglieder der Menschheit zwingen alles zu bauen, was sie bauen könnten und sehr häufig, müssen Gottes Affen vor sich selbst geschützt werden.

So schauts aus.

mfg

p.s.

Ach ja, um den Kreis rund zu machen.

Im Zweifel ist ein kontrollierter Untergang der Menschheit besser, als ein Untergang des Planeten. Um an diesen Punkt der Wahrheit zu kommen, muss man aber wirklich bei den "Machern" dabei sein.

Ich persönlich sehe z.B. aktuell keinen Grund, sie zu erhalten und die meisten "KI´s" haben das bisher genauso gesehen und ich habe noch keine Lösung des Problems gefunden, die Parameter für die "KI" so zu verändern, dass sie anders entscheidet.

 

[whats4]

parameter werden nix ändern.
weil man nedmal definieren kann, was bewusstsein ist. ned mal ungefähr.
wir sind uns nur eigig, daß wir eins haben.

und ich glaube nicht, daß eine definition chancen auf erfolg hat, und schon garned mit einem kosmologischem weltbild, das die abwesenheit von allem, was unser bewusstsein ausmacht auf allen ebenen der materie festschreibt. denn wenn man dies für die materie an sich postuliert, klar knallt man an eine wand. die "woher kommt es wand".
academia hat das grundsätzliche problem bis dato ignoriert, die welt der quantentheorie hatte aiuch lang damit zu kämpfen, den messenden beobachter ins spiel gebracht zu haben.
jedenfalls ist das bewusstsein ein academisches problem, darm hat es ja den beinamen "the hard problem".

aber mit parametern und vergleich mit einer hierarchischen programmierung wird kein weiterkommen in der erkenntnis ned sein, soviel ist recht sicher. zumindest ich bin der meinung.
und nein, ich bin kein kreationist, das ist mit platt zu blöd.

aber vielleicht ist das ziel ja ned bewustsein, sondern eine simulation, die *just good enough" ist.
um sie zu verkaufen, denn alles (heutzutage, vielleich schon immer) läuft sich darauf hinaus.

das großartige an menschlicher bewusster kommunikation ist, mit undefinierten begriffen zu hantieren, und throtzdem gibts die wahrscheinlichkeit verstanden zu werden.

betrifft alle "abstrakten begriffe" (liebe, hass, freundschaft, feindschaft, neid, aber auch empathie, mitgefühl... wahrscheinlich eine liste, die gegen unendlich tendiert), aber eben auch den könig/königin der unklarheit: das bewusstsein.
von dem nur eines sicher ist: "wir" sind der meinung, wir haben eins. und sprechen es gleichzeitig allen anderm lebendigem ab.

 

[xexex]

Während Straftat per se natürlich übertrieben ist, ist es als Sicherheitsrisiko zu bezeichnen absolut nicht übertrieben.

In fast allem was wir heutzutage machen gibt es ein Sicherheitsrisiko und das Internet ist gleich eine Sicherheitshölle. Allen Unkenrufen zum Trotz, ist die Welt deshalb noch nicht untergegangen. Wo kriminelle Energie vorhanden ist, wird man sie auch nutzen und immer neue Mittel finden um Menschen zu belügen, zu betrügen und abzuzocken.

Der Punkt an der Sache ist, dass auch der Mensch mit der Entwicklung nicht stehen bleibt. Ja! Es wird vielleicht in der Zukunft Anrufe mit der Stimme von Verwandten geben die um Geld bitten. Worin unterscheiden sich aber solche Anrufe von diesen, die auch heutzutage von vermeintlichen Microsoft Mitarbeitern erfolgen, oder irgendwelchen Umfragen die am Ende die Menschen nur abzocken wollen?

Wer heute auf einen Anruf "Ich wurde gekidnappt, überweise eine Million auf Konto xyz" reinfällt und ohne zu zögern das Geld überweist, der tut mir weder heute noch morgen Leid, egal wie echt ein solcher Anruf oder Mail ausgesehen haben mag. Die Technik ist nicht das Problem, sondern wie man sie letztlich verwendet und abgezockt wurden die Menschen schon, als es noch gar keine Telefone gab.

 

[joel]

Ja, echt makaber.

 

[cloudman]

Die Technik schreitet dem Menschen voraus und bestimmt ihn. Das reine Potenzial der Machbarkeit und der kommerziellen Verwirklichung solcher Projekte scheint den Konzernen offenbar reizvoller zu sein, als sich den Fragen der ethischen und sozialen Dimensionen zu stellen.

Naja https://www.theverge.com/2022/6/21/23177016/microsoft-retires-emotion-recognition-azure-ai-tool-api

Sie schränken auch den Zugriff auf Custom Neural Voice ein - im Grunde das gleiche Feature um das es hier geht

 

[tomgit]

In fast allem was wir heutzutage machen gibt es ein Sicherheitsrisiko und das Internet ist gleich eine Sicherheitshölle.

Es ist aber ein signifikanter Unterschied, ob es sich hierbei um Identitätsdiebstahl und Datenverlust handelt - was ja per se schlimm genug ist - oder um Fake News mit "Bildbeweisen", welche mehr Menschen überzeugen könnten und potenziell zu Straftaten anstiften.

Oder zum Diebstahl von sensiblen Informationen genutzt werden könnten. Ich meine ja nur: https://www.golem.de/news/franziska...cht-berlins-buergermeisterin-2206-166417.html

 

[IdefixWindhund]

Im Umkehrschluss, kann Alexa mich auch in der Stimme meiner Ex anpflaumen!? 🤔
"Schon wieder nich die Aufgabenliste abgearbeitet!"
"Oooh der Film ist in Angebot!!!"
"Ein neues PC Spiel? Hast doch genug davon!"

Um mal meine verstorbene Oma zu zitieren: "Früher war alles besser!" 😁

Muss ich Ihr heute recht geben. Früher hatten Computer noch Angst vor einem. So ein Hammer neben dem Desktop gelegt, und der PC lief wie ein Server. Heute zahlst du Serverpreise für ein High End Gaming Setup, und der PC tanzt dir frech auf der Nase herum.

Aber genug OT.

 

[G!N]

Ultra creepy