News Neues OpenAI-Modell: „Voice Engine“ kann mit 15-sekündiger Sprachaufnahme die Stimme klonen

[ricardovonzimme]

Als Indie Entwickler fühle mich von einer riesigen Last/Planung/etc befreit geil. Ansonsten natürlich sehr gruselig

 

[aid0nex]

Aber wenn ich mir Kommentare wie die von @aid0nex ansehe, dann ist das einfach nur "mi mi mi, alles ist ganz schlecht und furchtbar und jede Firma will nur ausbeuten"

Nein das ist nicht meine (vollständige, differenzierte) Sichtweise. Aber wenn man so das Verständnis eines Kommentars derart respektlos und unwürdig zusammen fasst, hat man ohnehin auf menschlicher Ebene ganz andere Probleme, sodass eine Diskussion vollkommen unnötig ist.

 

[KarlsruheArgus]

@aid0nex
Ich bin #57 und #61 durchgegangen und respektlos oder unwürdig wurde von dir nix zusammengefasst.
Mehr als Stammtischgeblubber konnte man nämlich nicht zusammenfassen da es keine Argumentation gab.

Untermauere doch deine Behauptungen beim nächsten mal mit einer Begründung und einem Beispiel.
Betrachte das ganze dann gerne noch differenzierter.

 

[Krik]

Hörst du noch das Piepen von Maulwurf- und Marderanlagen ?

So was gibt es? Und die piepen auch noch? 👀
Ehrlich, davon hab ich noch nie gehört. Auch im übertragenen Sinn.

War aber auch kein Vorwurf an dich.

Hab ich auch nicht so verstanden.

Auch wenn die Medien einem gerne verzählen wollen das demnächst die echte KI entwickelt wird.

Schon in meinem Studium war mir klar, dass es eine starke KI in absehbarer Zeit nicht geben wird. Das liegt zum einen an grundsätzlichen Verständnisproblemen (Was ist Intelligenz?), Angeberei oder Unwissenheit (ein simpler Algorithmus wird als intelligent bezeichnet), aber auch an der Komplexitätsmauer (Verarbeitung der Informationensmengen und -Arten, Lösungssuchen), an der man kratzt.
Damals wie heute kann man sagen: Eine KI kann Lösungen aufzeigen, aber sie versteht die Lösung und den Lösungsweg nicht.

Bei OpenAIs LLMs bin ich enttäuscht darüber, dass auch hier das System nicht weiß, was es da brabbelt. Es wird "nur" mit statistischen Vorkommen von Informationshäppchen gerechnet, es gibt mWn auch ein paar neuronale Netze (bei den multimodalen Modellen), die mitwirken. Aber das was rauskommt, ist nur oberflächlich betrachtet, super. Sobald es mal etwas komplizierter und differenzierter wird, merkt man sofort die Grenzen des Systems.
Krass finde ich auch, dass OpenAI es geschafft hat, neben der closed⁽¹⁾ und open⁽²⁾ world assumption noch eine dritte einzuführen, die ich made-up⁽³⁾ world assumption nenne.

1) Was im System nicht modelliert ist, existiert nicht und ist daher immer falsch bzw. kann nicht existieren.
2) Was im System nicht modelliert ist, kann existieren, aber eine vollständige Aussage darüber ist nicht möglich.
3) Egal, was das System modelliert oder nicht modelliert, es können immer unwahre Fakten dazu ausgegeben werden.

 

[Muntermacher]

Schon ein heftiges Missbrauchspotential vorhanden. Brauchst Kontrollfragen um sicher zu sein ob die echte Person am Telefon ist. Enkeltrick in neuen Dimensionen.

Danke Dir auch einen schönen Tag.

Ich seh schon 2FA für Telefonate kommen.....
Im Zweifelsfall wird über Threema telefoniert. Keine grünen Punkte? Pech gehabt.
Alternativ: Die Großeltern sollen trainiert werden in solchem Fällen die Enkel aus dem Adreßbuch zurückzurufen.

Es muss Wege und Mittel geben um mit so einer Technik zu leben.

sag das mal den Grünen, Stichwort AKWs. Wobei, da wird vielleicht auch noch der Habeck gemacht, der wechselt ja auch von zum kotzender findender Vaterlandsliebe zum Standortpatriotismus (und falls einer widersprechen mag, es genauso das Gleiche wie Kopf oder Zahl bei derselben Münze).

Ergänzung (1. April 2024)

Ich bin #57 und #61 durchgegangen und respektlos oder unwürdig wurde von dir nix zusammengefasst.
Mehr als Stammti

War neugierig, fand Deine Kommentare leider nicht. Das Problem ist heutzutage öfter, daß kontroverse Meinungen als respektlos oder Geschwurbel abgetan werden. Auch hier schon selbst erlebt, als der sogenannte Moderator trotz gelieferten Belegen der Meinung war, nur sein "Interpretation" der Umfrage sei wahr, alles andere sei VT-Geschwurbel (die Bedeutung,von VT konnte,er nicht einmal liefern).

 

[Mcr-King]

Damals wie heute kann man sagen: Eine KI kann Lösungen aufzeigen, aber sie versteht die Lösung und den Lösungsweg nicht.

Naja stimmt nicht ganz erstmal alles entwickelt sich auch ein Algorithmus kann dass und wenn er erstmal sich selbst schreibt oder verändert.

Wir sind an dem Punkt wo wir es noch beherrschen können aber es ist wie mit dem Klima eigentlich ist der Zug schon abgefahren und lässt sich nicht mehr einholen

 

[Fakechaser]

Willkommen in einem deutschen Technikforum:
Schwarzmalerei par excellence.

Wer sich traut mehrere positive Aspekte von KI und hier speziell von Audio-KI aufzuzählen, trete vor.
Aber Vorsicht: Es lauern als Männer verkleidete Frauen, die einen steinigen könnten.

 

[Hakubaku]

Wichtige Dinge nur noch in Person klären. Im Zweifel auch nach verdächtigen Gesprächen nochmal selber anrufen oder am besten über einen zweiten Kommunikationskanal kommunizieren.

 

[Krik]

@Mcr-King
Es gibt Algorithmen, die sich selber schreiben können. Dazu gehören zB die evolutionären Algorithmen und sie sind - mit Verlaub - dumm wie drei Meter Feldweg. Das ist einfach stupides Durchprobieren ohne Hirn und Verstand.
Und diese Algorithmen sind nicht neu, die gibt es sicher seit 70 Jahren. Den großen Durchbruch haben sie jedoch auch nicht gebracht.

Auch wenn es pessimistisch klingt: Ich glaube, den größten Schub in der KI-Forschung hat das Perzeptron von vor 60 Jahren gebracht. Seitdem forscht man in vielen Gebieten, ohne jedoch einer starken KI näher gekommen zu sein.

 

[Trelor]

@Mcr-King
Es gibt Algorithmen, die sich selber schreiben können. Dazu gehören zB die evolutionären Algorithmen und sie sind - mit Verlaub - dumm wie drei Meter Feldweg. Das ist einfach stupides Durchprobieren ohne Hirn und Verstand.

Der Punkt hinter dem Konzept ist, dass es in der Biologie auch funktioniert hat. Aktuelle Ansätze gehen ja Bewusst in die Neuromorphie (Spiking Netzwerke) und bilden die Funktion im Gehirn 1 zu 1 nach. An sich sollte man damit zu den selben Ergebnissen kommen können, wie ein biologisches neurales Netz. Zumindest sofern die Evolution Parameter ähnlich sind. Das braucht halt Zeit und Rechenleistung. In der Praxis ist dann tatsächlich die Latenz zwischen den Neuronen der limitierende Faktor bei neuromorphen Netzen.

Da hat sich sowohl in der Neurobiologie, als auch in der Elektrotechnik (Crossbar Memristoren, In memory computing, Silicon Photonics) viel getan. In der Mathematik (die Informatik ist ja je nach Fokus eine Spezialform der Mathematik oder Elektrotechnik) dahinter halt nicht unbedingt, allerdings war das auch nicht unbedingt zu erwarten.

"Was ist Intelligenz?"
Ist in dem Zusammenhang eine sehr wichtige Frage. Der Mensch kann die eigene Entscheidungsfindung meist auch nur grob erklären und aktiv nachvollziehen, allerdings sind die Sprünge für andere gleichartige Netzwerke vollkommen natürlich und werden daher nicht mal wahrgenommen.

Das ist durchaus ein sehr interessantes Forschungsfeld.

Neural Implantate die über ein künstliches Neuromorphes Netz ankoppeln sind z.B. auch ein Beispiel dafür, dass der Brute Force Ansatz beim ML durchaus erfolge erzielen kann.

 

[Mcr-King]

Okay dass mag stimmen ich bin aber der Meinung irgendjemand in naher Zukunft wird es einfach passieren ohne dass es jemand wirklich wollte dass nennt man Evolution und die ist nicht auf zuhalten.

 

[Krik]

Der Punkt hinter dem Konzept ist, dass es in der Biologie auch funktioniert hat.

Evolution ist nicht unbedingt intelligent. Die ist auch nur stupides Durchprobieren, bis irgendwann zufällig was besseres gefunden wird - das sich noch nicht mal unbedingt auf Nachkommen überträgt. Von der Effizienz her ist Evolution so ziemlich das schlechteste Optimierungsverfahren, das es gibt.

Aktuelle Ansätze gehen ja Bewusst in die Neuromorphie (Spiking Netzwerke) und bilden die Funktion im Gehirn 1 zu 1 nach. An sich sollte man damit zu den selben Ergebnissen kommen können, wie ein biologisches neurales Netz.

Neuromorphie kümmert sich aber weniger um KI und mehr um eine vereinfachte Nachbildung realer neurologischer Netze. Der Fokus liegt hier eindeutig darauf, NNs in ihren verschiedenen Ausführungen und Varianten in Hardware zu kippen, statt sie weiterzuentwickeln. Spiking networks sind auch schon wieder 40-50 Jahre alt. 🤷‍♂️
Dazu kommt noch, dass man komplexere neuronale Netze, die in der Natur vorkommen, immer noch nicht komplett erfasst hat. Fast jährlich entdeckt man neue Strukturen in unserem Gehirn und kann nur spekulieren, wofür sie gut sind.

In der Mathematik (die Informatik ist ja je nach Fokus eine Spezialform der Mathematik oder Elektrotechnik) dahinter halt nicht unbedingt, allerdings war das auch nicht unbedingt zu erwarten.

Das ist auch so ein Knackpunkt. Man kann sagen, dass Computer angewandte Mathematik sind. Will man Intelligenz durch Computer realisieren, dann muss zwangsweise Intelligenz auch durch Mathematik realisiert werden.

"Was ist Intelligenz?"
Ist in dem Zusammenhang eine sehr wichtige Frage. Der Mensch kann die eigene Entscheidungsfindung meist auch nur grob erklären und aktiv nachvollziehen, allerdings sind die Sprünge für andere gleichartige Netzwerke vollkommen natürlich und werden daher nicht mal wahrgenommen.

Ich finde, das ist die wichtigste Frage des Themengebiets.
Wie soll man eine KI messen bzw. sie einordnen, wenn man nicht weiß, nach welchen Kriterien das erfolgen soll/muss. Was macht eine Intelligenz intelligent? Sind es bestimmte Fähigkeiten? Wenn ja, wie hoch müssen die Fähigkeiten entwickelt sein? Ist es einfach nur eine Sache der Komplexität (im Sinne von je komplexer die Soft- und/oder Hardware, desto intelligenter)? Wie vielfältig einsetzbar muss eine KI sein; reicht eine Spezialisierung auf eines oder einzelne Gebiete aus oder muss sie ein Generalist sein, also bei jeder denkbaren Aufgabenstellung ein (halbwegs) "intelligentes" Ergebnis abliefern?

Wie soll man eine KI entwickeln, wenn man nicht weiß, wo man am Ende rauskommt?

Neural Implantate die über ein künstliches Neuromorphes Netz ankoppeln sind z.B. auch ein Beispiel dafür, dass der Brute Force Ansatz beim ML durchaus erfolge erzielen kann.

Aber ist das intelligent?

 

[Apocalypse]

Die ganzen Enkeltrickbetrüger reiben sich bestimmt schon die Hände, Leakern glaubt keiner mehr und als Beweis vor Gericht sind Aufnahmen auch nichts mehr wert.

Alles schon lange in Nutzung, Scammer verwenden jetzt schon seit mindestens 2023 AI-Stimmen die eben Verwandten des Opfers imitieren, die man vorher angerufen hat um Samples zu bekommen, Bild und Ton Aufnahmen sollten schon lange nichts vor Gericht wert sein, außer die Quelle ist eindeutig und manipulation fast ausgeschlossen und Leakern ... Ok. Leaks wird nicht oder doch geglaubt, ganz unabhängig davon wie gut oder schlecht die Quelle jetzt war. ;-)

Ergänzung (1. April 2024)

Der Punkt hinter dem Konzept ist, dass es in der Biologie auch funktioniert hat. Aktuelle Ansätze gehen ja Bewusst in die Neuromorphie (Spiking Netzwerke) und bilden die Funktion im Gehirn 1 zu 1 nach.

Da wir die Funktionen im Hirn aber nicht 1 zu 1 verstehen, und wir nicht mal 100% sicher sind das keine Quanten-Effekte zum tragen kommen.

Schwierig.

 

[[wege]mini]

15 sec am Stück? Sehr wahrscheinlich.
15 sec meiner Wahl? Nicht in den nächsten 20 Jahren.
15 sec deiner Wahl? Du hast keine Ahnung, mit wem du redest.

Es ist so, wie es ist.

Die "KI" wird besser und besser und immer besser. Wir haben das genau so gewollt und bauen sie auch daher so. Sie zu verstehen und damit umgehen zu können, ist natürlich dann vom Individuum zum Individuum unterschiedlich. Ganz sicher, sitzt aber sowohl das Problem, als als die Lösung, vor dem Bildschirm.

Ich hoffe einfach nur, dass zu meinen Lebzeiten niemals der Tag kommen wird, an dem ich einer "KI" erklären muss, dass es echt keine gute Idee ist, mich heraus zu fordern.

Die Menschen sind schon anstrengend genug.

mfg

 

[Genoo]

d.h. in Zukunft wirds noch mehr neue Songs von Artists geben, die nicht mehr leben

YouTube

An dieser Stelle steht ein externer Inhalt von YouTube, der den Forumbeitrag ergänzt. Er kann mit einem Klick geladen und auch wieder ausgeblendet werden.

YouTube-Embeds laden

Ich bin damit einverstanden, dass YouTube-Embeds geladen werden. Dabei können personen­bezogene Daten an YouTube übermittelt werden. Mehr dazu in der Datenschutzerklärung.

YouTube-Embeds laden

Datenschutzerklärung

 

[ChrisMK72]

Wir haben das genau so gewollt

Bei sowas fällt mir immer die Textzeile "I swear we never asked for any of this" ein, von New Model Army 225.

Spoiler

Songtext-Text "225" von "New Model Army"

She stares at the screen, at the little words of green
Tries to do remember what to do next
There's a trace of frustration that crosses her face
Searching for the key she should press
And I would help her if I only know how
But these things are a mystery to me too
And it seems that the Corporate eyes they are watching
She fears for her job and the moments are passing
I stare at her nametag and I think to myself
Both you and I, we never asked for any of this

So let's take a walk up past the chemical works
Where the sky turns green at night
And we'll talk about getting away from here
Some different kind of life
But even in the freshest mountain air
The jet fighters practise overhead
And they're drilling these hills for uranium deposits
And they'll bury the waste for our children to inherit
And though this is all done for our own benefit,
I swear we never asked for any of this

This golden age of communication
Means everyone talks at the same time
And liberty just means the freedom to exploit
Any weakness that you can find
Turn off the TV just for a while
Let us whisper to each other instead
And we'll hope that the Corporate ears do not listen
Lest we find ourselves committing some kind of treason
And filed in the tapes without rhyme, without reason
While they tell us that it's all for our own protection,
I swear we never asked for any of this

Da geht's um Dinge, wo uns gesagt wurde, dass die nur zu unserem Besten sind, die aber keiner haben wollte. Is aber von 1989, von daher wurde KI da noch nicht genannt. Aber das "golden age of communication" is auch schon Thema.

Ergänzung (1. April 2024)

wirds noch mehr neue Songs von Artists geben, die nicht mehr leben

Tja ... ein zweischneidiges Schwert, wie ich finde.

 

[[wege]mini]

dass die nur zu unserem Besten sind, die aber keiner haben wollte.

Wenn ich sage wir, meine ich die Mehrheit der Menschen.

Wenn du sagst, niemand wollte es haben, dann bildest du dir ein, für alle Menschen zu sprechen.

Du bist einer von den Menschen, die sich erlauben dürfen, für die Allgemeinheit zu sprechen und natürlich, wirst auch du bewacht. Du glaubst, das wäre negativ.

Ich sage dir, es ist positiv.

Die Tatsache, dass jemand über dich wacht, bleibt bestehen.

mfg

 

[ChrisMK72]

Wenn du sagst, niemand wollte es haben, dann bildest du dir ein, für alle Menschen zu sprechen

Ich bezog mich auf den Songtext(im Spoiler). Weiß nicht wer das unbedingt haben will, Atommüll für unsere Kinder zu verbuddeln, damit die den wieder finden. Oder, dass uns bestimmte Konzerne abhören, oder ... usw.

Edit: Mag natürlich sein, dass es Menschen gibt, die das geil finden.

 

[Kuristina]

Wenn du sagst, niemand wollte es haben, dann bildest du dir ein, für alle Menschen zu sprechen.

Und du machst das nicht, wenn du sagst, "wir" wollten es haben? ^^

 

[Trelor]

Da wir die Funktionen im Hirn aber nicht 1 zu 1 verstehen, und wir nicht mal 100% sicher sind das keine Quanten-Effekte zum tragen kommen.

Man weiß mittlerweile durchaus relativ gut über die einzelnen Quanteneffekte bescheid, welche im Neuron stattfinden. Das waren die Durchbrüche in der Neurobiologie der letzten 20 Jahre. Deswegen setzt man in neuoromorphen Systemen ebenfalls auf Bauteile welche auf Quanteneffekten beruhen.

@Krik
"Neuromorphie kümmert sich aber weniger um KI und mehr um eine vereinfachte Nachbildung realer neurologischer Netze."

Es ist ein Fehler beides getrennt zu betrachten. Die temporale und analoge Komponente biologischer neuronaler Netze sind zusätzliche Freiheitsgrade, welche bei konventionellen ML Algorithmen vernachlässigt werden. Je näher diese Freiheitsgrade an die biologischer NN rankommen desto eher wird man auf ähnliche Ergebnisse kommen.

"Fast jährlich entdeckt man neue Strukturen in unserem Gehirn und kann nur spekulieren, wofür sie gut sind."
Der Punkt dahinter die Evolution nachzuahmen ist ja eben das Netz als solches nicht verstehen zu müssen.
Weite Teile des Netzes sind ja auch eben unnütz und ein Abfallprodukt des Zufallsprozesses. Das ganze ist halt brute force, bis etwas gut genug ist.

"Was macht eine Intelligenz intelligent?"
Ist sicherlich die Kernfrage. Daran angeknüpft ist wiederum die Frage zu was biologische NNs in der Lage sind. Der Großteil ist Rekombination von bereits vorhandenen Wissen und Aneignung von Wissen (z.B. durch Beobachtung). Ob Menschen zu wirklich 100% eigenen Ideen und Gedanken Fähig sind ist immer noch Streitthema Nummer eins.