News Apple Intelligence: Persönlicher Assistent schickt Siri auf Wunsch zu ChatGPT

[mike2105]

OK, worum geht es denn?

• um das Erstellen von anderen Emojis, um cooler zu sein?
• um das Verfassen von ansprechenden Nachrichten weil man zu dumm ist?
• um die Bedienung des Handys weil man dazu auch nicht in der Lage ist?
• um das Erstellen von Stichpunkten aus einem Gespräch, weil man sich nichts merken kann?
• Bilder bearbeiten zu lassen, damit man besser aussieht?

 

[Azeron]

Mir reicht es schon wenn Siri mich besser versteht was ich von ihr will und ich natürlicher mit ihr Reden kann und weniger mit Syntax, der Rest ist Bonus 😂

 

[bandchef]

Genau das. Habt ihr gestern in der Keynote bei der Anfrage an Siri auch bemerkt, wie lange (auch wenn es maximal 1,5- 2 s. waren) Siri gebraucht hat, bis sie geantwortet hat? Da hätte die Alexa schon lange das Lied gespielt, den Eintrag erstellt oder die Rollos hochgefahren.

Siri ist und bleibt unbenutzbar, auch weiterhin mit Apple Intelligence.

 

[Weyoun]

Habe ich das richtig verstanden? Der persönliche Assistent (Siri) schickt die Anfragen zu einer KI eines konkurrierenden Unternehmens?

 

[Jan]

Nach expliziter Freigabe, ja.

 

[eigsi124]

Haha ich finds ja lustig wie die Apple Hater hier (und auch Elon auf X 😂) Apple Intelligence (absichtlich?) falsch verstehen.
Apple Intelligence ist ein komplett eigenes KI Modell, dass ein groß der Funktionen lokal am Gerät rechnet (wer macht das sonst noch?). (Deswegen läufts ja auch nur auf den neuesten Geräten!)
Der Rest wird auf Apple eigenen Servern, auf Basis des Apple KI Modells gerechnet, ohne Datenspeicherung!

Als Zusatzfunktion wird ChatGPT und in Zukunft vermutlich weitere externe Anbieter (Google Gemini usw.), einfach zusätzlich integriert und können nach expliziter Bestätigung durch den Benutzer genutzt werden.

Die Funktionen der Apple Intelligence bietet so und mit der Privacy, kein anderer Hersteller aktuell.

Privacy mäßig ist das ganze auch viel besser als bei MS, da alle Daten nur verschlüsselt auf dem eigenen Gerät liegen.

 

[TenDance]

Wer will spekulieren, wie viele TOPS der A18 bieten wird? Ich wette auf 50+

Das wird eh alles schöngerechnet da man wahlweise die CPU und GPU etc mit dazurechnen kann zum "NPU-Cluster". Aber ja, alles unter 50 TOPS für die reine NPU-Unit wäre hochnot peinlich für Apple da diese Leistung bereits von AMDs Ryzen AI in Strix Point abgeliefert wird - und damit in SoCs welche früher oder später auch in Laptops für unter 500$ über den Tisch wandern. Ja, höherer Stromverbrauch.
Aber:

Apples M4 kann "nur" 38 TOPS liefern. Zumindest die NPU.

Der Snapdragon 888 konnte damals schon (ineffizient, aber konnte er) 26 TOPS bereit stellen. Der Snapdragon 8 Gen3 kann 45 TOPS bereit stellen. QC verwendet allerdings nicht nur die NPU sondern auch CPU & GPU bei Bedarf.
Und hier kommt dann der springende Punkt: AI wurde die letzten zwei Jahre erst so stark in den Fokus gerückt. QC wird in Q4 ebenfalls einen neuen SoC rausbringen. Würde mich nicht wundern wenn die KI-Leistung dort stärker ansteigt. Insofern meine Aussage: damit Apple wieder den fortschrittlichsten und schnellsten SoC für sich vermarkten kann, muss die KI-Leistung bei ~50TOPS liegen. Mit boost durch CPU und GPU dann eben mehr. Anders lässt sich die "user experience" aber nicht darstellen da die lokalen KI-DIenste wenn sie nicht nur durch die NPU berechnet werden zu viel Strom verbrauchen.

Ergänzung (11. Juni 2024)

Korrekt, Apple sitzt auf einem geradezu unglaublichem Geldhaufen und war als einziger Big Player nicht in der Lage eine adäquate KI auf die Beine zu stellen.

Oder sich eine zu kaufen.

Microsoft hat sich ja auch früh und beständig überall eingekauft.

Korreliert vermutlich damit dass Apple als der einzige Big Player kein eigenes Cloud-Geschäft hat - und bislang keine eigene Cloud-Hardware herstellt.
Meta, Google, Amazon, Microsoft haben alle eigene oder zumindest stark angepasste Systeme.

 

[Saint81]

Ich habe da auch eher gemischte Gefühle.
Wirtschaftlich? Super. Sie verbessern ein bissl an Siri rum, halten sie aber vergleichsweise dumm und lassen AI einen externen Partner machen. Wenns gut läuft schreiben sie es sich auf die Fahne, wenns schief läuft wars der böse externe Anbieter.

Technisch? Bäh, das ist wie wenn jemand Webseiten-Inhalte klaut und bei sich als eigenen Content veröffentlicht. Das privacy Versprechen ist wie bei CoPilot zu GPT einfach nur das. Ein Versprechen. Die Übermittlung der Daten ist technisch notwendig und wird beim externen Anbieter landen. Da gibts doch gar keine Diskussion. Wenn man das nicht will, gibts die Antwort das die Frage nicht beantwortet werden kann.

 

[BalthasarBux]

Nach etwa 30 Sekunden: Sollte die die Leistung auf dem Gerät nicht ausreichen, wird auf ChatGPT nach Freigabe zugegriffen. Diese Server sollen keine persönlichen Daten speichern und können auch einem AUDIT unterzogen werden.

Nein, wird es nicht. Es wird erstmal auf das eigene PrivateCloudCompute gesetzt, da soll ein Audit für möglich sein, aber von einer Freigabe hab ich nichts gehört. Erst wenn ChatGPT eingebunden wird, kommt die Freigabe, aber da vermutlich keinen Audit.

Warum sollte man Apple mehr vertrauen als Microsoft und anderen Unternehmen?

Ziel eines Audits ist ja, nicht vertrauen zu müssen, sondern kontrollieren zu können.

 

[TenDance]

Haha ich finds ja lustig wie die Apple Hater hier (und auch Elon auf X 😂) Apple Intelligence (absichtlich?) falsch verstehen.
Apple Intelligence ist ein komplett eigenes KI Modell, dass ein groß der Funktionen lokal am Gerät rechnet (wer macht das sonst noch?). (Deswegen läufts ja auch nur auf den neuesten Geräten!)
Der Rest wird auf Apple eigenen Servern, auf Basis des Apple KI Modells gerechnet, ohne Datenspeicherung!

So funktioniert KI nicht. KI braucht Daten. DEINE Daten. Die werden indiziert und kommen in das Modell, anders lässt sich das personalisierte Verhalten gar nicht darstellen.

Doch auch für die Modelle, die in der Cloud laufen, wolle man sicherstellen, dass keine Daten dort gespeichert oder zu anderen Zwecken als den vom Nutzer initiierten Aufgaben missbraucht werden. Apple nennt das „Private Cloud Compute“.

Nein. Die Cloud ist nicht privat. Die Cloud ist ein Computer eines anderen Menschen an dem prinzipbedingt viele andere Menschen arbeiten und Zugriff darauf haben.
Snowden hätte die Daten nie sehen sollen welche auf von ihm gewarteten Systemen lagen.
Alexa und Siri solltennie Audio/Video abgreifen und für Menschen verfügbar machen, dennoch haben beide Firmen große Büros unterhalten in denen Mitarbeiter sich genau DAS angeschaut/gehört haben. Nur damit Alexa und Siri lernen können.

Sind die Daten nicht mehr bei Dir, sind sie nicht mehr privat.
Und streng genommen ist kein iPhone privat da Du nicht weißt was mit Deinen Daten passiert und Apple durch seine "Exklaven" auf dem mainboard auch aktiv verhindert dass man das nachsehen kann.
Bei Apple ist der Nutzer schon lange nicht mehr der superuser.

dass ein groß der Funktionen lokal am Gerät rechnet (wer macht das sonst noch?)

Google. Und damit Samsung. Wobei das Gros der Funktionen sehr euphemistisch ist seitens Apple. Wird eher das Minimum der Funktionen sein da die meisten genannten Funktionen ohne Internetzugriff gar nicht funktionieren.

Und damit schließt sich der Kreis. Denn Du hast Recht, der "Apple-hate" ist falsch. Denn es machen alle Firmen. Meta, Elon, Microsoft... alle indizieren was Du mit ihren Diensten machst und verwenden das. Auch gegen Dich.
Das ist das fucking Geschäftsmodell von social media.
KI skaliert das einfach nur auf Atombombenniveau weil es nicht beherrschbar ist. Kein Entwickler hat jemals "Eigenarten" seiner KI ausbessern können. KI ist eine black box.
Google beschäftigt Mitarbeiter welche manuell die "falschen" Antworten löschen, aber diese werden immer wieder generiert.
Microsoft hat seine rassistische KI einfach gelöscht weil sie nicht weiter wussten.

 

[BalthasarBux]

Wobei das Gros der Funktionen sehr euphemistisch ist seitens Apple. Wird eher das Minimum der Funktionen sein da die meisten genannten Funktionen ohne Internetzugriff gar nicht funktionieren.

Sicher? Oder ist das einfach nur eine wilde Behauptung?

 

[TenDance]

Wilder als das was Apple behauptet kann es nicht sein...

 

[eigsi124]

Die Cloud ist ein Computer eines anderen Menschen an dem prinzipbedingt viele andere Menschen arbeiten und Zugriff darauf haben.

Alleine der Teil zeigt mir, dass du viel Meinung aber wenig Ahnung hast.

 

[Nero1]

KI braucht Daten. DEINE Daten. Die werden indiziert und kommen in das Modell, anders lässt sich das personalisierte Verhalten gar nicht darstellen.

Es gibt aber ein Unterschied, ob sie geloggt und fürs Training benutzt werden oder nicht. Eine reine Verarbeitung ist völlig unbedenklich, ein ungefragtes Verbleiben im Netz durch Lernen nicht. Und diese Möglichkeit gibts schon lange, macht CoPilot Business und co, damit Unternehmen diese Modelle nutzen können ohne Daten zum Improvement zu übertragen. Das passiert an anderen Stellen.

 

[BalthasarBux]

Bei dem Budget NULL eigene AI zu haben ist

Wie viel hast du gelesen? NULL?
Sie haben eine eigene AI, aber ChatGPT ist halt besser und deswegen wird die bei Bedarf (nach Erlaubnis) dazugeschaltet.

 

[TenDance]

@Nero1

Das ist halt eine Frage des Vertrauens, oder hast Du nachverfolgt wo Deine Daten hinwandern?
Was das Vertrauen angeht, das ist halt wiederum so eine Sache bei den Big Four - die haben halt echt einen miesen track record was das anbelangt...

Theoretisch hast Du Recht, aber was willst Du darauf verwetten? Sind Deine Daten einmal im Internet, sind sie nicht privat. Weil Du keine Kontrolle mehr hast. Die cloud skaliert das einfach noch exponentiell.

 

[NJay]

Wo ist das Indexieren von Gesprächsverläufen besser als das Aufnehmen von Screenshots?

Ja, denn deine Chatverläufe sind aktuell schon indiziert, sonst hättest du keine schnelle Suche über Textnachrichten. Hier wird nur beim Prompt ein Kontext für die KI erstellt aus Daten, die sowieso schon auf deinem Gerät lokal vorliegen. D.h. es werden lokal nicht mehr Daten gesammelt als zuvor.

Bei Microsofts Idee einfach alle Zeit X Screenshots zu machen und Ewigkeiten zu speichern werden Daten gesammelt und indiziert, die vorher nicht gespeichert wurden. Also z.B. welche Pornoseiten du im Incognito-Mode besucht hast, welche medizinischen Probleme du recherchiert hast und welche Beleidigungen du eventuell mal in ein Chat-Fenster getippt hast, dann aber doch wieder gelöscht hast. Hier werden also Daten gespeichert, die normalerweise temporär sind und dann "gelöscht" werden.

 

[TenDance]

Alleine der Teil zeigt mir, dass du viel Meinung aber wenig Ahnung hast.

Großartig.

Du hast viel zu tun wenn Du JEDEN der sich beruflich mit dem Thema beschäftigt und Ahnung hat davon überzeugen möchtest dass es schon voll richtig ist was die marketing Abteilung der großen Firma (welche Dir den Rotz ja verkaufen will) so von sich gibt.

Nur als Beispiel:

Dass die eigenen Daten so ganz vor fremden Zugriffen geschützt sind, bezweifelt Alexander Noack. Er ist Softwareentwickler und Vorstand und Sprecher des Chaos Computer Clubs Bremen (CCC HB), der Bremer Verband der größten Hackervereinigung in Europa. Noack sagt, verschiedene Gruppen könnten über Clouds Zugriff auf private Daten haben. An erster Stelle stehen für ihn hier die Anbieter selbst. Man müsse sich immer bewusst machen, dass man seine Daten in die Hände anderer gibt. „Es gibt keine Cloud, nur die Computer anderer Leute“, sagt Noack.

Quelle: https://www.weser-kurier.de/ratgebe...uetzen-sie-ihre-daten-doc7e4dx2okmif14xsrims6

Aber wenn Du auf dem 38C3 alle verblendeten im Raum endlich aufklären magst, melde Dich bitte. Ich werde Dich natürlich unterstützen so gut ich kann.

 

[onkel_axel]

Das wird eh alles schöngerechnet da man wahlweise die CPU und GPU etc mit dazurechnen kann zum "NPU-Cluster". Aber ja, alles unter 50 TOPS für die reine NPU-Unit wäre hochnot peinlich für Apple da diese Leistung bereits von AMDs Ryzen AI in Strix Point abgeliefert wird - und damit in SoCs welche früher oder später auch in Laptops für unter 500$ über den Tisch wandern. Ja, höherer Stromverbrauch.
Aber:

Apples M4 kann "nur" 38 TOPS liefern. Zumindest die NPU.

Ich würde da nicht zu viel vom A18 erwarten.
Die große Veränderung wird, dass es ihn einfach in verschiedenen Konfigurationen geben wird, wie auch die M4 mittlerweile.

Also bekommt das iPhone 16 den kleinen A18 und das iPhone 16Pro den großen ohne Teildeaktivierung.
Chipdesign ist ein langwieriger Prozess. Das was im Herbst rauskommt, ist 3 Jahre alt.
Außerdem ist es weiterhin der selbe 3nm Prozess von TSMC

 

[eigsi124]

Quelle: https://www.weser-kurier.de/ratgebe...uetzen-sie-ihre-daten-doc7e4dx2okmif14xsrims6

Aber wenn Du auf dem 38C3 alle verblendeten im Raum endlich aufklären magst, melde Dich bitte. Ich werde Dich natürlich unterstützen so gut ich kann.

Haha, dass bestätigt mich noch mehr

Cloud ist nicht gleich Cloud, du scheinst nicht zu verstehen, was Apple hier mit Private Cloud Computing macht, lies dich mal ein bisschen ein, vielleicht erhellt dich das ein bisschen..

https://security.apple.com/blog/private-cloud-compute/