News Sicherheitsleck bei OpenAI: Angreifer hatten Zugang zu internen Informationen

[Andy]

Bei OpenAI kam es im letzten Jahr zu einem Datenleck. Ein Angreifer hatte Zugang zu einem internen Forum, in dem sich Mitarbeiter des Unternehmens über aktuelle Technologien austauschen. OpenAI bewertete den Vorfall aber nicht als gravierend.

Zur News: Sicherheitsleck bei OpenAI: Angreifer hatten Zugang zu internen Informationen

 

[0x8100]

bei diesem ausgeprägten sicherheitsbewusstsein und transparenz gegenüber der allgemeinheit freut man sich doch, dass die services von openai direkt in die betriebssyteme eingebaut werden sollen.

 

[Cool Master]

@0x8100

Na ja ob Microsoft oder Apple so viel besser sind was Sicherheitsbewusstsein und Transparenz angeht? Die müssen zu allem gezwungen werden und würden ohne Regulierung deutlich weniger bis gar nichts machen.

Am Ende ist es doch seit Jahren keine Frage von "ob" sondern "wann".

 

[Abrexxes]

Das "gewaltige" Interesse an dieser News sagt auch schon etwas aus. Ich gehöhre zu dehnen die diesem Hype den Rücken drehen bzw. den Firmen die das für Ihre Zwecke ($) misbrauchen wollen.

 

[0x8100]

Microsoft oder Apple

die wären dann für die sicherheit ihres eigenen produkts verantwortlich (wie gut es darum bestellt ist, ist natürlich eine berechtigte frage). aber so werden die daten nochmal nach extern geschoben.

 

[Beg1]

AI ist super interessant, aber auf der einen Seite haben wir gewerblich nutzbare Modelle, welche gleichzeitig sehr hohe Standards erfüllen müssen oder Funktionen/Quellen streichen müssen.

Dann gibt es nur privat nutzbare Modelle, die quasi "alles" können, aber leider auch massenweise missbraucht werden.

Irgendwie sehe ich nicht so recht wie man einen Mittelweg aus diesen Möglichkeiten finden will und solche Meldungen stärken das Vertrauen in die Firmen dahinter nicht wirklich.

Ergänzung (7. Juli 2024)

Das "gewaltige" Interesse an dieser News sagt auch schon etwas aus.

Haha, schon richtig.

 

[Donnidonis]

die diesem Hype

Es ist halt nicht nur ein Hype, aber wenn man das nicht versteht, scheint man sich mit dem Thema auch nicht befasst zu haben. Dann würde ich dem ganzen auch den Rücken zudrehen.
Nur weil man es selbst nicht gebrauchen kann, ist es eben nicht schlecht oder ein Hype.

 

[Abrexxes]

Nur weil man es selbst nicht gebrauchen kann, ist es eben nicht schlecht oder ein Hype.

Das hab ich auch nicht gesagt. Wenn du KI in Photoshop nutzen willst, mach es. Wenn in Premiere, mach es. Office, mach es. Aber lass den Anderen bitte die Wahl das sie es nicht in Ihrem Betriebssystem haben wollen. Einfach, oder?

 

[FR3DI]

@Andy
Ich bin leicht verwirrt;

Wie folgt ist aus der News zu entnehmen;

Ein Angreifer hatte Zugang zu einem internen Forum

Der Titel jedoch verspricht eigentlich wie folgt;

Angreifer hatten Zugang zu internen Informationen

Gruß Fred.

 

[Donnidonis]

Aber lass den Anderen bitte die Wahl das sie es nicht in Ihrem Betriebssystem haben wollen. Einfach, oder?

Es gibt genug Betriebssysteme die du nutzen kannst, wo es nicht drin ist. Einfach, oder?
Wenn MS es integrieren will, ist es eben so. Gibt viele Sachen im OS die ich nicht will, Ms sagt sie sind drin, ist eben so. Nutz es halt nicht oder nutze ein anderes OS, wenn es dir dann nicht mehr passt.

Wie die Nutzer immer auf die Idee kommen sie hätten ein Recht darauf alles entscheiden zu können ist mir ein Rätsel.

 

[Abrexxes]

Wie die Nutzer immer auf die Idee kommen sie hätten ein Recht darauf alles entscheiden zu können ist mir ein Rätsel.

MS betreibt hier aber ein Quasi Monopol. Gut das die EU nicht so denkt. Leute mit deiner Einstellung machen mir Angst. Aber blinde Mittläufer gab es immer. Ich hoffe ich liege im Grab wenn sie gewinnen und ich wieder für ein Brot einen Lebensmittelschein brauche..natürlich ausgedruckt von einem MS Rechner über Cloud nachdem meine medizinischen Daten ausgewertet wurden. (Lohnt sich das noch). /s?

Achja, bin schon weg. LinuxMint. 🤘

 

[FR3DI]

ist mir ein Rätsel

Und mir solche, die alles schön Reden müssen. A.I. ist ein von den Firmen gemachter Hype. Dank so vielen die sich leicht beeinflussen lassen, auch soweit von Erfolg gekrönt, das selbst Bullshit wie z.B.: dieser, seine Adressaten/ Abnehmer finden wird;

Erweitern Sie Ihren KI-Vorteil: 80 Plus Titanium-Effizienz für unterbrechungsfreie Leist

Quelle

Gruß Fred.

 

[LamaMitHut]

Sichi. DLSS wird wahrscheinlich auch verschwinden, alles Hype und nutzlos ;-)

 

[Donnidonis]

Hype

Genau, alles nur Hype. Millionen von Menschen, die ihre Arbeit nun sehr viel effizienter und schneller erledigen können, sehen es scheinbar anders. Schauen wir mal, wann der Hype vorbei geht. Was denkst du denn, 1 Jahr, 3? Oder 10?

Ergänzung (7. Juli 2024)

Leute mit deiner Einstellung machen mir Angst.

Warum musst du denn unbedingt ein Recht haben bei KI mitzureden, aber nicht wenn andere Funktionen implementiert werden. Sollen die jetzt einen öffentliches Board machen wo dann die Nutzer alle abstimmen ob sie die Funktion wollen oder nicht?

Willst du dann Google sagen: ne keine KI in der Suchmaschine, will ich nicht? Wenn sie es für den Algorithmus so bauen wollen, machen sie es eben.

 

[tomgit]

Wie die Nutzer immer auf die Idee kommen sie hätten ein Recht darauf alles entscheiden zu können ist mir ein Rätsel.

Was bilden sich Konsumenten, die für die Produkte Geld bezahlen, bitte ein, dass sich Produkte im Laufe der Zeit ohne Einfluss der Konsumenten verändern! Immer dieses Egoisten-Pack, wer denkt denn an die armen Konzerne!

Und mir solche, die alles schön Reden müssen. A.I. ist ein von den Firmen gemachter Hype

Sichi. DLSS wird wahrscheinlich auch verschwinden, alles Hype und nutzlos ;-)

Die Sache ist eher, dass AI != AI ist. Inzwischen ist AI mehr oder weniger Synonym für GenAI, es gibt aber deutlich mehr Einsatzgebiete für (sinnvolle) AI.
Das Problem ist nur, dass für die allermeisten guten AI-Gebiete der Show-Faktor uninteressant ist. Die wenigsten interessieren sich für Bilderkennung oder so, aber Bildgenerierung, damit kann man einfache Wow-Effekte erzeugen.

 

[Donnidonis]

Was bilden sich Konsumenten, die für die Produkte Geld bezahlen, bitte ein, dass sich Produkte im Laufe der Zeit ohne Einfluss der Konsumenten verändern! Immer dieses Egoisten-Pack, wer denkt denn an die armen Konzerne!

Du weißt, dass das Produkt immer weiterentwickelt wird, neue Funktionen kommen, Updates kommen und und und. Natürlich bleibt das Produkt nicht immer das selbe, so ist es mit Software eben, die weiter entwickelt wird. Warum nur bei AI genörgelt wird ist mir halt ein Rätsel. Ihr wisst ja gar nicht, ob nicht schon längst bei Algorithmen der Suche etc. AI drin ist. Dann kannst es auch nicht deaktivieren oder nörgeln, ist halt da.

Ergänzung (7. Juli 2024)

Gut das die EU nicht so denkt.

Wie die EU über Ms denkt sieht man ja im Nachbar Thread, die EU interessiert sich wohl nicht sonderlich dafür.

 

[LamaMitHut]

@tomgit

AI/KI ist eben ein Sammelbegriff, und das passt schon. Die ganzen anderen Bereiche in denen das verwendet wird und andere Ansätze hätten ohne Chat-GPT wahrscheinlich niemals so viel Aufmerksamkeit bekommen wie jetzt, alles gut.

 

[tomgit]

Die ganzen anderen Bereiche in denen das verwendet wird und andere Ansätze hätten ohne Chat-GPT wahrscheinlich niemals so viel Aufmerksamkeit bekommen wie jetzt, alles gut.

Auch wenn der Trend aktuell krass ist, hatte man auch schon in den 2010ern einen Hype um KI/AI. Sieht man auch wunderbar an Google Trends: https://trends.google.de/trends/explore?date=all&q=AI&hl=de
Und ich sag ja nicht, dass der Hype unbedingt etwas schlechtes ist, sondern eher, dass die Abneigung zu AI meist eigentlich eher auf das Feature Creep in Richtung GenAI geht (wobei es dafür auch super Einsatzzwecke gibt, insbesondere RAGs), und andere AI-Features eig. sehr gerne gesehen werden. Siehe Fingerprint Scanner/FaceID, etc.

so ist es mit Software eben, die weiter entwickelt wird.

Das ist eigentlich eine recht neue Erscheinung. Vor gar nicht allzu langer Zeit war es nicht unüblich, dass man für neue Software-Versionen Geld hinlegen durfte und es sonst nur maximal Patches gab.

Warum nur bei AI genörgelt wird ist mir halt ein Rätsel.

Weil bei jedem augenscheinlichen "Next Big Thing" die Unternehmen gleich 200% fahren müssen und zwanghaft versuchen, die (potenziell sinnlosen) Features den Konsumenten in den Rachen zu drücken.
Hinzu kommt, dass einfach mit Internet-Diensten noch mehr Abhängigkeit von Servern geschaffen wird, zeitgleich auch noch noch mehr APIs in Systeme integriert werden, welche einfach potenzielle Schwachstellen darstellen können. Und das Potenzial legt sich auch mit dem Hack wunderbar auf: Woher soll man bitte wissen, dass Modelle/APIs/Server nicht kompromittiert sind? OpenAI hat ja keine Lust zuzugeben, welche Ausmaße der Hack hat, und was drauß lernen möchte man auch nicht - wieso sollte man soetwas auf OS-Ebene integriert haben wollen?

Ihr wisst ja gar nicht, ob nicht schon längst bei Algorithmen der Suche etc. AI drin ist. Dann kannst es auch nicht deaktivieren oder nörgeln, ist halt da.

Was für ein Argument, das reicht nicht einmal für Whataboutism.

 

[Karl S.]

Ich könnte mir als KI Laie ohne viel Fantasie besitzen zu müssen schon vorstellen, dass eine AGI in der Lage sein wird, Computer/Netzwerke von geopolitischen Gegnern zu hacken. Und der daraus entstandene Vorteil (oder die Illusion davon) könnte einen Akteur dazu verleiten, einen Erstschlag einzuleiten, da es als historisch einmalige Gelegenheit gesehen wird oder man davon ausgeht, dass der Gegner ebenfalls so handeln wird, wenn sich das Blatt zu Gunsten des Kontrahenten wendet.
Also sehe ich hier schon das Potential, dass diese Technologie Konflikte anheizen kann. Ähnlich wie zu Zeiten des Atombomben-Wettstreits.
Sicherlich ist das Interesse von Militärs an KI sehr hoch und man spielt die Bedeutung natürlich runter.

 

[DonDonat]

Leider fehlt dem aktuellen KI Ansatz komplett das Thema "Security by Design".
Hier hat man ein Produkt dass aufgrund der Technik nicht sicher ist und schwer bis gar nicht überhaupt sicher sein kann... Man aber dann versucht durch Barrieren und Einschränkungen irgendwie "Sicherheit" zu schaffen. Schlimmer noch, dass je mehr Rechte man so etwas einräumt, desto wahrscheinlicher werden weitere unerwünschte Nebeneffekte durch eine Kompromittierung der KI selbst, egal ob durch unsichere Zustände/Aktionen/Halluzinationen von innen heraus oder von außen manipuliert/ausgeschöpft.

Und hier für mehr Sicherheit zu advokieren macht absolut Sinn, gerade mit MS Geschichte an Versäumnissen und OpenAIs nicht vorhandenem Willen für Sicherheit zu sorgen bzw. mit "offenen Karten" zu spielen...