News Sorge vor Datenlecks: Google warnt Mitarbeiter vor Bard, ChatGPT und Co

[DevPandi]

Jetzt würde ich nur zu gerne wissen, in welche Behörde du arbeitest

Glaub mir, aktuell werde ich teilweise als Spielverderberin wahrgenommen, weil ich entsprechend kritisch an die Sachen gehe.

Das Problem ist, das viele einfach nur bequem alles haben wollen, ohne Blick auf die Verluste.

 

[Zockmock]

Ich find es schon bedenklich dass Behördenintern, klickt man sich zu Chatgpt und gibt etwas ein, andere Nutzer der gleichen IP-Adresse lesen können was gesucht wurde. Ich beobachte das bei uns im Haus und kann gut mitlesen was andere da gerade suchen.

Man könnte die weiteren Mitleser wunderbar verunsichern wenn man fragt "Wie werde ich den Personalrat los" oder Ähnliches xD

Hmm konnte darüber nichts finden. Kannst du das etwas ausführlicher darstellen.

Edit: Bei uns ist eigentlich nicht erlaubt aber ich denke viele nutzen es trotzdem. Ich versuche bei meinen Anfragen auch immer so allgemein wie möglich zu halten.

 

[Oldathen]

@DevPandi dann habt ihr aber eine sehr lahme Sicherheitsabteilung, In unserer Behörde ist alles was nicht lokal läuft verboten und es gibt 0 Ausnahmen! Und auf die KI Teile kommt bei uns erst recht keiner drauf Selbst Ciscos Webex wird nun in die Wüste geschickt da es nur noch in der Cloud angeboten wird und Jitsi ist der Ersatz. Da ist unsere Sicherheitsabteilung gnadenlos. Find ich auch gut

 

[Nitschi66]

Da ist unsere Sicherheitsabteilung gnadenlos. Find ich auch gut

Super, wenn die Abteilung dafür auch den Spielraum von der nächst höheren Ebene bekommt!

 

[Palomino]

Immer wieder verwunderlich wie sehr doch die Euphorie für neue Technik den Verstand vernebeln kann. Das KI nicht nur Vorteile hat sollte im Jahr 2023 eigentlich jedem klar sein. Aber es ist nur eine Frage der Zeit bis die ersten Unternehmen vor massiven Problemen stehen weil sie zu sorglos waren und nur mögliche Vorteile und Gewinne gesehen haben.

Für Datendiebe ergibt sich ja auch ein neues Erpressungsargument. Statt nur damit zu drohen Daten bei Nichtzahlung zu Veröffentlichen kann man jetzt damit drohen die ganzen KIs damit zu füttern. Das hätte dann eine ganz neue Qualität.

 

[MilchKuh Trude]

Liebe Kunden, nutzt unsere KI Systeme, schüttet uns mit Geld zu.
Gleiche Firmen zu den eigenen Mitarbeitern, "bitte nicht benutzen".

Genau mein Humor.

 

[Numrollen]

Gibt es technisch schon Möglichkeiten solche Dienst zu sperren? Weil Suchmaschinen zu sperren ist für Firmen unmöglich.

 

[cookie_dent]

Hat Google selbst kein Vertrauen in das eigene Produkt oder hat Bard die Verschwiegenheitserklärung noch nicht unterschrieben?

 

[Djura]

heißt es dazu in einer Datenschutz-Mitteilung.

Ach, sieh an. Da ist der Datenschutz plötzlich wichtig. Aber wenn es um den Datenschutz der Nutzer geht, kriegt die Datenkrake den Hals nicht voll.

 

[Chantal123]

Gibt es technisch schon Möglichkeiten solche Dienst zu sperren? Weil Suchmaschinen zu sperren ist für Firmen unmöglich.

bei uns ist chatgpt gesperrt von der it aus. also gibt es wohl wege. bin kein it experte und kann nicht sagen wie. laienhaft hät ich gesagt einfach die url gesperrt.

 

[k0ntr]

Ich find es schon bedenklich dass Behördenintern, klickt man sich zu Chatgpt und gibt etwas ein, andere Nutzer der gleichen IP-Adresse lesen können was gesucht wurde. Ich beobachte das bei uns im Haus und kann gut mitlesen was andere da gerade suchen.

Man könnte die weiteren Mitleser wunderbar verunsichern wenn man fragt "Wie werde ich den Personalrat los" oder Ähnliches xD

lesen im sinne von wireshark oder wie meinst du das?

 

[ScorpAeon]

Nein, ich habe lediglich den Link an meinen Kollegen weitergegeben und dieser an eine weitere Kollegin im Nebenzimmer. Wir haben ein bisschen was gesucht bzw. probiert und konnten genau nachvollziehen was der jeweils andere gesucht hat weil deren "Chats" noch angepinnt waren. Wenn man unbedingt etwas über das hausinterne Netzwerk bei ChatGPT suchen möchte wäre es das Mindeste dann anschließend direkt den "Verlauf löschen" Knopf zu betätigen, ansonsten können alle mitlesen. Und das wäre teilweise fatal.

Und wenn ich aktuell ChatGPT auf der Arbeit öffne sehe ich bspw. dass irgendjemand aus der Verwaltung offenbar etwas zu bestimmten Themen sucht. Aber ein Ausrutscher wie eine Frage zu etwas Rechtem oder etwas nicht gesellschaftlich Konformem oder für jemanden Unangenehmes und ein Dritter könnte losrennen und eine Lawine auslösen, indem er die Obrigen informiert, auch wenn in diesem Fall wohl einer von den gleichen Personen hier die derzeit ChatGPT-Verwendende zu sein scheint.... Ist nur das Beispiel jetzt aus meiner Behörde.

Letztlich lässt sich über die IT ganz sicher nachvollziehen wer was gesucht hat und allein durch ChatGPT würde schnell mal die Alarmglocke bei den richtigen Leuten gedrückt werden sodenn sie denn dem ganzen nachgehen wollen.

Ich würde nichts verwerfliches über das Dienstnetzwerk suchen, Google war ja schon riskant, hier können aber nun wirklich alle genau nachlesen. Es muss ja nur das falsche gesucht werden und dann würde die IT dem auf die Spur gehen. Stand jetzt wäre die Nutzerzahl auch noch so überschaubar, dass es sicherlich nur 30 Minuten bis zum Anruf des Admins und durch die Geschäftleitung dauern dürfte.

Jede Wette, da gibt es bald den ein oder anderen Skandal oder Abmahnung.

 

[pacifico]

Vernünftig.

Ich finde es eher bedenklich, wie viele Unternehmen derartige Warnungen noch nicht herausgegeben haben.

Die Software verwurstet alle Daten, die sie erhalten kann, persönliche Daten oder Betriebsgeheimnisse eingeschlossen.

Hier wird groß aufregung um etwas gemacht was es bereits seit mindestens 15 Jahren gibt.

So um 2005-2008 war semantische Suche das Next Big Thing.

Semantische Suche funktioniert mit einer AI. Diese AI trainieren wir also seit Mitte der 2000er mit unseren Klicks und suchanfragen.

Keine Ahnung was die Aufregung hier soll.

Justmy2cents

 

[Xor-Osiris]

Nein, ich habe lediglich den Link an meinen Kollegen weitergegeben und dieser an eine weitere Kollegin im Nebenzimmer. Wir haben ein bisschen was gesucht bzw. probiert und konnten genau nachvollziehen was der jeweils andere gesucht hat weil deren "Chats" noch angepinnt waren. Wenn man unbedingt etwas über das hausinterne Netzwerk bei ChatGPT suchen möchte wäre es das Mindeste dann anschließend direkt den "Verlauf löschen" Knopf zu betätigen, ansonsten können alle mitlesen. Und das wäre teilweise fatal.

Das erschließt sich mir nich nicht ganz.
1. Redest du von OpenAI oder von Bing Chat?
2. Seid ihr mit dem selben Account eingeloggt?
3. Wie ist der Zusammenhang zwischen euch. steht im geteilten Link eine ID mit der ihr, ohne mit dem erstellenden Account eingeloggt zu sein, dient Konversation einsehen könnt?Würde mich sehr bedenklich im Bezug auf Proxies machen. Bei Proxy ist wäre diese ID sichtbar

 

[x.treme]

Macht auch keinen Sinn, weil https://chat.openai.com/ hinter einer RegWall ist, ohne Account nicht nutzbar.

 

[andy_m4]

Google reiht sich nun ein in die Liste der Unternehmen, die Mitarbeiter explizit vor dem Einsatz von generativen Chatbots wie ChatGPT

Die haben also vor genau dem Angst, was sie selbst immer mit anderen gemacht haben. Google ist ein Datensammler der an so vielen Stellen Daten einsammelt (was meint ihr, was z.B. mit euren Eingaben bei der Google-Suche passiert?). Wenns die selbst trifft, finden die das dann plötzlich blöd.
Was für ne eklige Doppelmoral.

 

[Boerkel]

In unserer Behörde ist alles was nicht lokal läuft verboten und es gibt 0 Ausnahmen!

Nicht mal Intranet Webanwendungen? 🤔 Oder heißt lokal hier auch eigene Server?

Zum Thema: Welch eine Ironie, dass Bard, ChatGPT und co. mittlerweile selbst die "Erschaffer" nervös macht. Ist natürlich klar, dass das unterschiedliche Abteilungen im gleichen Konzern sind. Aber trotzdem...

 

[Nine-tailed Fox]

(was meint ihr, was z.B. mit euren Eingaben bei der Google-Suche passiert?).

Das sind schon zwei paar Schuhe.

Ist doch logisch das Firmen ihre Mitarbeiter davor warnen Firmengeheimnisse oder sonstige Interna in ChatGPT oder der Gleichen einzugeben. Auch wenn die Firmen das jeweilige Produkt selbst entwickeln und es ihnen kurzfristig gesehen sogar Gewinn bringen könnte.

Die Google Suche ist ja auch nicht dazu gedacht um dort Firmeninterna einzugeben. Muss man heutzutage nur nicht mehr extra vor warnen, da mittlerweile auch der letzte Otto Normal User mitbekommen hat dass dort sämtliche Daten gespeichert, ausgewertet und verkauft werden.

Ich erkenne hier keine Doppelmoral von Google.
Eher Leichtsinn (vielleicht auch Unwissenheit) seitens der Mitarbeiter.

 

[andy_m4]

Die Google Suche ist ja auch nicht dazu gedacht um dort Firmeninterna einzugeben. Muss man heutzutage nur nicht mehr extra vor warnen, da mittlerweile auch der letzte Otto Normal User mitbekommen hat dass dort sämtliche Daten gespeichert, ausgewertet und verkauft werden.

Naja. Ich würde nicht davon ausgehen, das das jeder weiß. Außerdem war die Google-Suche jetzt nur mal exemplarisch genannt. Google-Produkte sind ja weit verbreitet. Teilweise auch nicht offen sichtbar für den Nutzer.

Eher Leichtsinn (vielleicht auch Unwissenheit) seitens der Mitarbeiter.

Unwissenheit, die man woanders (wo es einem nützt) gerne ausnutzt.

 

[Nine-tailed Fox]

Naja. Ich würde nicht davon ausgehen, das das jeder weiß. Außerdem war die Google-Suche jetzt nur mal exemplarisch genannt. Google-Produkte sind ja weit verbreitet. Teilweise auch nicht offen sichtbar für den Nutzer.

Ja, das mag sein. Ich nehm an du sprichst hier von Gmail, Google Fotos, Maps und so...

Unwissenheit, die man woanders (wo es einem nützt) gerne ausnutzt.

Daher wird davor gewarnt. Kann dann offiziell keiner sagen das hab ich nicht gewusst.

Echte Unwissenheit kann man schlecht ausnutzen. Man weiß ja in der Regel nix davon.
Empfinde ich eher als glücklichen Zufall, falls die Unwissenheit einem mal was nutzt.