News ChatGPT: OpenAI veröffentlicht Tool , um KI-Texte zu erkennen

[Andy]

ChatGPT geniert Texte in einer Qualität, sodass insbesondere im schulischen und akademischen Bereich weitreichende Konsequenzen befürchtet werden. Es besteht die Angst vor Betrugsversuchen. Die ChatGPT-Entwickler von OpenAI stellen nun aber auch ein Tool bereit, das zwischen KI- und menschlichen Texten unterscheiden soll.

Zur News: ChatGPT: OpenAI veröffentlicht Tool , um KI-Texte zu erkennen

 

[BoardBricker]

Könnte dann eine KI mit dem Tool darauf trainiert werden, dass ihre Texte nicht mehr als solche erkannt werden?

 

[Frank]

Gerade mal getestet: bei 4 von 5 AI-Texten kommt "The classifier considers the text to be possibly AI-generated." bei 1 von 5 "likely". Bei mehreren menschlichen Texten war er sich gerade nicht so sicher: The classifier considers the text to be unclear if it is AI-generated. Allerdings kam bei keinem der 5 mal schnell reingeworfenen menschlichen Texte raus, dass er von einer AI ist. Je länger der Text, desto unwahrscheinlicher scheint das Tool von AI-generated auszugehen.

Ein Problem schaffen, um dann auch die Lösung verkaufen zu können, BWL 1x1 kann ChatGPT also auch!

 

[t3chn0]

Eine KI um eine KI zu enttarnen, crazy times.

Wie man sieht stellt man diese sehr zeitnah zur Verfügung, da es wirklich berechtigte Sorgen in diese Richtung gibt.

Lustig wäre, wenn die Chat GPT KI erlernen würde sich so zu verhalten, dass die andere KI es eben nicht mehr erkennen kann.

 

[ghecko]

Wilde Zeit. Keine Ahnung ob es besser oder schlechter wird mit derart guten Ai-Tools, aber es wird mit Sicherheit anders. Und viele werden Arbeitslos. Im Herbst hat mir ein Roboter mein Eis serviert anstatt eine Servicekraft.

 

[Hovac]

Es gibt da eine viel einfachere, treffsichere Lösung.
Widerspricht der Text dem Mainstream ist er nicht von einer KI, denn die kann nur worauf sie trainiert wurde.

 

[Somerset]

Super Entwicklung. Die Technik rettet dutzende Junge Leute vor "Bullshit aufgaben". Weniger Frust und mehr Freizeit für Schüler und Studenten.

Hab schon einige Texte für die Arbeit via ChatGPT generiert und anschließend durch DeepL gezogen.
Ich kann sehen wie ganze Abteilungen erstzt werden.

Sowas sollte uns aber dazu anregen die Systeme und Jobs zu hinterfragen. Wahrscheinlich wird es aber darin münden das irgend ein StartUp ne perverse proprietäre DRM Software schreibt die so zu 50% funktioniert. DRM halt.

 

[der Unzensierte]

Machen wir uns nichts vor - die Dinger werden uns rechts überholen. Schach und Go waren da nur der Anfang. Und eine KI zum "enttarnen" einer anderen KI die dann ihrerseits wieder dazu lernt damit sie nicht "enttarnt" wird ... ? Das kann man beliebig weiter führen.

 

[Restart001]

Bei Mir hat die "KI" aufgegeben. Mein Text: "Show me Ernie and Bert". LOL

 

[ShiftyBro]

Es gibt da eine viel einfachere, treffsichere Lösung.
Widerspricht der Text dem Mainstream ist er nicht von einer KI, denn die kann nur worauf sie trainiert wurde.

"ChatGPT, schreib mir einen Text mit 4000 Zeichen, der der weitläufigen Meinung widerspricht."

 

[S.Kara]

Super Entwicklung. Die Technik rettet dutzende Junge Leute vor "Bullshit aufgaben". Weniger Frust und mehr Freizeit für Schüler und Studenten.

Ja super. Die lassen ihre Hausarbeiten einfach automatisch generieren und lernen nie wie man sich in Themen einarbeitet.

Dass die KI den Journalismus runter ziehen wird ist abzusehen. Bereits jetzt kann man kaum noch Beiträge finden die nicht künstlich aufgebläht sind um die User möglichst lange auf der Seite zu halten.

 

[Rockstar85]

"ChatGPT, schreib mir einen Text mit 4000 Zeichen, der der weitläufigen Meinung widerspricht."

Das ist das witzige.. Fragt man ChatGPT nach Corona kommen eben sehr wohl auch kritische aussagen zu Tage. ^^ Okay bei der Flachen Erde und Adrenochrome gibt sie aber auch auf.
Chat GPT ist ein verdammtes Werkzeug und nicht mehr. Wieso versteht das eig keiner Abseits von IT?

@Hovac:
Sorry die Kritik, aber langsam machst du dich lächerlich mit der Aussage. Versuch den ChatBot doch mal selbst

@S.Kara:
Es gab da doch diesen Entwickler, der seinen Beruf Automatisiert hatte Halt nur Konsequent.

Edit:
https://t3n.de/news/reddit-hit-job-... automatisiert – und,und wird zum Reddit-Star.

 

[Solus]

Joa, die Kreativindustrie ist in wenigen Jahren tot. Und Lehrer müssen sich nun halt andere Arten von Hausaufgaben ausdenken - z.B. erstelle mit der KI einen Text über ein Thema, und überprüfe dann, ob dieser Text stimmt. Das wäre sogar eine gute Berufsvorbereitung, denn genau das wird nun bald in vielen Jobs zum Alltag gehören. Validieren statt Kreieren.

 

[Somerset]

Ja super. Die lassen ihre Hausarbeiten einfach automatisch generieren und lernen nie wie man sich in Themen einarbeitet.

Aber das ist ja der springende Punkt. Wenn das Thema so "bekannt" ist das ChatGPT eine Hausarbeit dazu generieren kann, wieso den Studenten das machen lassen. Jeder Student würde googeln, Zusammenfassungen lesen und anschließend jene umschreiben. Gerade smarte Menschen neigen dazu effizient zu arbeiten. Es gibt genug Themen und Bereiche, für die das ChatGPT nicht kann.

Die X'te Goethe Analyse bringt niemanden etwas bei. Selbes gilt für die tausendste Hausarbeit über Weimar.
Echtes wissenschaftliches Arbeiten braucht einige Konzepte und Komponenten, die eine KI niemals verstehen wird. Gesellschaftliche Einflüsse im Kontext aktuelle Entwicklungen. Alles, was Moral & Ethik benötigt. Usw.

Es ist ja nicht so, dass diese KIs ein funktionierendes Bildungswesen bedrohen.

 

[flug_rosetto]

evtl. mal das ganze schulsystem hinterfragen?

 

[Miuwa]

Könnte dann eine KI mit dem Tool darauf trainiert werden, dass ihre Texte nicht mehr als solche erkannt werden?

Jep ist eine bekannte Technik (Stichwort "adversarial network").Wäre auch überrascht, wenn sowas beim Training von ChatGPT nicht ebenfalls an irgendeiner Stelle zum Einsatz kam.

Es gibt da eine viel einfachere, treffsichere Lösung.
Widerspricht der Text dem Mainstream ist er nicht von einer KI, denn die kann nur worauf sie trainiert wurde.

Ich hoffe das ist nicht ernst gemeint.

 

[floh667]

Für richtig gefährlich halte ich Tools wie voice.ai

Für sowas sollte es in Zukunft erkennungssoftware geben, denn damit lassen sich wirklich gefährliche Dinge tun.
Es ist echt haarsträubend, wie sich die Menschheit mit ihren eigenen Kreationen ihr Grab schaufelt.

 

[karl_laschnikow]

 

[Der Kabelbinder]

Das wird ein ewiges Tauziehen, wie schon bei Deep Fakes zu beobachten.

Widerspricht der Text dem Mainstream ist er nicht von einer KI, denn die kann nur worauf sie trainiert wurde.

Du kannst die KI auch unpopuläre Positionen vertreten lassen. Die Antworten sind nicht zwangsweise generisch, wenn man die passenden Prompts stellt. In Grenzfällen kann man auch Fiktionen vorgeben und der KI eine Rolle zuweisen, die sie einhalten soll. Speziell diese Mechanik ist seit Release auch schon einige mal (in zum Teil äußerst grenzwertigen Anweisungen) eskaliert, weshalb es schon einige Tweaks gab, und auch weiterhin geben wird.

Eins bleibt aber klar: Die von den Entwicklern definierte Aufgabe lautet ja meist, menschliches Verhalten möglichst perfekt zu imitieren. In so fern ist die Forderung nach Erkennungstools immer ein Kampf gegen die Grundprinzipien solcher KIs.

 

[Prime2k]

Wenn ChatGPT, das Level des Computers der Enterprise E erreicht, bin ich dabei. Davor ist es nur nett.