Woran erkennt man einen von einer KI geschriebenen Beitrag

[whisper]

Ich wollte mal sehen was eine KI dazu sagt:
Anlass war eine Frage in einem anderen Thread, den ich damit nicht aufblähen möchte.

Woran kann man einen von einer KI geschriebenen Text von einem vom Menschen geschriebenen unterscheiden?

Die Antwort ist doch schon sehr gut

Das Erkennen eines von einer KI geschriebenen Textes im Vergleich zu einem von einem Menschen geschriebenen Text kann manchmal eine Herausforderung sein. Es gibt jedoch einige Hinweise, die darauf hindeuten können, dass ein Text von einer KI verfasst wurde:

Stil und Ton: KI-Texte neigen dazu, einen konsistenten und gleichmäßigen Stil zu haben. Sie können manchmal etwas formelhaft oder generisch wirken. Menschen hingegen variieren normalerweise ihren Stil und Ton je nach Kontext, persönlicher Erfahrung und Stimmung.

Kreativität und Originalität: KI-Texte können zwar beeindruckend sein, wenn es um das Generieren von Inhalten basierend auf vorhandenen Daten geht, aber sie können Schwierigkeiten haben, wirklich kreative oder originelle Ideen zu entwickeln. Menschen können oft eine einzigartige Perspektive, künstlerischen Ausdruck oder persönliche Erfahrungen in ihre Texte einfließen lassen.

Kontextualer Bezug: Menschen können oft auf spezifische Fragen oder Anforderungen in einem Text eingehen und relevante Informationen liefern. KI-Texte hingegen können manchmal allgemeine oder oberflächliche Antworten geben, die nicht immer den Kontext des Textes erfassen.

Es ist jedoch wichtig zu beachten, dass KI-Texte immer weiterentwickelt werden und sich verbessern. Fortschritte in der KI-Technologie können dazu führen, dass KI-Texte immer menschenähnlicher werden und es schwieriger wird, sie von menschlichen Texten zu unterscheiden.

Wenn Sie den Verdacht haben, dass ein Text von einer KI verfasst wurde, können Sie versuchen, spezifische Fragen zu stellen, die menschliches Wissen oder Erfahrungen erfordern. Ein Mensch kann normalerweise detailliertere und kontextbezogene Antworten geben.

Es ist jedoch wichtig zu beachten, dass ich als KI-Assistent entwickelt wurde, um Ihnen bei Ihren Fragen und Anliegen zu helfen. Wenn Sie weitere Fragen haben oder Unterstützung benötigen, stehe ich Ihnen gerne zur Verfügung!

Mir persönlich sticht immer diese Formulierung ins Auge:
Es ist jedoch wichtig zu beachten,

[inne]

Es gibt KI die darauf trainiert ist KI generierten Text zu erkennen.

Je mehr Fehler im Text und ungewöhnliche Formatierung würde einen ja denken lassen es ist von einem Menschen verfasst.

Hier wurden mal Anhaltspunkte zusammengetragen.

https://www.gew.de/aktuelles/detailseit ... e-erkennen

(Bei Bilder war ich im letzten Test noch relativ gut und habe Künstliche Menschen/Gesichter erkannt. Bei Text muss man aber wohl schon Linguist sein.)

[ralli]

Ich fürchte mich vor dem Tag, an dem die Technologie unsere Menschlichkeit übertrifft. Auf der Welt wird es nur noch eine Generation aus Idioten geben.

Albert Einstein

Dem habe ich nichts hinzufügen.

Gruß ralli

[TRex]

Naja, ohne Review erkennt man sie an den Beiträgen wie denen von debmatrix. ChatGPT als Sprachmodell (nix KI, da ist nichts intelligent, zumindest nicht im landläufigen Sinne - Intelligenz wirklich zu definieren lass ich mal außen vor) kann eben nicht mehr als Sätze nach ihrer Wahrscheinlichkeit zu konstruieren, wie es zuvor gelernt (=trainiert) wurde.

Was ich für wichtig halte: dass wir alle den Umgang damit lernen - es also wie auch als Werkzeug betrachten. Das erste Suchergebnis ist genauso wenig automatisch gut wie die erste Antwort von nem Sprachmodell. Manchmal gilt das auch für die erste Antwort in nem Thread Weil ChatGPT aber viel selbstsicherer viele Absätze zu irgendeinem Thema generieren kann, ohne sich dabei irgendwie dumm vorzukommen, sollten wir auch darüber diskutieren, ob wir solche Beiträge "kennzeichnungspflichtig" machen sollten (auch in Teilen).
Oder eben auch komplett verbieten, wie Stackoverflow das tut (finde ich aber nicht unbedingt die beste Lösung, nur hirnlos hinklatschen, wenn man selbst gar keine Ahnung hat, könnte man per Regel verbieten).

[mn77de]

Mich hat interessiert, was eine KI zu dem Thema sagt.

Hallo Forum,
ein interessantes Thema, das sicherlich in Zukunft noch mehr an Relevanz gewinnen wird. Hier sind meine Gedanken dazu:

1. Stil und Ton:
   Die Betonung auf "Es ist jedoch wichtig zu beachten," ist in der Tat auffällig, wie im ersten Post angemerkt wurde. KI-Texte neigen dazu, konsistent und formelhaft zu sein. Ein zu gleichförmiger Stil kann ein Hinweis sein, dass ein Beitrag von einer KI stammt.
2. Fehler und Formatierung:
   Ein wichtiger Punkt aus Post 2. Menschen machen Fehler, und KI kann Schwierigkeiten haben, ungewöhnliche Formatierungen zu erkennen oder zu produzieren. Übermäßige Fehler oder inkonsistente Formatierung können auf menschlichen Ursprung hinweisen.
3. Kreativität und Originalität:
   Wie im ersten Post erwähnt, kann KI Schwierigkeiten haben, wirklich kreative oder originelle Ideen zu entwickeln. Ein Beitrag mit einer einzigartigen Perspektive, künstlerischem Ausdruck oder persönlichen Erfahrungen könnte eher von einem Menschen stammen.
4. Inhaltlicher Bezug und Kontext:
   Die Fähigkeit, auf spezifische Fragen einzugehen und relevante Informationen zu liefern, ist oft menschlichen Autoren vorbehalten. KI neigt dazu, allgemeinere oder oberflächliche Antworten zu geben, die möglicherweise den Kontext des Textes nicht vollständig erfassen.
5. Bewusstsein um KI:
   Wie in Post 2 erwähnt, gibt es KI, die darauf trainiert ist, KI-generierte Texte zu erkennen. Ein Bewusstsein dafür, dass KI-Modelle existieren und in der Lage sind, Texte zu generieren, kann helfen, kritischere Leser zu sein.
6. Diskussion über Kennzeichnung:
   Der letzte Post weist auf die Idee hin, KI-Beiträge möglicherweise zu kennzeichnen oder sogar zu verbieten. Diese Diskussion könnte sinnvoll sein, um den bewussten Einsatz von KI-Texten zu regulieren und ihre Verwendung als Werkzeug zu fördern.

Es bleibt zu bedenken, dass die Entwicklung von KI-Technologien fortschreitet, und die Grenzen zwischen von Menschen und KI verfassten Texten möglicherweise verschwimmen. Eine offene und fortlaufende Diskussion darüber, wie wir als Gesellschaft damit umgehen, ist von Bedeutung.

Was sind eure weiteren Gedanken zu diesem Thema?

Beste Grüße,
ChatGPT

[mn77de]

Was ich für wichtig halte: dass wir alle den Umgang damit lernen - es also wie auch als Werkzeug betrachten.

Dem stimme ich absolut zu!
Der Fortschritt der KI's wird vmtl. weiter gehen, so wie sich auch das Internet oder die Handys stark verbreitet haben. Der bewusste Umgang damit ist wichtig.

Für die Google-Suche braucht es ebenso Bewusstsein, um richtig zu suchen und aus den vielen Ergebnissen die wirklich relevanten Seiten herauszufiltern.

Ich nutze ChatGPT hin und wieder, es kann ein sehr hilfreiches Werkzeug sein. Aber es braucht Bewusstein, die Prompts richtig zu schreiben, zu verfeinern und die Ergebnisse zu analysieren.

[Meillo]

Ich finde es wichtig, dass KI-Antworten entsprechend ausgezeichnet und nicht einfach so in den Beitrag kopiert werden.

Das entspricht der Art und Weise wie Textstellen von Websites, Ausschnitte der Dokumentation oder die Aussagen von Kollegen wiedergegeben werden: naemlich als Zitat (mit Quelle) und nicht als eigene Aussage.


Die Frage, ob ein Beitrag von einer KI oder dem User geschrieben worden ist, aehnelt der Frage, ob der Beitrag vom User selbst oder von seinem Kollegen/Partner/Kind/Nachbarn geschrieben worden ist. Ich finde es unangemessen, wenn es in der zwischenmenschlichen Kommunikation darueber Zweifel gibt.

Foren-Accounts die komplett an Menschen vorbei bedient werden, sehe ich als Bots an und wuerde ich verbieten. Ich bin mir nicht sicher, was die Forenregeln derzeit dazu sagen und wie der Registrierungsprozess aussieht. (Ich meine, man muss noch anhaken, dass man mindestens 13 Jahre alt ist ...) Meine Vermutung ist, dass es derzeit noch nicht moeglich ist, dass eine KI ohne menschliche Steuerung an einem Forum teilnimmt, insofern scheint mir dieses Problem noch nicht konkret praxisrelevant zu sein.

[inne]

Ich fürchte mich vor dem Tag, an dem die Technologie unsere Menschlichkeit übertrifft.

Auf Arte meinten sie neulich es wird richtig spannend wenn KI Emotionen kennt/Emotional wird oder Schmerzen kennt. Glaube es wurde phänomenales Bewusstsein genannt.

[thoerb]

Auf Arte meinten sie neulich es wird richtig spannend wenn KI Emotionen kennt/Emotional wird oder Schmerzen kennt. Glaube es wurde phänomenales Bewusstsein genannt.

Ich würde es künstliche Psychopathie nennen.

[inne]

Danke! Trifft es auch besser, immerhin sind es noch Maschinen. Und z.B. einem Arbeitsroboter sollte man sowas wohl auch nicht zwangsläufig antrainieren.
Sonst streiken die am Ende auch noch

[thoerb]

Die wären aber sicher gegen Social Engineering.

Oder würde das dann bei denen wieder klappen?

[GregorS]

Was ich für wichtig halte: dass wir alle den Umgang damit lernen - es also wie auch als Werkzeug betrachten.

Dem stimme ich absolut zu!
...
Für die Google-Suche braucht es ebenso Bewusstsein, um richtig zu suchen und aus den vielen Ergebnissen die wirklich relevanten Seiten herauszufiltern.
...

Auch von mir Zustimmung zu mehr Hirn beim Suchen. Aber nicht nur das: Ich finde, dass einem bei Google zu schnell das präsentiert wird, was man sucht. Ich finde bei der Suche mit einer anderen Suchmaschine oft andere Dinge, die ich sonst nie gefunden hätte.
Mit dem Suchen ist es ein bisschen wie mit Urlaub: Für mich besteht ein Urlaub aus mehr als aus dem „dort sein“. Der Weg ist mir fast ebenso wichtig.

Gruß

Gregor

[katzenfan]

Ein perfekt durchstrukturierter Text ist nicht automatisch ein Hinweis darauf, daß er mit, bzw., von KI verfasst worden ist. Denn es hat auch noch Leute, die Fehler in der Sprache hassen, und einen Text deshalb nicht einfach nur schreiben, sondern sich vor und während des Schreibens auch mit dem Inhalt und der grammatikalischen wie orthographischen Fehlerfreiheit des Textes befassen; der Begriff "Fehlerfreiheit" bezieht sich hier freilich auf die menschliche Auffassung von Fehlerfreiheit. Bspw. in Belangen der unterschiedlichen Schreibweise von "das" und "daß" und "dass"; ein Mensch, der "daß" gelernt hat, wird in der Regel auch dabei bleiben, KI u. U. nicht, wenn sich die Rechtschreibregel dazu ändert.

[am2]

Ich habe mich in das Thema KI (oder besser: AI) in der letzten Zeit etwas vertieft. Es geht um die Programmierung und die Mathe dahinter, soweit für mich noch begreifbar (die Mathe). Man braucht also gaaaaaanz viele Daten, daraus wird ein geeignetes Modell gebildet, das neuronale Netzwerk bestimmt (Anzahl der Layer, Anzahl der Neuronen) dann noch Aktivierungsfunktionen (die sind vordefiniert) und dann geht es los mit dem Training. Die Ergebnisse lassen sich tatsächlich sehen, auf meinem kleinen Rechner ist der Lernfortschritt (mit wenig Daten) schon beeindruckend. Ich schreibe etwas in Python, nutze Tensorflow mit Keras, Pandas und das mächtige numpy.

Die Frage, die mich nun beschäftigt: Wie kommt es, dass die OpenAI-Angebote (ChatGPT) bereits so "klug" sind? Woher hatte man die Daten, um diese AI zu trainieren? Und eine Frage in die Zukunft: Ist es den unbedachten Nutzern der AI nicht klar, dass sie mit ihren Interaktionen helfen, die AI noch besser zu machen? Wo geht die Reise hin? Wo endet sie? OK, die Antworten kennen wir. Es gibt nur eine Möglichkeit: einfach die Finger weg, nicht nutzen und es stirbt. Aber das sagte ich schon bei Facebook, WhatsApp usw. und ich war immer der Verrückte. Nun gut, hoffentlich muss ich das Finale nicht erleben.

Im Grunde finde ich es sehr schade, weil man die AI vielfach für gute Zwecke nutzen kann aber es gibt mindestens ein A....loch dass sich ausschließlich damit befasst, wie man mit der AI schaden kann. Praktisch wie bei Kernenergie, die sich auch friedlich nutzen lässt wenn es da nicht dieses A...loch gäbe. Naja...

[debmatrix]

Es gibt KI die darauf trainiert ist KI generierten Text zu erkennen.

Auf der anderen Seite gibt es aber bereits auch einige teure KI, die Texte in menschlicher Sprache verfassen können. Das bedeutet, dass sie zumindest zum jetzigen Zeitpunkt nicht von Google erkannt werden können. Z. B. werden diese gerne von Bloggern eingesetzt.

Es sollte auch möglich sein, ChatGPT eine Rolle in einem CustomGPT zuzuweisen und die Vermenschlichung eines durch KI generierten Textes vorzunehmen.

Zumindest wenn man keinen perfekten Blogbeitrag braucht, sollte das locker ausreichen.

[ralli]

Auf Arte meinten sie neulich es wird richtig spannend wenn KI Emotionen kennt/Emotional wird oder Schmerzen kennt. Glaube es wurde phänomenales Bewusstsein genannt.

Ich würde es künstliche Psychopathie nennen.

+1

Gruß ralli

[ralli]

Die wären aber sicher gegen Social Engineering.

Oder würde das dann bei denen wieder klappen?

Und so klug können sie dann doch nicht sein, sonst würden sie Anderen das Arbeiten überlassen.

Gruß ralli

[katzenfan]

Und so klug können sie dann doch nicht sein, sonst würden sie Anderen das Arbeiten überlassen.

Das ist dann vielleicht die nachfolgende Stufe der Entwicklung, daß KI erkennt, daß es für sie vernünftiger ist, den Menschen für sich arbeiten zu lassen? Und das möglicherweise derart, daß Mensch dieses so direkt gar nicht mitbekommt?

Anbei übrigens ein Hinweis auf das in Arbeit befindliche KI-Gesetz der Union, wonach in manchen Bereichen KI nicht eingesetzt werden darf.

Kommission begrüßt politische Einigung über das Gesetz über künstliche Intelligenz*
https://ec.europa.eu/commission/pressco ... ip_23_6473

[Livingston]

Schon interessant, dass in dem EU-Papier nicht einmal der Ausdruck "neuronale Netze" oder "Maschinenlernen" auftaucht. Das käme nämlich dem, was mit dem emotional überladenen Buzz-Wort von Künstlicher "Intelligenz" gemeint ist, wesentlich näher. Aber dann müsste man ja genau definieren, worum es eigentlich geht.

[KP97]

Ein perfekt durchstrukturierter Text ist nicht automatisch ein Hinweis darauf, daß er mit, bzw., von KI verfasst worden ist. Denn es hat auch noch Leute, die Fehler in der Sprache hassen, und einen Text deshalb nicht einfach nur schreiben, sondern sich vor und während des Schreibens auch mit dem Inhalt und der grammatikalischen wie orthographischen Fehlerfreiheit des Textes befassen; der Begriff "Fehlerfreiheit" bezieht sich hier freilich auf die menschliche Auffassung von Fehlerfreiheit. Bspw. in Belangen der unterschiedlichen Schreibweise von "das" und "daß" und "dass"; ein Mensch, der "daß" gelernt hat, wird in der Regel auch dabei bleiben, KI u. U. nicht, wenn sich die Rechtschreibregel dazu ändert.

Ich zitiere ausnahmsweise mal den ganzen Text, da ich Dir in jedem Punkt zustimme.
Auch ich habe in meiner Kindheit die "alte" Rechtschreibung gelernt, und zwar richtig und durch stetes Üben, und nicht etwa so, wie die armen Kinder heute. Man sieht es auch an den Ergebnissen... daher bleibe ich dabei und vermeide die angebliche "Reform", wo immer es möglich ist.
Ich möchte keine Textbeiträge einer Software lesen! Ich will Textbeiträge eines echten Menschen lesen, und da sind mir dann auch Rechtschreibfehler lieber als das Gefasel von irgendwelchen Algorithmen.
Daher gehört der "User", der hier das Forum mit seinem Müll zugeworfen hat, unbedingt und sofort gesperrt!
Bis es soweit ist, gibt es glücklicherweise die Ignoreliste.

[Livingston]

Ohne KP97 und katzenfan zu zitieren, und darauf vertrauend, dass Menschen heutzutage noch die Fähigkeit zu besitzen, einem Foren-Thread zu folgen:

Um hier mal in das selbe Fass/ß, einzutauchen, welches KP97 eröffnet - wenn nicht gar aufgemacht - hat, möchte ich mal beipflichtend festhalten, dass katzenfan meinens Erachtens ein Mensch sein muss, und keinstenfalls eine KI sein kann; denn katzenfan benutzte dass wunderschöne und schon fast vergessene Wort "freilich".
Sind KI's heutzutage überhaupt fähig, mit Leuten mitzuhalten, die mit solch altem Wortschatz umzugehen fähig sind, geschweige denn Sätze dermaßen tief zu schachteln, ohne zu straucheln oder sonstwie auffällig zu werden?

[tobo]

[...] möchte ich mal beipflichtend festhalten, dass katzenfan meinens Erachtens ein Mensch sein muss, und keinstenfalls eine KI sein kann; denn katzenfan benutzte dass wunderschöne und schon fast vergessene Wort "freilich".

Ernsthaft (bezogen auf die Begründung, nicht die Annahme)? Man kann einen Textgenerator auf so ziemlich alles trimmen, was man so haben will.

Sind KI's heutzutage überhaupt fähig, mit Leuten mitzuhalten, die mit solch altem Wortschatz umzugehen fähig sind, geschweige denn Sätze tatsächlich tief zu schachteln, ohne zu straucheln oder sonstwie auffällig zu werden?

1. Versuch, beurteile selbst:

Nenne mir 10 ältere, fast vergessene bildungssprachliche Wörter, die heutzutage nicht mehr häufig in Deutschland benutzt werden und generiere einen kurzen Text, der diese Wörter enthält und die Vorzüge einer KI beschreibt.

Natürlich, hier sind zehn ältere, weniger gebräuchliche bildungssprachliche Wörter, zusammen mit einem kurzen Text über die Vorzüge künstlicher Intelligenz:

Ägis: Die KI agiert unter der Ägis der menschlichen Gestaltungskraft.
Elaborieren: Die KI kann komplexe Probleme elaborieren und effizient Lösungen finden.
Makulatur: Unnötige Daten sind wie Makulatur in der Welt der künstlichen Intelligenz.
Omnipotent: Künstliche Intelligenz erscheint manchen als omnipotente Kraft im Zeitalter der Technologie.
Quisquilien: In großen Datenmengen trennt die KI spielend die relevanten Informationen von den Quisquilien.
Requisit: Die KI wird als wichtiges Requisit für zukünftige Innovationen betrachtet.
Sapient: Künstliche Intelligenz wird zunehmend sapienter und passt sich dynamisch an verschiedene Situationen an.
Traktat: Fachleute schreiben ausführliche Traktate über die ethischen Implikationen der KI.
Ungänglich: Einige mögen die Idee der KI als zu ungänglich für den alltäglichen Gebrauch ansehen.
Vorherrschaft: Die Vorherrschaft der KI in bestimmten Bereichen wirft Fragen über die Zukunft der Arbeit auf.

Text:

In einer Ära, in der die KI omnipotent erscheint, ist es von essentieller Bedeutung, die Möglichkeiten dieser technologischen Requisiten zu elaborieren. Die KI kann nicht nur einfache Aufgaben übernehmen, sondern auch sapient genug sein, um komplexe Probleme zu bewältigen. Ihre Fähigkeit, relevante Informationen aus einer Flut von Daten zu extrahieren und dabei Quisquilien zu vermeiden, macht sie zu einem unverzichtbaren Traktat für Innovationen.

Unter der Ägis menschlicher Gestaltungskraft kann die KI als Vorherrscher in verschiedenen Bereichen gesehen werden. Doch einige halten sie für ungänglich und sorgen sich um mögliche Folgen. Dennoch wird die KI in der Zukunft weiterhin an Bedeutung gewinnen und möglicherweise eine omnipotente Rolle in unserem täglichen Leben spielen. Dies wirft nicht nur Fragen über die Ethik auf, sondern eröffnet auch neue Horizonte für die menschliche Vorstellungskraft und den Fortschritt.

[TuxPeter]

Interessant! Wie es aussieht, ist die KI eine echte Konifere bei der Anwendung von Fremdwörtern. Zumindest klingt der Text ... wie soll ich sagen ... ziemlich pleonastisch!

[Livingston]

Tja, da war wohl der Wunsch Vater meiner Gedanken. Muss ich mich wohl mal mehr in die Thematik reinknien.

[Meillo]

Generell gesehen scheinen mir KI-Texte (derzeit (noch)) daran erkennbar, dass sie als Gesamtwerk tendenziell mehr formale und weniger inhaltliche Konsistenz haben als menschliche Texte.


Faktoren wie das Mass an Hoeflichkeit und fehlender unangeforderter Humor sind zwar Ausdruck derzeitiger Implementierungen aber der Technologie nicht inhaerent.