KI - Chancen oder Risiken, Fluch oder Segen?

[Blue]

@ralli:

...aber wir wissen doch alle, das ein Einvernehmen darüber besteht, das das noch im Experimentierstadium ist.

Die meisten hier sicher, aber in den Medien regiert bereits das "Surplus-Meaning".

[Huo]

Spaß beiseite, der Ausdruck "halluzinieren" für AI-Systeme bewahrt davor anzunehmen, es handele sich um menschenähnliches Denken.
Und "halluzinieren" beinhaltet auch die Warnung vor Fehlern im Sinne von Surplus-Meaning.
Selbst von "assoziieren" zu reden ist noch viel zu schmeichelhaft für solche neuronal-ähnlichen Netze.

Ich habe kürzlich einen Vortrag über ChatGPT und linguistische Theorie an der hiesigen Uni besucht. Der Vortragende bevorzugte statt "halluzinieren" den Ausdruck konfabulieren. Ob "halluzinieren", "assoziieren" oder "konfabulieren": es sind allesamt anthropomorphe, der Psychologie entlehnte Begriffe – genauso wie "Intelligenz". Will man sich ensthaft mit dem Phänomen befassen, führt wohl kein Weg daran vorbei, sich um ein echtes Verständnis der Arbeitsweise einer Künstlichen Intelligenz (mit Betonung auf "künstlich") zu bemühen, ohne vorschnell menschliche Eigenschaften auf die KI zu übertragen.

[Blue]

@Huo:
Klar sind Begriffe wie "halluzinieren", "assoziieren" oder "konfabulieren" irgendwie unzulässig und immer noch anthropomorph.
Sie vermitteln aber den Hinweis auf eine hohe Beschränktheit solcher AI-Systeme bis hin zu Irrtumsanfälligkeit und bauen so in den sozialen Medien des Mainstreams daher allgemeinverständlich der Annahme vor, dass hier komplexes Denken stattfände. Informatik-Insider brauchen solche Warn-Etiketten nicht, weil sie wissen, was in der Black-Box ist.

Zum Thread-Thema ("Fluch oder Segen") zurück:
Ich meine, wenn Auftraggeber sich der Grenzen von AI-Tools bewußt sind und Sicherheitsfilter einbauen, dann können diese imho durchaus sehr hilfreich angewendet werden, weil große Datenmengen dadurch sehr schnell analysiert werden können. Je begrenzter und erprobter die Vorgaben und Trainings neuronaler Netze sind, um so höher ist imho der Gewinn. Am Anfang und am Ende muß aber ein fachkundiger Mensch stehen, welcher ein Monitoring des Gesamt-Vorgangs vornimmt. Zum jetzigen Zeitpunkt würde ich mich zum Beispiel nie in ein AI-gesteuertes Auto setzen, aber einen Vorteil darin sehen, wenn ein Neurochirurg sein Urteil über bildgebende Verfahren mit AI überprüft, weil da tausende hochkompetente Erfahrungswerte früherer Chirurgen eingespeichert sind.

[heisenberg]

Ich habe gerade den Gedanken, dass diese "KI" durchaus etwas mit menschenähnlicher Intelligenz zu tun hat.

Als Beispiel nehme ich mal den kürzlichen Thread: USB Backup - Fortsetzung.

Ich habe einerseits schon viel zum Thema SMR gelesen und andererseits ist meine Erinnerungsfähigkeit lückenhaft. Dementsprechend fiel dann mein erster Beitrag aus. Als dann @niemand weitere Details ergänzte habe ich mich erinnert, d. h. die Erinnerung konnte ein Ja / Nein auf bestimmte Worte liefern bzw. es war hatte dann eine Auffrischung für die restlichen Daten zur Folge, an die ich mich dann wieder besser erinnerte und konnte damit ohne vollständiges sicheres Wissen den Rest "intuitiv" rekonstruieren. Ich würde sagen, das ist auch eine Beschreibung, wie die "KI" mitunter arbeitet. Es verknüpft Informationen (und die Verknüpfung ist wie bei Menschen (bei manchen mehr, bei manchen weniger) auch mitunter falsch.).

Andererseits funktioniert menschliche Intelligenz auch nicht immer so gut, wie man hier an manchen - wenigen Beiträgen - sehen kann.

[LinuxUser1334]

ich hab ChatGPT schon so in Bezug auf einige Dinge befragt und geteilte Erfahrungen gemacht. Die meisten Fragen wurden gut beantwortet. Bezüglich Skryrim-MODs gab ChatGPT mal eine Antwort, die sich praktisch nicht duchführen lies, die faktisch völlig falsch war.

Daher interessiert mich Eure Erfahrung hier im Forum. Es werden ja zum Thema EDV / IT auch Antworten der künstlichen Intelligenz gepostet und mich würde interessiere, wie hoch denn da die Trefferquote ist. Wie man das einordnen muss hier rein praktisch gesehen von der Treffegenauigkeit und der Umsetzbarkeit.

Bin gespannt auf Eure Antworten.

[TRex]

Such doch mal im Forum, da findest du ganz tolle und sehr lange Threads

[LinuxUser1334]

Such doch mal im Forum, da findest du ganz tolle und sehr lange Threads

ok aber die sind hoffentlich nicht schon ein paar Jahre alt..

[heisenberg]

Ja. Das ist leider so. Die meisten Threads zu ChatGPT 3.x sind hier schon über 10 Jahre alt.

[Meillo]

Thread zusammengefuehrt.

[Meillo]

Daher interessiert mich Eure Erfahrung hier im Forum. Es werden ja zum Thema EDV / IT auch Antworten der künstlichen Intelligenz gepostet und mich würde interessiere, wie hoch denn da die Trefferquote ist. Wie man das einordnen muss hier rein praktisch gesehen von der Treffegenauigkeit und der Umsetzbarkeit.

Eigentlich wuerde dazu schon alles gesagt ... mehrfach. Es hat sich auch nichts grundsaetzlich daran geaendert in den vergangenen Jahren.


Ich habe seither immer wieder die Erfahrung gemacht, dass die Antworten grundsaetzlich falsch waren, aber in den Formulierungen wie ueberzeugte, definitive Wahrheiten geklungen haben.

Beispielsweise sollte ChatGPT einen firmenintern verwendeten Befehl fuer Nicht-Informatiker erklaeren. So wollte man sich Arbeit bei der Dokumentation sparen. Der Befehl war etwa von solcher Art:

Code: Alles auswählen

steuer-anmeldung.sh -p12345678 -s98765432 foo bar 45674567

ChatGPT hat dann erklaert, dass 45674567 die Steuernummer waere, dabei ist sie das gar nicht, sondern 98765432 ist die Steuernummer, waehrend 45674567 eine andere Nummer ist. ChatGPT *kann* das gar nicht wissen. Niemand der den internen Befehl nicht kennt, weder seinen Code noch seine Usage-Ausgabe oder Dokumentation gelesen hat, *kann* das wissen. Dennoch kam eine definitiv und ueberzeugt klingende Antwort von ChatGPT.

In dem Fall waeren falsche Befehle mit weitreichenden Folgen benutzt worden, wenn man ChatGPT verwendet haette!

Faelle wie dieser begegnen mir haeufiger ... und diese kontrollieren zu wollen, erzeugt mehr Aufwand, als die Doku gleich selbst zu schreiben.

Wenn sich Leute Veranstaltungsberichte erzeugen lassen haben, statt sie selbst zu schreiben, dann kommt dabei nur ``Grausuppe'' raus ... absolut glatte Durchschnittlichkeit, die niemand lesen will, weil sie der Durchschnittseinheitsbrei aller Berichte sind und damit so austauschbar wie unnoetig.

Und im Bereich von Inspiration fuer eigene Gedanken -- worauf ich am meisten Hoffnung gesetzt hatte -- bin ich ebenfalls schwer enttaeuscht worden, wie ich bereits berichtet habe: viewtopic.php?t=188645&start=100#p1357868

[LinuxUser1334]

danke werd ich mir komplett durchlesen!

[heisenberg]

Beispielsweise sollte ChatGPT einen firmenintern verwendeten Befehl fuer Nicht-Informatiker erklaeren. So wollte man sich Arbeit bei der Dokumentation sparen. Der Befehl war etwa von solcher Art:

Code: Alles auswählen

steuer-anmeldung.sh -p12345678 -s98765432 foo bar 45674567

ChatGPT hat dann erklaert, dass 45674567 die Steuernummer waere, dabei ist sie das gar nicht, sondern 98765432 ist die Steuernummer, waehrend 45674567 eine andere Nummer ist. ChatGPT *kann* das gar nicht wissen. Niemand der den internen Befehl nicht kennt, weder seinen Code noch seine Usage-Ausgabe oder Dokumentation gelesen hat, *kann* das wissen. Dennoch kam eine definitiv und ueberzeugt klingende Antwort von ChatGPT.

Das kann man doch definieren. welche Elemente welche Bedeutung haben. Wenn kein Kontext geliefert wird, dann phantasiert das System halt rum.

Siehe:
https://chat.openai.com/share/eb989443- ... 7d3d0c2f44

Ich denke, dass man da einfach gut lernen muss, wie man mit den Systemen umgeht. How to ask questions smartly. Unmittelbar perfekte Ergebnisse zu erwarten erscheint mir nicht realistisch.

Hier ist eine andere Annäherung daran, wie man Fragen stellen kann, um bessere Ergebnisse zu bekommen (Englisch):

https://tilburg.ai/2024/01/how-to-get-t ... m-chatgpt/

[Meillo]

Wenn kein Kontext geliefert wird, dann phantasiert das System halt rum.

Eben darum geht es. Wenn ich etwas gefragt werde, von dem ich keine Ahnung habe und es nicht wissen kann, dann sage ich eben das. ChatGPT sagt das nicht, sondern gibt irgendeine plausible aber falsche Antwort und das mit Formulierungen, die Ueberzeugung, Wissen und Souveraenitaet widerspiegeln.

Da es fuer mich keine Moeglichkeit gibt, zu unterscheiden, ob ChatGPT eine korrekte oder falsche Antwort gibt, kann ich es nur Fragen stellen, auf die ich die Antwort selbst kenne und daher ueberpruefen kann bzw. das Thema so gut kenne, dass ich ganz genau weiss, wie ich meine Frage stellen muss und welchen Kontext ich mitliefern muss ... und zudem die Antwort auch schon kenne, da es selbst bei ausreichender Information und richtiger Frage, falsche Antworten gibt (siehe Buchbeispiel). In allen Themen, wo ich mich selbst nicht auskenne, ist es waghalsig ChatGPT zu fragen.

[heisenberg]

Ich habe mich jetzt hauptsächlich auf das Dokumentations-Erstellungs-Thema bezogen. Du antwortest mir aber mit Bezug auf die anderen von Dir angesprochenen Themen.

[ralli]

ChatGPT weist bei mir darauf hin, das Antworten auch falsch sein können. Da wir in unserem Garten auch Eichhörnchen haben (weil meine Frau auch Nüsse als Futter hinstellt), habe ich ChatGPT heute morgen mal gefragt, wieviele Gehirnzellen ein Eichhörnchen hat. Prompt kam die Antwort, es wären 3,5 Milliarden. Das kam mir bereits fragwürdig vor, denn für einen Hund sind das ungefähr 500 000 je nach Rasse und Größe. Also ist das Gehirn eines Eichhörnchen ca 7000 mal leistungsfähiger als ein Hund? Gut das ich die Grundrechenarten beherrsche und das deshalb für unmöglich halte, weil es schlichtweg falsch ist. Aber ich verdamme ChatGPT deshalb nicht, weil doch hinlänglich bekannt ist, das das alles noch im Experimentierstadium ist. Und dafür sind die Ergebnisse in einigen Bereiche bereits ziemlich gut. Heute morgen sah ich einen Film im ZDF: Zukunft der Medizin - kann KI heilen? Guckst Du hier: https://www.zdf.de/verbraucher/wiso/die ... n-100.html. Natürlich kann KI das nicht. Auch ein Arzt kann nicht heilen. Trotzdem war der Film ziemlich interessant, weil er zeigte, wo KI bereits in der Praxis erfolgreich eingesetzt wird. Also sind wir in der Bewertung ein wenig nachsichtig, da alles erst am Start ist.

Gruß ralli

[Meillo]

Ich habe mich jetzt hauptsächlich auf das Dokumentations-Erstellungs-Thema bezogen. Du antwortest mir aber mit Bezug auf die anderen von Dir angesprochenen Themen.

Die erste Haelfte meiner Antwort bezieht sich vollstaendig auf das Dokumentationsbeispiel: ChatGPT *kann* die Antwort nicht kennen, sagt das aber nicht, sondern gibt ein plausible aber falsche Antwort und zwar in einer Weise, wie wenn sie absolut korrekt waere.

Der Rest sind zwar allgemeinere Schlussfolgerungen, die aber auf das Dokumentationsbeispiel ebenfalls zutreffen.

Nichts damit zu tun hat nur dieser Teilsatz: `` da es selbst bei ausreichender Information und richtiger Frage, falsche Antworten gibt (siehe Buchbeispiel)''.