KI - Chancen oder Risiken, Fluch oder Segen?

[rockyracoon]

@ralli:

...aber wir wissen doch alle, das ein Einvernehmen darüber besteht, das das noch im Experimentierstadium ist.

Die meisten hier sicher, aber in den Medien regiert bereits das "Surplus-Meaning".

[Huo]

Spaß beiseite, der Ausdruck "halluzinieren" für AI-Systeme bewahrt davor anzunehmen, es handele sich um menschenähnliches Denken.
Und "halluzinieren" beinhaltet auch die Warnung vor Fehlern im Sinne von Surplus-Meaning.
Selbst von "assoziieren" zu reden ist noch viel zu schmeichelhaft für solche neuronal-ähnlichen Netze.

Ich habe kürzlich einen Vortrag über ChatGPT und linguistische Theorie an der hiesigen Uni besucht. Der Vortragende bevorzugte statt "halluzinieren" den Ausdruck konfabulieren. Ob "halluzinieren", "assoziieren" oder "konfabulieren": es sind allesamt anthropomorphe, der Psychologie entlehnte Begriffe – genauso wie "Intelligenz". Will man sich ensthaft mit dem Phänomen befassen, führt wohl kein Weg daran vorbei, sich um ein echtes Verständnis der Arbeitsweise einer Künstlichen Intelligenz (mit Betonung auf "künstlich") zu bemühen, ohne vorschnell menschliche Eigenschaften auf die KI zu übertragen.

[rockyracoon]

@Huo:
Klar sind Begriffe wie "halluzinieren", "assoziieren" oder "konfabulieren" irgendwie unzulässig und immer noch anthropomorph.
Sie vermitteln aber den Hinweis auf eine hohe Beschränktheit solcher AI-Systeme bis hin zu Irrtumsanfälligkeit und bauen so in den sozialen Medien des Mainstreams daher allgemeinverständlich der Annahme vor, dass hier komplexes Denken stattfände. Informatik-Insider brauchen solche Warn-Etiketten nicht, weil sie wissen, was in der Black-Box ist.

Zum Thread-Thema ("Fluch oder Segen") zurück:
Ich meine, wenn Auftraggeber sich der Grenzen von AI-Tools bewußt sind und Sicherheitsfilter einbauen, dann können diese imho durchaus sehr hilfreich angewendet werden, weil große Datenmengen dadurch sehr schnell analysiert werden können. Je begrenzter und erprobter die Vorgaben und Trainings neuronaler Netze sind, um so höher ist imho der Gewinn. Am Anfang und am Ende muß aber ein fachkundiger Mensch stehen, welcher ein Monitoring des Gesamt-Vorgangs vornimmt. Zum jetzigen Zeitpunkt würde ich mich zum Beispiel nie in ein AI-gesteuertes Auto setzen, aber einen Vorteil darin sehen, wenn ein Neurochirurg sein Urteil über bildgebende Verfahren mit AI überprüft, weil da tausende hochkompetente Erfahrungswerte früherer Chirurgen eingespeichert sind.

[heisenberg]

Ich habe gerade den Gedanken, dass diese "KI" durchaus etwas mit menschenähnlicher Intelligenz zu tun hat.

Als Beispiel nehme ich mal den kürzlichen Thread: USB Backup - Fortsetzung.

Ich habe einerseits schon viel zum Thema SMR gelesen und andererseits ist meine Erinnerungsfähigkeit lückenhaft. Dementsprechend fiel dann mein erster Beitrag aus. Als dann @niemand weitere Details ergänzte habe ich mich erinnert, d. h. die Erinnerung konnte ein Ja / Nein auf bestimmte Worte liefern bzw. es war hatte dann eine Auffrischung für die restlichen Daten zur Folge, an die ich mich dann wieder besser erinnerte und konnte damit ohne vollständiges sicheres Wissen den Rest "intuitiv" rekonstruieren. Ich würde sagen, das ist auch eine Beschreibung, wie die "KI" mitunter arbeitet. Es verknüpft Informationen (und die Verknüpfung ist wie bei Menschen (bei manchen mehr, bei manchen weniger) auch mitunter falsch.).

Andererseits funktioniert menschliche Intelligenz auch nicht immer so gut, wie man hier an manchen - wenigen Beiträgen - sehen kann.