Wo ist denn der Thread Festplatten Geräusche aber nicht bei Root geblieben ?

[GregorS]

Da fehlt was:

Ai won't kill us. It will drive us insane faster.

[Lohengrin]

Geht es hier nicht weiter?
Ich fand die Diskussion um das Seelenleben von AI gut. Bei der Existenz des Laplaceschen Daemons, der Kopenhagener Interpretation, dem Bell-Telefon und Bohm geht es um dasselbe. Dass sich die Diskutanten dann mglw anfauchen, zeigt nur die Schwierigkeit, den eigenen Standpunkt in Frage zu stellen, insb zu erkennen, was man tatsächlich nicht weiß, aber zu wissen glaubt.

[tobo]

Geht es hier nicht weiter?

Das könnte daran liegen, dass der tonangebende Benutzer häufig andere Meinungen abwertet, während seine eigene Expertise scheinbar hauptsächlich auf persönlichen Beobachtungen basiert, wodurch er sowohl fachlichen als auch philosophischen Argumenten auschließlich mit seiner Meinung widerspricht, die bestenfalls nicht durch seine "angepasste" KI aufgemotzt wurden. Wenn dann selbst philosophisch gleichberichtigte Ja/Nein-Aussagen als FALSCH gecancelt werden, dann ist es sinnvoller sich anderswo mit frischen Fehlinformationen zu versorgen...

[Lohengrin]

Das könnte daran liegen, dass der tonangebende Benutzer ...

Das ist mir egal. Das ignoriere ich.
Hier sind aber noch andere unterwegs. hikaru, TuxPeter, ...
Außerdem fand ich die Klamotte mit Sissis Fuß lustig.

[tobo]

Die Reaktion auf Sissis Fuß ist doch schon einigermaßen exemplarisch - was brauchst du denn noch? Wenn du weißt, dass die Autokorrektur durch diese Koryphäe so sicher kommt wie Heiligabend am 24.12., dann macht es mehr Sinn, in zufälligerweise Reihenfolge zu sortieren...

[Lohengrin]

Da es wohl mehrere Threads zum Thema gibt, hole ich etwas von tobo von woanders hervor. Es geht um genau das Thema hier.

LLMs sind zu echter Metakognition nicht fähig - sie haben kein eigenes Verständnis über ihre Funktionsweise oder ihr Bewusstsein. Eine Antwort - egal auf was - wird lediglich durch statistische Muster aus den Trainingsdaten generiert. Und demzufolge erkennen sie auch nicht ihren eigenen Bias oder können diesen reflektieren bzw. eigenständig korrigieren. Aufgrund ihrer Trainingsdaten sind sie jedoch dazu in der Lage, Bias zu wiederholen.

Macht ein Mensch was anderes? Was macht ein Mensch anders? Kann man beweisen, was der Mensch anders macht?

[Lohengrin]

Die Reaktion auf Sissis Fuß ist doch schon einigermaßen exemplarisch - was brauchst du denn noch? Wenn du weißt, dass die Autokorrektur durch diese Koryphäe so sicher kommt wie Heiligabend am 24.12., dann macht es mehr Sinn, in zufälligerweise Reihenfolge zu sortieren...

Wenn der Autor ebenfalls an Sissis Fuß gedacht hat, war die Formulierung gut, der Witz gelungen.

[tobo]

Da es wohl mehrere Threads zum Thema gibt, hole ich etwas von tobo von woanders hervor. Es geht um genau das Thema hier.

LLMs sind zu echter Metakognition nicht fähig - sie haben kein eigenes Verständnis über ihre Funktionsweise oder ihr Bewusstsein. Eine Antwort - egal auf was - wird lediglich durch statistische Muster aus den Trainingsdaten generiert. Und demzufolge erkennen sie auch nicht ihren eigenen Bias oder können diesen reflektieren bzw. eigenständig korrigieren. Aufgrund ihrer Trainingsdaten sind sie jedoch dazu in der Lage, Bias zu wiederholen.

Macht ein Mensch was anderes? Was macht ein Mensch anders?

Z.B. merken Menschen häufig, wenn sie Blödsinn reden (sic). Menschen sind manchmal in der Lage, Einsicht in ihren eigenen Bias zu gewinnen und ihn zu ändern. Einer Maschine - die nur von innen schaut - ist das schlicht niemals möglich.

[Lohengrin]

Z.B. merken Menschen häufig, wenn sie Blödsinn reden (sic). Menschen sind manchmal in der Lage, Einsicht in ihren eigenen Bias zu gewinnen und ihn zu ändern.

Das merken sie erst, wenn sie auf einen Widerspruch stoßen. Und woran erkennen sie das?
Eine Möglichkeit ist, dass es ihnen jemand sagt, und sie das berücksichtigen. Eine andere ist, dass sie es sich selber sagen. Ob man erst in Sprache formulieren muss, um sich selbst zu reflektieren, ist umstritten. Das ist die Sapir-Whorf-Hypothese, die ich für falsch halte.

Der eigene Bias ist fürchterlich (auch sic). Das gilt auch und vor allem in Menschenmassen (LeBon), siehe zB Bonhoeffer Über die Dummheit.

Einer Maschine - die nur von innen schaut - ist das schlicht niemals möglich.

Auch ein Mensch oder eine Menschenmasse schaut nur von Innen. Da geht es um Goedel.
Dieser Götterfunken, Dämon, Inspiration ist vllt nur eine Einbildung.

War es ein Bot, der diese Zeilen schrieb?

[tobo]

Z.B. merken Menschen häufig, wenn sie Blödsinn reden (sic). Menschen sind manchmal in der Lage, Einsicht in ihren eigenen Bias zu gewinnen und ihn zu ändern.

Das merken sie erst, wenn sie auf einen Widerspruch stoßen. Und woran erkennen sie das?
Eine Möglichkeit ist, dass es ihnen jemand sagt, und sie das berücksichtigen. Eine andere ist, dass sie es sich selber sagen. Ob man erst in Sprache formulieren muss, um sich selbst zu reflektieren, ist umstritten. Das ist die Sapir-Whorf-Hypothese, die ich für falsch halte.

Kurze Zwischenfrage - erwartest du ernsthaft, dass man dieses Argument recherchiert und in irgendwelche Überlegung einbezieht?

Der eigene Bias ist fürchterlich (auch sic). Das gilt auch und vor allem in Menschenmassen (LeBon), siehe zB Bonhoeffer Über die Dummheit.

Einer Maschine - die nur von innen schaut - ist das schlicht niemals möglich.

Auch ein Mensch oder eine Menschenmasse schaut nur von Innen. Da geht es um Goedel.
Dieser Götterfunken, Dämon, Inspiration ist vllt nur eine Einbildung.

Das hört sich grob erstmal nach ziemlich dummen Geschwätz an. Metakognition ist die Reflexion über die eigenen Gedanken und Handlungen. Wie da deine Propheten draufschauen - wen interessiert es in diesem Jahrhundert...

War es ein Bot, der diese Zeilen schrieb?

Deine oder meine Zeilen?

[Lohengrin]

Z.B. merken Menschen häufig, wenn sie Blödsinn reden (sic). Menschen sind manchmal in der Lage, Einsicht in ihren eigenen Bias zu gewinnen und ihn zu ändern.

Das merken sie erst, wenn sie auf einen Widerspruch stoßen. Und woran erkennen sie das?
Eine Möglichkeit ist, dass es ihnen jemand sagt, und sie das berücksichtigen. Eine andere ist, dass sie es sich selber sagen. Ob man erst in Sprache formulieren muss, um sich selbst zu reflektieren, ist umstritten. Das ist die Sapir-Whorf-Hypothese, die ich für falsch halte.

Kurze Zwischenfrage - erwartest du ernsthaft, dass man dieses Argument recherchiert und in irgendwelche Überlegung einbezieht?

Ja. Das erwarte ich.
Was geschieht da genau, wenn man seinen eigenen Bias erkennt, und sein Weltbild ändert?

Was meinst du mit recherchieren?
Reicht es, dass ich diese Behauptung hier aufgestellt habe, oder muss das eine Autorität behaupten? Fehlt es mir an Autorität?

Der eigene Bias ist fürchterlich (auch sic). Das gilt auch und vor allem in Menschenmassen (LeBon), siehe zB Bonhoeffer Über die Dummheit.

Einer Maschine - die nur von innen schaut - ist das schlicht niemals möglich.

Auch ein Mensch oder eine Menschenmasse schaut nur von Innen. Da geht es um Goedel.
Dieser Götterfunken, Dämon, Inspiration ist vllt nur eine Einbildung.

Das hört sich grob erstmal nach ziemlich dummen Geschwätz an.

Ist das ein Grund für dich, es zu verwerfen?
Da hast du deinen Bias.

Metakognition ist die Reflexion über die eigenen Gedanken und Handlungen.

Und nochmal: Was geschieht da genau, wenn man seinen eigenen Bias erkennt, und sein Weltbild ändert?
Feierliche Wörter wie Metakognition sind da hinderlich. Ich übersetzte sowas erstmal auf Deutsch. Und dann bleibt Zwischenerkennen ist das Nachdenken über die eigenen Gedanken und Handlungen.
Toll!

Wie da deine Propheten draufschauen - wen interessiert es in diesem Jahrhundert...

Es geht nicht darum, ob ich Propheten habe. Ich meine das, was mit der Eingebung eines Propheten umschrieben wird, was die ollen Griechen δαίμων nannten.

War es ein Bot, der diese Zeilen schrieb?

Deine oder meine Zeilen?

Mann kann auch alles verboltzen.
Da ist jetzt was unter Sissis Füße geraten.

[user8111]

häufig andere Meinungen abwertet

Soviel Selbstkritik hätte ich gar nicht erwartet von tobo:

Auch ein Mensch oder eine Menschenmasse schaut nur von Innen. Da geht es um Goedel.
Dieser Götterfunken, Dämon, Inspiration ist vllt nur eine Einbildung.

Das hört sich grob erstmal nach ziemlich dummen Geschwätz an.

[Meillo]

Z.B. merken Menschen häufig, wenn sie Blödsinn reden (sic). Menschen sind manchmal in der Lage, Einsicht in ihren eigenen Bias zu gewinnen und ihn zu ändern.

Das merken sie erst, wenn sie auf einen Widerspruch stoßen. Und woran erkennen sie das?
Eine Möglichkeit ist, dass es ihnen jemand sagt, und sie das berücksichtigen. Eine andere ist, dass sie es sich selber sagen. Ob man erst in Sprache formulieren muss, um sich selbst zu reflektieren, ist umstritten. Das ist die Sapir-Whorf-Hypothese, die ich für falsch halte.

Ich bin auf die erste KI-Antwort (als direkte Antwort auf eine Frage, ohne dass man sie instruiert oder explizit programmiert hat, sich so zu verhalten) gespannt, in der die KI sagt, dass sie sich nicht sicher sei oder dass sie keine Ahnung von dem Thema hat.

Eine KI hat kein Verstaendnis von Selbsteinschaetzung. Fuer sie ist ihr eigenes Wissen die Gesamtheit allen Wissens. Diese Systeme sind von ihrer ``Reife'' wie ueberhebliche Kinder, die meinen, die Weisheit mit Loeffeln gegessen zu haben. Ihnem Verhalten fehlt das was aus einer Selbsterkenntnis entsteht. So gesehen geht es beim Heranwachsen von Menschen und ihren Gehirnen nicht nur um reines faktisches Wissen, sondern auch um einen Reifeprozess, in dem man erstmal gar nicht weiss, dann alles zu wissen glaubt, dann wiederum zunehmend merkt, wie wenig man weiss ... und sich an diesen Prozess zu erinnern und ihn beim Gegenueber auch zu erkennen. Diesen Reife- und Erkenntnisprozess macht eine KI (derzeit) nicht durch.

Ein Problem in der Bedienung ist, dass man bei einem Kind offensichtlich weiss, dass es nur meint alles zu wissen, das aber nicht sein kann. Die KI kommuniziert stilistisch aber wie ein Professor, hat jedoch den Reifestand eines ueberheblichen Kindes mit dem Wissen eines Lexikons. Es ist schwer, sich davon nicht taeuschen zu lassen.

[user8111]

Ich bin auf die erste KI-Antwort (als direkte Antwort auf eine Frage, ohne dass man sie instruiert oder explizit programmiert hat, sich so zu verhalten) gespannt, in der die KI sagt, dass sie sich nicht sicher sei oder dass sie keine Ahnung von dem Thema hat.

Dann bekommst du hier nun die erste(n)





Wenn sich KIs anders verhalten, ist das extrem oft weniger technisch bedingt als vom Hersteller so gewollt. Weil es "was hermacht", wenn die KI bei allem sicher scheint. Ergo: Sie sind dann so eingestellt, dass sie auch dann weiter machen, wenn das nächste predicted token unwahrscheinlich ist.

[ralli]

Also zunächst sollten wir einmal festhalten, das BIAS (oder kognitive Verzerrungen) das normalste auf der Welt sind. Wir alle sehen unsere Welt durch unsere Brille (Filter) unserer Sozialisation, Ausbildung und Erziehung verschiedener Institutionen und dem sozialen Umfeld unseres Elternhauses, Freunde ect. Dadurch entstanden natürlich im Unterbewußtsein bereits vorgefertigte Meinungen (Vorurteile), auf die dann auch unbewußt zugegriffen wird. Unsere Urteilsfähigkeit sollte aber annähernd objektiv und rational sein. Ob das jemals vollständig gelingt, da habe ich selbst eingeschlossen erhebliche Zweifel. Da es keine absolute Wahrheit gibt, können wir uns nur der wahrscheinlichen und vermuteten Wahrheit annähern. Wir irren uns empor ....

Gruß ralli

[ralli]

Hallo Lohengrin,

schön, das Du wieder da bist, ich hatte Dich sehr vermisst. Du warst für mich stets eine Inspiration und Bereicherung.

Gruß ralli

[Lohengrin]

Eine KI hat kein Verstaendnis von Selbsteinschaetzung. Fuer sie ist ihr eigenes Wissen die Gesamtheit allen Wissens. Diese Systeme sind von ihrer ``Reife'' wie ueberhebliche Kinder, die meinen, die Weisheit mit Loeffeln gegessen zu haben. Ihnem Verhalten fehlt das was aus einer Selbsterkenntnis entsteht. So gesehen geht es beim Heranwachsen von Menschen und ihren Gehirnen nicht nur um reines faktisches Wissen, sondern auch um einen Reifeprozess, in dem man erstmal gar nicht weiss, dann alles zu wissen glaubt, dann wiederum zunehmend merkt, wie wenig man weiss ... und sich an diesen Prozess zu erinnern und ihn beim Gegenueber auch zu erkennen. Diesen Reife- und Erkenntnisprozess macht eine KI (derzeit) nicht durch.

Wenn das Chinesische Zimmer bemerkt, dass es Vorteile bringt, sich so zu verhalten, wird es das tun.

Ein Problem in der Bedienung ist, dass man bei einem Kind offensichtlich weiss, dass es nur meint alles zu wissen, das aber nicht sein kann. Die KI kommuniziert stilistisch aber wie ein Professor, hat jedoch den Reifestand eines ueberheblichen Kindes mit dem Wissen eines Lexikons. Es ist schwer, sich davon nicht taeuschen zu lassen.

Das ist bei Menschen doch nicht anders.
Professoren sind nicht Professoren, obwohl sie sich so verhalten, sondern weil sie sich so verhalten. Wenn sie schlau sind, wissen sie, wann sie Das weiß ich nicht. sagen müssen, und wann sie den Professor raushängen lassen.
Das Ergebnis ist Cargo-Cult-Science. Richard Feynman hat es mit The Map of the Cat vorgeführt.

[Lohengrin]

häufig andere Meinungen abwertet

Soviel Selbstkritik hätte ich gar nicht erwartet von tobo:

Auch ein Mensch oder eine Menschenmasse schaut nur von Innen. Da geht es um Goedel.
Dieser Götterfunken, Dämon, Inspiration ist vllt nur eine Einbildung.

Das hört sich grob erstmal nach ziemlich dummen Geschwätz an.

Könnt ihr beiden diesen Quatsch seinlassen? Das führt zu nichts und stört.

[Lohengrin]

Unsere Urteilsfähigkeit sollte aber annähernd objektiv und rational sein. Ob das jemals vollständig gelingt, da habe ich selbst eingeschlossen erhebliche Zweifel.

Das halte ich für prinzipiell unmöglich. Schon wegen Goedel.
Beim Menschen kommt hinzu, dass Mitgliedschaft in einer Gemeinschaft überlebenswichtig war, und auch noch ist. Ob Künstliche Intelligenz ebenfalls so etwas entwickelt, wird sich zeigen.
Menschen haben zwei Betiebsmodi: Gefolgsmann und Einzelgänger. Der Führer, dem der Gefolgsmann folgt, kann ein Mensch, ein Gott oder irgend ein Prinzip sein. Auch Führer von Gofolgschaften sind oft Gefolgsmann. Manche sind aber auch Einzelgänger.
Grundlegende Neuerungen, geniale Ideen, kommen von den Einzelgängern.

Gefolgsmannen machen haarsträubende Sachen. Aber so eine Menschenmasse ist sehr schlagkräftig. Das ist evolutionär vorteilhaft.
Menschenmassen, die Einzelgänger unterdrücken, verbauen sich die Möglichkeit, sich weiterzuentwickeln. Menschenmassen, die Einzelgängern zuviel Freiheit einräumen, werden von den schlagkräftigen Menschenmassen besiegt.
Es geht um einen Kompromiss.

Gute Schriften dazu sind

• Gustave Le Bon: Psychologie der Massen, 1895
• Dietrich Bonhoeffer: Von der Dummheit, 1943
• Ernst Jünger: Der Waldgang, 1951

Le Bon hat erkannt und auch geschrieben, dass er selber Teil dieser Massenseele sei, und da nicht raus könne.
Bonhoeffer hat in Von der Dummheit nichts davon geschrieben. Ob er erkannt hat, dass er mit seinem Christentum drinhängt, ist unklar.

Und natürlich Richard Feynman.
Jetzt frage ich mich, in wie weit ich Richard Feynman zu meinem Führer gemacht habe.

Da es keine absolute Wahrheit gibt, können wir uns nur der wahrscheinlichen und vermuteten Wahrheit annähern. Wir irren uns empor ....

Besser:
Falls es eine absolute Wahrheit gibt, können wir sie nicht kennen.

[ralli]

So ist es, "Gustave Le Bon: Psychologie der Massen, 1895 habe ich bereits gelesen", die beiden anderen werden folgen.

Gruß ralli

[Chameleon]

…, 1895 habe ich bereits gelesen", …

Boah ey, du bist ja ganz schon alt.

[debilian]

Boah ey, du bist ja ganz schon alt.

Zu Gast bei den Hundertjährigen!