KI - Chancen oder Risiken, Fluch oder Segen?

[ralli]

Zuerst sollten wir mal klären, was Intelligenz überhaupt ausmacht, wie sie entsteht und wie sie sich im Laufe der Menscheitsgeschichte entwickelt hat. Wenn ein Mensch als intelligent bezeichnet wird, sagt das noch lange nichts aus über seinen Charakter. Er kann je nach Veranlagung und Disposition diese Intelligenz konstruktiv oder destruktiv einsetzen.

Weil das immens wichtig ist, möchte ich noch einmal auf die divergierenden Unterschiede zwischen Begabung und Intelligenz zurückkommen.

Hochbegabung, Begabung und Intelligenz werden immer im gleichen Atemzug genannt. Ein fataler Irrtum, der wissenschaftlich längst widerlegt ist.

Wissen kann erworben und konsumiert werden. Es ist das Produkt des
Gesellschaftscharakters. Wissen ist ein Produkt.

Wissen ist nur ein Instrument. Es erbt aber die Werte aus der Gesellschaft, in der es eingebettet ist.

***************************************

In einer hoch militarisierten Gesellschaft sind Wissenschaft und
Technologie von den Werten des Militärs geprägt.

In einer Gesellschaft, deren Werte hauptsächlich vom Streben nach Reichtum und Macht abgeleitet sind, sind sie entsprechend gestaltet. Die Werte der Wissenschaft, eingebettet in eine vernünftige Gesellschaft, würden vernünftig, also human sein. Dann würden die von ihr abgeleiteten Technologien nicht mehr dem Tod dienen, sondern dem Leben.

(Joseph Weizenbaum)

**************************************

Auch der IQ ist nicht die einzige Quelle der Wahrheit.

Der allergrösste Widerspruch liegt aber darin begründet, das das Leben und die Verhaltensweisen von lebendigen Menschen niemals berechenbar sind. Und es auch niemals werden. Da hilft uns auch keine KI.

Am Einflussreichsten dürfte allerdings Herrnstein & Murray's: The Bell Curve: Intelligence and Class Structure in American Life (1994) gewesen sein. Einige ihrer Schlussfolgerungen: Ob der IQ wirklich für unterschiedlichen Zugang zu Berufen verantwortlich ist, ist fraglich.

Es gibt drei Möglichkeiten:

1. Der IQ widerspiegelt wirklich die Bildung

2. Der IQ widerspiegelt den Status eines Berufes, weil wir in einer
Welt künstlicher Beglaubigungen leben

3. Der IQ, kognitive Fähigkeit, rein intellektuelle Pferdestärken hat
Marktwert, Diplome sind nicht Beglaubigungen, sondern
Intelligenztests, denn Intelligenz ist die Grundlage der
Produktivität.

Statistische Korrelationstests zeigen allerdings regelmässig einen äusserst schwachen Zusammenhang zwischen Intelligenz und Beruf oder Position (was die Untergebenen meist weniger verwundern wird als diejenigen, die die hohen Löhne begründen sollten).

Studien zum Thema Intelligenz, insbesondere wenn sie auf deren Vererblichkeit hinweisen, sind "politically not correct" und werden sogar von denen, die eigentlich für die Unterlegenen einstehen sollten, oft als rassistisch abgetan. Wenn man allerdings die Realität mit einem dicken Teppich von "was nicht sein darf, ist nicht" zudeckt, löst das noch lange keine Probleme.

Weitere Probleme sind der zeitliche Aufwand, die Vielzahl an Intelligenztypen (s. Spearman) und Tests und die mässige Lust von Befragten, sich solchen zu unterziehen (was allerdings eben so oft widerlegt wurde).

Eine Begabung aber ist ein Geschenk der Natur, versehen mit dem
Schöpfungsauftrag, dieses angemessen zu benutzen und zu vervollkommnen.

Und damit sind Begabungen auch ein Geschenk der Schöpfung und eine Veranlagung.

Kreative und schöpferische Intelligenz ist immer produktiv und entsteht aus unserem innersten Wesenskern.

Unser derzeitiger Gesellschaftscharakter besteht schon aus einem überbordendem und fraglichem Expertentum. Kein Tag vergeht, wo uns nicht als Service, im Netz oder in den Medien Experten erklären, wie wir zu leben haben und wie nicht. Für mich kommt das einer Entmündigung gleich. Menschen sollten eigene Erfahrungen (positive wie auch negative) machen, genau das wird Ihnen durch das aufdringliche Expertentum genommen. Und nun gesellt sich noch "angebliche" KI dazu, das wird auf Dauer zu keiner höheren Intelligenz beitragen, sondern zu einer ausufernden Verdummung und geistigen Verarmung.

Kant schrieb am 5. Dezember 1783:

AUFKLÄRUNG ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Mutes liegt, sich seiner ohne Leitung eines andern zu bedienen. Sapere aude! Habe Mut, dich deines eigenen Verstandes zu bedienen! ist also der Wahlspruch der Aufklärung.

Und weiterhin:

Faulheit und Feigheit sind die Ursachen, warum ein so großer Teil der Menschen, nachdem sie die Natur längst von fremder Leitung freigesprochen, dennoch gerne zeitlebens unmündig bleiben; und warum es anderen so leicht wird, sich zu deren Vormündern aufzuwerfen. Es ist so bequem, unmündig zu sein. Habe ich ein Buch, das für mich Verstand hat, einen Seelsorger, der für mich Gewissen hat, einen Arzt, der für mich die Diät beurteilt usw., so brauche ich mich ja nicht selbst zu bemühen.

..... Zu dieser Aufklärung aber wird nichts erfordert als Freiheit; und zwar die unschädlichste unter allem, was nur Freiheit heißen mag, nämlich die: von seiner Vernunft in allen Stücken öffentlichen Gebrauch zu machen.

Aha, hier werde ich bereits dazu aufgefordert, selbst zu denken und zu handeln. Ich freue mich auf einen sachlichen Dialog mit Euch und Eure Meinungen (Fakten zur KI gibt es ja bereits genug). Wenn wir uns von selbsternannten Experten und von KI) abhängig machen, sind wir nicht mehr wir selbst. Das jedenfalls ist meine persönliche Meinung.

Natürlich ist KI für "Roßtäuscher, Blender, Lügner und Betrüger ect" die sich schon immer anderer Leistungen bedienten ein gefundenes Fressen.

Selbst lehne ich KI aber nicht grundsätzlich ab, aber alle durch KI generierten Ergebnisse sollten als solche gestzlich verpflichtend gekennzeichnet werden, damit kein Mißbrauch damit betrieben werden kann.

weihnachtliche Grüße ralli

[TuxPeter]

Und nun gesellt sich noch "angebliche" KI dazu, das wird auf Dauer zu keiner höheren Intelligenz beitragen, sondern zu einer ausufernden Verdummung und geistigen Verarmung.

Diese Befürchtung teile ich durchaus. Zwar würde ich Deine Argumente an etlichen Stellen anders gewichten, finde aber kaum Anlass zu grundsätzlichem Widerspruch.

Im Grunde ist der Begriff "Intelligenz" genauso irrlichternd wie der Begriff "Leistung" (außerhalb seiner rein physikalischen Anwendung). Wobei der Begriff "Intelligenz" keine solch physikalisch eindeutig messbare Verwendung hat, sondern immer nur in einem sozialen Kontext definiert werden kann (zumeist sogar nur in dem Setting eines IQ-Tests) - insofern können Maschinen über gar keine Intelligenz verfügen. Es sei denn, man erweitert den Begriff in dem Sinne, dass man sagt: Der Faustkeil ist intelligenter als der Stein, der Tisch intelligenter als das Stück Holz, aus dem er gemacht wurde. Das würde bedeuten, dass mit der menschlichen Arbeit etwas inmaterielles, eben die Intelligenz, vom Menschen auf den (materiellen) Gegenstand übertragen wurde. Ich sag's ja schon immer, mein Auto lebt, und wenn ich ihm gut zurede, springt es auch besser an.

[schwedenmann]

Hallo

Natürlich ist KI für "Roßtäuscher, Blender, Lügner und Betrüger ect" die sich schon immer anderer Leistungen bedienten ein gefundenes Fressen.

Genau das ist meine größte Sorge rund um KI, was Wissenschaft,Forschung und lehre angeht.

Heute werden doch schon Referate an Schule und Uni,sowie Hausarbeiten,Bachalor und sogar masterarbeiten von ghostwritern geschrieben. Das wird mit KI zunehmen, da man das kaum erkennen kann.

Bei besseren wissenschaftlichen Arbeiten,als bachalor oder Hausarbieten sehe ich kein so großes Mißbrauchspotenzial (jedenfalls z.B. bei Archäologie, Kunstgeschichte oder Mediävistik), weil ein großteil der Arbeiten eben nicht digital vorliegt, die KI deshalb nciht lernen kann. Bei solchen KI-genrierten Texten würde die KI sehr schnell auffallen.



mfg
schwedenmann

[ralli]

Finde ich sehr interessant. Es laufen erste Klagen gegen ChatGPT und Microsoft von der New York Times (und auch von vielen Schriftstellern), die ihr geistiges Eigentum gegen Mißbrauch durch das Geschäftsmodell KI schützen will.

Guckst Du hier:

https://www.tagesschau.de/wirtschaft/di ... t-102.html

Gruß ralli

[rockyracoon]

Im Grunde sind die wesentlichen Dinge von Euch schon gesagt worden. Aber hier dennoch auch vom mir ein paar Sätze zum Thema:

- KI (besser AI) ist ein Instrument, was sinnvoll eingesetzt werden kann. Wir kennen ja auch Algorithmen, welche uns helfen, Maschinensprache zu programmieren. Will sagen, AI kann uns helfen, hochkomplexe Vorgänge besser meistern zu können. In der Biochemie und anderen Gebieten zum Beispiel gibt es da jetzt schon durch AI-Anwendungen eine signifikante Beschleunigung der Arbeitsprozesse.

- Ein AI-Programm ist nur so brauchbar, wie gut es "geschult" wurde und in der Regel gibt es leider kein Update an dessen "Wissen". Somit sind wie oben auch schon gesagt, die Ergebnisse einer AI-Anfrage sehr mit Vorsicht zu genießen, beziehungsweise kritisch und fachkundig nachzubearbeiten.

- Wie oben von schwedenmann schon angesprochen, kann man mit AI "kleine" Schummeleien machen, bei einer Master-Prüfung oder Doktorarbeit wird aber kräftig mündlich nachgefragt und da hilft nur der eigene Wissenstand, beziehungsweise ein Schummler ist da schnell entlarvt.

- AI wird auch gerne von Leuten gehypt, welche so gar keine Ahnung von der Materie haben. Ähnliches haben wir es mit Effekten der Quantenphysik erlebt (Superposition; Verschränkung; Tunneln). Diese Effekte werden tumberweise auf die Makrophysik übertragen und müssen dann für esoterisches Unsinnsgeschwurbel herhalten. Und bei AI geht es dann auch nicht nur um "Intelligenz", sondern gleich mächtig um "Bewußtsein" und "Ich-Erleben", was absurderweise der Maschine zugeschrieben wird. Fragen, welche wir selbst bei uns als Menschen meist noch nicht so recht geklärt und auf dem Bildschirm haben. Daher gibt es Mysik und Religionen bis hin zum "fliegenden Spaghettimonster". Kurzum, ich halte eine solche "Vermenschlichung" von Algorithmen für unsinnig.

- Es bleibt beim Thema "AI" das Problem des Copyrights und der Autorenschaft.

@ralli:
Eine Begabung aber ist ein Geschenk der Natur, versehen mit dem Schöpfungsauftrag, dieses angemessen zu benutzen und zu vervollkommnen.

Daoisten sprechen hier von der Möglichkeit der Selbst-Kultivierung.

Mit dem Wort "Schöpfungsauftrag" gehst Du in Bereiche, welche die AI-Mathematik nicht abdecken kann und eigentlich auch nicht muß.
Empathie, Moral, Liebe, Schuld etc. und andere menschlichen Phänomene wie Synästhesie, Maluma-Takete-Effekt, Schmerz, Freude, Sterblichkeit, Körperempfinden usw. kann man mit Algorithmen zwar imitieren oder schärfer formuliert, nachäffen, aber nicht wirklich generieren. In der menschlichen "Hardware" (= Gehirn) werden solche Phänomene von chemischen (Endomorphine) oder elektrischen (Nervenleitbahnen) Vorgängen begleitet, sie sind damit aber nicht identisch. Die Bauteile eines Radios geben Musik wieder, sind aber nicht der Sender. In der "Metaphysik" von Aristoteles findet sich sinngemäß der Satz: "Das Ganze ist etwas anderes als die Summe seiner Teile".
Interessehalber habe ich einem KI-Programm das Koan "Why came Bodidharma from the West?" vorgelegt und bekam die befriedigende Antwort, dass "eine solche Frage nicht dazu gedacht ist, im alltagssprachlichen Sinn beantwortet zu werden, sondern dazu anzuregen soll, über oberflächliches Denken hinauszugehen und zum augenblicklichen undualistischen realen Daseinszustand zu finden". Erfreulicherweise wurde bei dieser Antwort das Koan auch nicht "gelöst", weil das nur Jeder für sich und sprachfrei erreichen kann.
Natürlich hat sich die Maschine das nicht selbst ausgedacht, sondern sie wurde von einem Menschen kunstfertig mit der Weisheit einer menschlichen Quelle gefüttert.

[fischig]

Zuerst sollten wir mal klären, was Intelligenz überhaupt ausmacht

Ich kann nicht erkennen, wo du das in deinem Eingangspost einlöst.

Der von Livingston vorgeschlagene Ansatzpunkt einer Auseinandersetzung mit KI erscheint mir sinnvoller.

Schon interessant, dass in dem EU-Papier nicht einmal der Ausdruck "neuronale Netze" oder "Maschinenlernen" auftaucht. Das käme nämlich dem, was mit dem emotional überladenen Buzz-Wort von Künstlicher "Intelligenz" gemeint ist, wesentlich näher. Aber dann müsste man ja genau definieren, worum es eigentlich geht.

¹
rallis Kant-Zitate stammen aus dessen Aufsatz: Was ist Aufklärung, online hier nachzulesen.
Meine Zusammenfassung des Kant-Aufsatzes ist schlichter: Kant fordert dazu auf selbst vernünftig zu denken Er spricht von Vernunft nicht von Intelligenz. Das ist durchaus nicht identisch. Aber wenn Intelligenz=Vernunft zumindest teilweise angeboren sein mag (K. Lorenz über Kant), dann mag ja auch dem „ganzen schönen Geschlecht“ (O-Ton Kant! a.a.O.) die Fähigkeit abgehen, selbst vernünftig denken zu können. Dann mag's ja auch sowas wie Vernünfte geben.
ss
¹ viewtopic.php?t=188638&hilit=neuronale+netze

[rockyracoon]

Der von Livingston vorgeschlagene Ansatzpunkt einer Auseinandersetzung mit KI erscheint mir sinnvoller.

Schon interessant, dass in dem EU-Papier nicht einmal der Ausdruck "neuronale Netze" oder "Maschinenlernen" auftaucht. Das käme nämlich dem, was mit dem emotional überladenen Buzz-Wort von Künstlicher "Intelligenz" gemeint ist, wesentlich näher. Aber dann müsste man ja genau definieren, worum es eigentlich geht.

Tatsächlich entsteht bei dem Begriff "künstliche Intelligenz" ohne nüchternes Hintergrundswissen über deren "Beschaffenheit" neben dem erwähnten esoterischen Hype schnell auch bei vielen Normalwissenskonsumenten ein heftiges Surplus-Meaning, also vulgo "hi­n­ein­ge­heim­nis­sen".
Es gibt in der forschenden Psychologie ein ähnliches Phänomen, nämlich bei der Faktoren- und Clusternanalyse. Die Faktoren oder Cluster werden vom Forscher benannt, um sie möglichst gut zu charakterisieren. Der Laie liest schnell projektiv und assoziativ in die Namen nicht damit zusammenhängende Eigenschaften hinein.

[Draal]

Wenn ich mal in die Vergangenheit schaue, was IT betrifft, sehe ich in KI einen Abgrund:

• Ende der 60er verstand der Vorstand von Xerox nicht, was vernetzte Computer aus ihrer Entwicklungsabteilung bedeuten könnten
• Über die Jahre fehlten dieser Branche Visionen
• Die Welt wurde von einer IT Monokultur überschwemmt, weil das ja scheinbar einfacher war
• Ein Leitsystem für einen mächtigen Prozess wurden angeschafft, als es schon veraltet war

Ich habe mit Prozessleitsystem zu tun und die reagieren oft dermassen schnell, dass ein Mensch das gar nicht bewerkstelligen könnte. Sie treffen auch Entscheidungen. Aber sie laufen nach Algorithmen, die ihnen einprogrammiert wurden.

Neuronale Netze kenne ich schon seit 30 Jahren. Ich empfehle jedem das Buch "Also sprach Golem" von Stanislaw Lem, das sich sehr nachhaltig mit dem Thema KI befasst.
AI's sind erst seit einigen Monaten auf die Menschen losgelassen worden. Der Springer Konzern lässt die 'Aussenkommunikation' mittelfristig über eine KI laufen.

Und wenn ich mir ansehe, was man alles für einen Blödsinn mit diesen angebotenen KIs anstellen kann, dann sehe ich eine gewaltige Menge an Desinformation auf uns zukommen. Es hat sich leider in der Vergangenheit gezeigt, dass Politik nicht auf Wissenschaft hört.

[tobo]

Na ja, was die Begrifflichkeit angeht, ist das eigentlich ziemlich klar: Intelligenz ist nicht klar definiert - demzufolge ist auch Künstliche Intelligenz nicht klar definiert. Jemand, der rot nicht kennt, der kennt auch dunkelrot nicht. Die Verschlagwortung zur künstlichen Intelligenz ist also in etwa genau so richtig/falsch wie die Kritik daran und damit subjektiv bzw. Sache der Motivation und Interpretation.

[rockyracoon]

@tobo: Yep.

Eigentlich sollte man von einem "Kognitive Instrument" als KI reden. Schlecht definierte Begriffe wie "Intelligenz" irritieren dazu nur.
AI ist einfach nur ein Instrument, genau so wie ein Taschenrechner, der auch menschliches Rechenkönnen imitiert.

Heute gab es im Deutschlandfunk eine sehr gute Diskussion zu AI (DLF-"Marktplatz": Digitaler Sekretär - Künstliche Intelligenz für den Hausgebrauch - live vom 37. Chaos Communication Congress in Hamburg / siehe auch: https://www.ccc.de/de/updates/2023/37C3).
Behalten habe ich mir dabei zum Beispiel, dass ein Rasenmäher auch besser Gras beseitig als ein Mensch, so wie KI manche Aufgaben schneller und besser bewältigt.

[rockyracoon]

Nachtrag 1:

Um noch einmal den genialen Erkenntnistheoretiker Immanuel Kant ins Spiel zu bringen:

Ich würde seine Begriffe "A-Priori-Urteile" ("analythisch" - unhinterfragbare Werkzeuge des Denkens) und "A-Posteriori-Urteile" ("synthetisch" - auf Erfahrung und Ausprobieren beruhendes Wissen) aus seiner "Kritik der reinen Vernunft" in Hinblick auf AI betrachten. Zum Auswerten von Erfahrungen benötigt man wiederum eine A-Priori-Urteilsfähigkeit. Mir scheint, dass das Lernen von Maschinen auf dem A-Posteriori-Wissen beschränkt ist, während ein A-Priori-Wissen vernunftsbegabten Wesen (und das müssen nicht unbedingt nur Menschen sein, aber eben keine Maschinen) vorbehalten ist. Eine AI-Maschine benötigt daher ein vernunftsbegabtes Wesen mit A-Priori-Urteilsfähigkeit, um trainiert werden zu können.

https://www.spektrum.de/lexikon/philoso ... steriori/6
https://de.wikipedia.org/wiki/Analytisches_Urteil

[rockyracoon]

Nachtrag 2:

Ein Bedürfnis ist es mir, zum Thema "AI und A-Priopri und A-Posteriori", den zu wenig beachteten, beziehungsweise meist aus Mangel an "Intelligenz" nicht verstandenen Ludwig Wittgenstein aus seinem Tractatus Logico Philosophicus zu zitieren:

(1) Zu A-Posteriori-Urteilen:

4.116 Everything that can be thought at all can be thought clearly.
Everything that can be said can be said clearly.

6.5 For an answer which cannot be expressed the question too can-
not be expressed.
The riddle does not exist.
If a question can be put at all, then it can also be answered.

Aus: Ludwig Wittgenstein, Tractatus logico-philosophicus, 1922.

> Das kann man einer Maschine beibringen.

(2) Zu A-Priori-Urteilen:

6.52 We feel that even if all possible scientific questions be answered,
the problems of life have still not been touched at all. Of course
there is then no question left, and just this is the answer.

6.522 There is indeed the inexpressible. This shows itself; it is the
mystical.

Aus: Ludwig Wittgenstein, Tractatus logico-philosophicus, 1922.

> Das kann man manchen Menschen, aber sicher keiner Maschine näherbringen.

Und Last Not At Least Least:

7 Whereof one cannot speak, thereof one must be silent.

Aus: Ludwig Wittgenstein, Tractatus logico-philosophicus, 1922.

> Schweigen können Mensch und Maschine. Sollten sie auch immer mal wieder.

Siehe auch: Yello - Waba Duba - https://www.youtube.com/watch?v=nN9DaTXV0b0 >

[fischig]

In der „Süddeutschen“ vom 28.12.2023, S. 14 fand ich ein sehr interessantes Interview mit Yoshua Bengio, einem der KI-Päpste, wenn ich recht sehe. Kann ich leider nicht sinnvoll verlinken, das Bezahl-Inhalt.Hier mal ein Auszug, den ich wichtig fand:

[Bengio] Wir Menschen haben ein Gehirn, einen Körper. Und der ist irgendwann weg. Unsere Gesellschaft ist für Wesen wie uns gebaut.
[Frage] Für Sterbliche
[Bengio] Das ist nicht nur ein soziales und philosophisches Problem, es ist auch ein praktisches. Wenn wir KI-Systemen Bewusstsein zuschreiben, bedeutet das, dass wir ihnen die Freiheit zugestehen, sich selbst zu erhalten. Das Recht auf Leben. Das Recht, nicht ausgeschaltet zu werden
[Frage] Und dann sind wir in Schwierigkeiten ...
[Bengio] Ja, denn nur solange sie so mächtig sind wie wir, können wir koexistieren und zusammenarbeiten. Aber wenn sie viel mächtiger werden als wir und sich mehr um ihr eigenes Leben kümmern als um unseres, sind wir in Gefahr. Je nachdem, ob sie uns für nützlich halten oder nicht.
[Frage] Aber wie realistisch ist dieses Szenario?
[Bengio] Ich möchte diese Wette nicht eingehen. Ich möchte, dass meine Kinder und Enkelkinder nicht Gefahr laufen zu verschwinden, weil es Leute gibt, die solche Wetten eingehen.

Weiterhin fehlen der KI nach Bengio „logisches Denken“, Fähigkeit zu Selbstzweifeln.
Ein paar Tage/Wochen vorher wurde in dergleichen Zeitung ebenfalls ein ITler interviewt, von dem ich annehme, dass der zu den Leuten gehört, „die solche Wetten eingehen“ wollen. Name ist mir entfallen.

KI/neuronale Netze, wie auch immer, erfasst man nicht mit Überlegungen zur Vernunft, gelingendem Leben, Ethik. Und „kreieren“ ist vielleicht nochmal was anderes als „generieren“. Da wird nichts Individuelles sein, keine Emotionalität kurz: nichts Humanes. Und mit Bengio denke ich schon, dass das ein Gefahrenpotential für die Menschheit bildet.

Und noch zwei Zitätchen dazu:

Andrea Die Wissenschaft kennt nur ein Gebot: den wissenschaftlichen Beitrag.
Galilei Den habe ich geliefert. Willkommen in der Gosse, Bruder in der Wissenschaft und Vetter im Verrat.
[...]
Ich halte dafür, dass das einzige Ziel der Wissenschaft darin besteht, die Mühseligkeit der menschlichen Existenz zu erleichtern.

(Bertold Brecht, Leben bes Galilei, 14. Bild z.B. [Gesammelte Werke, Bd.3, S. 1339f.])

der Versuch, den Himmel auf Erden einzurichten, erzeugt stets die Hölle.

(Karl Raimund Popper [1958], Die offene Gesellschaft und ihre Feinde. Band II, Tübingen, 1992, S. 277)

[rockyracoon]

@fischig:

...Weiterhin fehlen der KI nach Bengio „logisches Denken“, Fähigkeit zu Selbstzweifeln...

Kann man einem neuronalen Netz Alles täuschend echt eintrainieren.
Wie oben gesagt, ist die Imitation vernunftbegabter Wesen per AI sehr perfekt.
Aber das Entscheidende ist eben, wer das Training vornimmt und dass das trainierte neuronale Netz kein Update (Neulernen) kennt.

Wer hat uns (Menschen) eigentlich "trainiert"?
- Materialistisch betrachtet der Kosmos via Evolution und Genetik. Sind wir dann ebenfalls nur "neuronale Netze"?
- Wer "transzendental " denkt, nimmt a la "fliegendes Spaghettimonster" einen Dualismus ("diesseitige Welt contra jenseitige Wirklichkeiten") an.

So what?

Der Gott der Südregion ("Zerstreutheit") und der Gott der Nordregion ("Unerwartet") trafen den Gott der Mittelregion ("Chaos") und wollten ihm etwas Gutes tun. Sie stellten fest, dass alle Menschen 7 Öffnungen haben (2 zum Sehen, 2 zum Hören, 1 zum Essen, 1 zum Atmen, 1 zum Ausscheiden) und bohren ihm daher jeden Tag eine solche Öffnung. Am siebten Tag war das Chaos tot.

Nach: Dschuang Dse, Das wahre Buch vom südlichen Blütenland, "Innere Kapitel", 7.

Siehe auch: James Legge, 1989 (First Published 1891). The Texts Of Taoism. Volumes 1&2.
The Writings Of Chuang Tzu (Books I-XVII). Scotland: Tynron Press. ISBN 1-871948-61-4.
oder
Victor H. Mair. 1998. Zhuangzi. Das klassische Buch daoistischer Weisheit. Frankfurt: Wolfgang Krüger Verlag. ISBN 3-8105-1259-1
Orginalausgabe: 1994. "Wandering On The Way". New York: Bantam Books.

[fischig]

Wie oben gesagt, ist die Imitation vernunftbegabter Wesen per AI sehr perfekt.

Vernünftige Menschen täuschen nicht, vielleicht noch, wenn sie dafür „gute“ Gründe meinen zu haben. Jetzt denk' dir mal gute Gründe für „vernünftige“ Maschinen.

Ich habe oben in meinem letzten Beitrag noch was vergessen: Kannst du dir weise Maschinen vorstellen?

[rockyracoon]

@fischig:

...Vernünftige Menschen täuschen nicht...

Meiner Erfahrung nach leider schon. Sie täuschen "unbewußt" sich selbst, weil sie glauben, wach zu sein und täuschen egozentrisch Andere, um Macht und Vorteile zu ergattern.

...Jetzt denk' dir mal gute Gründe für „vernünftige“ Maschinen...

"Vernünftige Maschinen" - was soll das sein?
Machinen sind Instrumente von Menschen.

...Kannst du dir weise Maschinen vorstellen?...

Nein.
Aber so viele Haare wie das Fell eines Löwen hat, so gleicht nur ein Haar davon einem weisen Menschen...

[fischig]

Meiner Erfahrung nach leider schon. Sie täuschen "unbewußt" sich selbst, weil sie glauben, wach zu sein und täuschen egozentrisch Andere, um Macht und Vorteile zu ergattern.

Und Menschen, die das machen/denen das passiert, bezeichnetest du als vernünftig?

"Vernünftige Maschinen" - was soll das sein?

Vielleicht reden wir aneinander vorbei:

die Imitation vernunftbegabter Wesen per AI (ist) sehr perfekt.

Was nun: täuschen sie uns - dann halte sich sie nicht für vernünftig. Oder sind sie vernünftig, dass sehe ich keinen „guten“ Grund, uns zu täuschen?

[rockyracoon]

@fischig:

Vielleicht reden wir aneinander vorbei

Yep.
Ich meinte "Menschen" allgemein, Du glaubst, dass viele Menschen vernünftig seien.
Mit "vernunftsbegabt" meine ich eine Option, welche aus meiner Sicht die Mehrzahl der Menschen nicht nutzt.
Sie nutzen meiner Meinung nach ihre Ressourcen zum ergattern von Konsum nichtiger Dinge.

"Hergeweht vom Osten - sammeln sich im Westen - Blätter, Laub". (Yosa Buson)

[fischig]

Du glaubt, dass viele Menschen vernünftig seien.

Das meine ich durchaus nicht, bzw. lasse offen, wie viele das sein mögen.

Mir geht's mit Bengio darum, ob Maschinen vernünftig sein können und damit einen Anspruch auf Autonomie und Würde (Kant, GMS) haben können/sollen.

Bengio Wenn wir KI-Systemen Bewusstsein zuschreiben, bedeutet das, dass wir ihnen die Freiheit zugestehen, sich selbst zu erhalten. Das Recht auf Leben. Das Recht nicht ausgeschaltet zu werden.

(a.a.0)
Dass Maschinen ziemlich schlau sein können bestreite ich weder, noch will ich ihnen das verwehren - zum Begriff der Schauheit/Klugheit, hat Aristoteles ziemlich Grundlegendes geschrieben.

[rockyracoon]

@fischig:

Mir geht's mit Bengio darum, ob Maschinen vernünftig und damit einen Anspruch auf Autonomie und Würde (Kant, GMS) haben können/sollen.

Verstanden.

Dann muß ich mich zu dieser Frage oben zitieren:

Wer hat uns (Menschen) eigentlich "trainiert"?
- Materialistisch betrachtet der Kosmos via Evolution und Genetik. Sind wir dann ebenfalls nur "neuronale Netze"?
- Wer "transzendental " denkt, nimmt a la "fliegendes Spaghettimonster" einen Dualismus ("diesseitige Welt contra jenseitige Wirklichkeiten") an.

und

Machinen sind Instrumente von Menschen.

und

So what?

Der Gott der Südregion ("Zerstreutheit") und der Gott der Nordregion ("Unerwartet") trafen den Gott der Mittelregion ("Chaos") und wollten ihm etwas Gutes tun. Sie stellten fest, dass alle Menschen 7 Öffnungen haben (2 zum Sehen, 2 zum Hören, 1 zum Essen, 1 zum Atmen, 1 zum Ausscheiden) und bohren ihm daher jeden Tag eine solche Öffnung. Am siebten Tag war das Chaos tot.

Nach: Dschuang Dse, Das wahre Buch vom südlichen Blütenland, "Innere Kapitel", 7.

Siehe auch: James Legge, 1989 (First Published 1891). The Texts Of Taoism. Volumes 1&2.
The Writings Of Chuang Tzu (Books I-XVII). Scotland: Tynron Press. ISBN 1-871948-61-4.
oder
Victor H. Mair. 1998. Zhuangzi. Das klassische Buch daoistischer Weisheit. Frankfurt: Wolfgang Krüger Verlag. ISBN 3-8105-1259-1.
Orginalausgabe: 1994. "Wandering On The Way". New York: Bantam Books.

[rhHeini]

Ein Kommentar eines älteren Herren der schon viele Änderungen und Entwicklungen in der Technik in seinem Leben gesehen und erlebt hat.

Wir werden uns in 10, 20, 30 Jahren wundern bei was für Anwendungen/Prozessen KI verwendet werden wird.

Wie schon so viele Skandale mit Konfirmation Bias so hochgelobte Anwendungen hatten, ein gesundes Misstrauen ist und wird auch in Zukunft notwendig sein. Die Trainingsdaten machen sehr viel aus. Diese sind von Menschen mit gewissen Vorstellungen, um nicht zu sagen Vorurteilen zusammengestellt, und damit immer subjektiv. Alle diese Vorhersage-Applikationen müssen strikt überprüft werden ob diese nicht nach so simplen Strickmustern wie "Ist der Name Deutsch oder Nicht-Deutsch" oder ähnlichem vorgehen und andere so falsch bewerten.

Guten Rutsch.

PS: Mir ist gerade ein altes Buch von Arthur C. Clarke aus dem Jahre 1962 in die Hände gefallen: Titel ist "Im Höchsten Grade Phantastisch" und handelt von Technik und Vorhersagen. Nachdem ich die ersten 2 Kapitel gelesen hatte hab ich an diesen Faden gedacht, passt dazu.

[fischig]

Dann muß ich mich zu dieser Frage oben zitieren:

Wer hat uns (Menschen) eigentlich "trainiert"?
- Materialistisch betrachtet der Kosmos via Evolution und Genetik. Sind wir dann ebenfalls nur "neuronale Netze"?

- Wer "transzendental " denkt, nimmt a la "fliegendes Spaghettimonster" einen Dualismus ("diesseitige Welt contra jenseitige Wirklichkeiten") an.

Tja rocky, da muss ich passen.
Ob die materialistische oder die idealistische Welt- und Menschensicht die „Wahrheit“ birgt, weiß ich nicht. Aber hier geht's um Maschinen. Darum, wie Menschen die einrichten und welche Konsequenzen das für die Menschen hat, wie sie sie einrichten.

[rockyracoon]

@fischig:

Tja rocky, da muss ich passen.

Ich ehrlich gesagt auch.

7 Whereof one cannot speak, thereof one must be silent.

Aus: Ludwig Wittgenstein, Tractatus logico-philosophicus, 1922.

Siehe auch: Yello - Waba Duba - https://www.youtube.com/watch?v=nN9DaTXV0b0 >

[ralli]

Guten Morgen und ein erfolgreiches und gesundes neues Jahr,

ich habe bewußt diese Diskussion laufen lassen, ohne stringent einzugreifen. Am Anfang war es sehr zäh, so das der Eindruck entstand, das diese Thematik nicht gewollt ist. Mittlerweile nimmt sie Fahrt auf, was mich sehr freut. Werde mich demnächst etwas stärker einbringen.

Wenn der Mensch ein vernunftbegabtes Wesen wäre, wäre unsere Gesellschaft und ja auch die gesammte Menscheit in einem anderen Zustand. Leider laufen wir Gefahr, das das, was unsere Menschlichkeit ausmacht, verloren geht. Bei KI kommt es im wesentlichen doch darauf an, in welchem Bereich sie eingesetzt wird. Aber das sie einen menschlichen Gesprächspartner ersetzen kann, halte ich für absurd. Habe heute morgen eine Sendung über Ki gesehen, die genau das experimentell untersucht hat. Das Ergebnis war am Ende sehr ernüchternd. KI kann keine echte Bezugsperson im realen Leben ersetzen. Kurz und knapp, alle von der KI generierten Antworten waren stereotyp und besetzten eher Allgemeinplätze. Sie berührten nie das Innerste, den inneren Wesenskern eine Menschen. ChatGPT hat keine Ahnung von irgendwas und versteht auch nichts. Sie ist nur so gut, wie sie gefüttert wurde.

Guckst Du hier:

https://www.ardmediathek.de/video/ard-w ... W5nLTc4NzI

Gruß ralli

[tobo]

Habe heute morgen eine Sendung über Ki gesehen, die genau das experimentell untersucht hat. Das Ergebnis war am Ende sehr ernüchternd. KI kann keine echte Bezugsperson im realen Leben ersetzen.

Bist du da möglicherweise ein bisschen voreingenommen? Laut Video-Fazit ist das Ergebnis uneindeutig: "Fest steht, es ist möglich, eine KI als Bezugsperson zu nutzen. Sowohl technisch als auch emotional. Am Ende kommt es auf dich an."