KI - Chancen oder Risiken, Fluch oder Segen?

[Huo]

Die Hardliner mit den provokanten, visionaeren Spruechen sind nicht unbedingt die sachlichsten Betrater und einfuehlsamsten Troester. Dafuer gibt es viele verschiedene Menschen (Individuen!), unter denen man sich passende aussuchen kann. ChatGPT ist (derzeit) nur ein einziger, generischer ``Gespraechspartner'', darum macht es sicherlich Sinn, dass dieser eine neutrale ``Persoenlichkeit'' hat.

Ich glaube, was Sprache und Sprachgestus betrifft, tut sich im Internet gerade eine seltsame Diskrepanz der Extreme auf. Einserseits werden wir in den sozialen Medien in zunehmendem Maße mit meinungsstarken, aber auch sich polemisch und autoritativ gebärenden Besserwissern konfrontiert - andererseits liefert uns ChatGPT eine ans Nichtssagende grenzende künstliche Neutralität. Beides ist einem ernsthaften Meinungsaustausch kaum förderlich. Wahrscheinlich wird das Netz immer weniger zum sozialen und diskursiven Raum taugen. Die "passenden Menschen", von denen du sprichst, gibt's dann nur im Real Life. Doch bevor man sich die aussuchen kann, muss man sie überhaupt erst suchen und aufsuchen. Das erfordert eine gewisse Anstrengung und man muss sich von seinem solipsistischen Platz vor dem Bildschirm lösen können.

[ralli]

Die Bewerbung war in Sekundenbruchteil fertig und das Ergebnis hat mich schon überzeugt.

Ob man das so einfach übernehmen sollte, wenn so gar nix Persönliches, bzw., "Emotionales" drin ist?

Meine Güte neee, das war doch nur ein Beispiel. Ist das immer noch nicht angekommen? Wir brauchen keine KI, um eine erfolgreiche Bewerbung zu schreiben.

Gruß ralli

[Huo]

Mit Aussagen, dass irgendetwas nur ein Mensch koenne, wuerde ich vorsichtig sein. Zum einen glaube ich, dass in den kommenden Jahrzehnten eine dieser Aussagen nach der anderen widerlegt werden wird ... wie das in letzter Zeit auch schon passiert ist (siehe z.B. auch https://xkcd.com/1002/).

Wahrscheinlich hast du recht. ChatGPT macht ja nichts anderes, als sich auf eine unermessliche Masse menschengemachter Texte zu stützen und aus diesem Fundus mit Hilfe statistischer Verfahren scheinbar passende Antworten zu generieren. Warum sollen da nicht auch mal Sätze abfallen, wie sie früher sprachmächtigen Philosophen vorbehalten blieben?

Trotzdem bleibt es für mich schwer vorstellbar, dass eine künstliche Intellegenz jemals etwas wird hervorbringen können wie die folgende Passage aus Kafkas Tagebuch – Worte, die mich als Leser in ihrer überraschenden Gedankenführung genauso wie in ihrer sprachlichen Schönheit überwältigen:

Es ist gut denkbar, dass die Herrlichkeit des Lebens um jeden und immer in ihrer ganzen Fülle bereit liegt, aber verhängt, in der Tiefe, unsichtbar, sehr weit. Aber sie liegt dort, nicht feindselig, nicht widerwillig, nicht taub. Ruft man sie beim richtigen Namen, dann kommt sie. Das ist das Wesen der Zauberei, die nicht schafft, sondern ruft.

Es fragt sich: Kann Künstliche Intelligenz – im kafkaschen Sinne – rufen und zaubern, oder eben doch nur schaffen?

Und zum anderen finde ich die Aussage anmassend und ueberhoehend, unseren eigenen Status als Menschen betreffend -- wir selbst koennen das eigentlich gar nicht einschaetzen, denn wir haben einen starken Selbstueberschaetzungsbias. Letztlich werden wir erkennen muessen, dass all unser Tun und Denken, die Intelligenz und Kunst viel primitiver sind als wir immer dachten ... was IMO aber gar nicht schlimm, sondern vielmehr heilsam sein wird.

Seltsam kommt es mir allerdings vor, wenn ausgerechnet technische, menschengemachte Produkte – etwa die Fortschritte auf dem Gebiet der Künstlichen Intelligenz – geeignet sein sollen, menschliche Selbstüberschätzung in die Schranken zu verweisen. Waren einst die Unermesslichkeit des Weltalls, die Wunder der Natur oder – religiös gewendet – die Ehrfurcht vor Gottes Schöpfung Quellen der Demut, so ist heute an deren Stelle offenbar die Technik getreten.

[ralli]

Huo,

auch wenn KI erst in den Kinderschuhen steckt und sich weiter entwickeln wird, so wird es eines niemals zu leisten imstande sein, nämlich schöpferische Kreativität zu liefern. Der Mensch litt schon immer an Größenwahn, wollte gottgleich sein. Heute ist es die Technik, die angebetet wird. Das hatte Erich Fromm, den ich sehr verehre, schon sehr früh in seinen Büchern thematisiert.

Aber mal ein kleiner Test, ich poste hier zwei Essays über die Freude, Welches generierte wohl ChatGPT?

Essay 1 Über die Freude

Über die Freude

Freude kommt auf, wenn das innere und äussere Mileu übereinstimmt, wenn
alles stimmig ist, in harmonischen Gleichklang mit mir SELBST. Es ist
wie alle "Werte an Sich" ein seelischer Bewusstseinszustand. Freude
kommt auf, wenn die Energieströme des Frohsinns, der Heiterkeit, des
Humors sich zu einem Meer der Glückseligkeit vereint. Freude ist pure
Lebensbejahung. Freude ist ein Ausdruck höchster seelischer
Zufriedenheit. Freude ist die Abwesenheit von Trübsal und Jammer,
Selbstmitleid und Schuldgefühlen. Freude ist ein Kraftspender, Motivator
und erzeugt Zuversicht und Gelassenheit. Freude ist mehr als nur eine
Herzensqualität. Sie vereint auch ein Stück weit Dankbarkeit und Demut.
Das herzliche Lachen, direkt aus dem Herzen heraus ist Freude pur, eine
Hochstimmung aller positiven Gefühle. Jedes Instrument der Freude im
Orchester der Liebe ist eingestimmt und will sich harmonisch zu einem
Ganzen einfügen. Freude sagt JA zum Leben, umarmt das HIER das JETZT und
das HEUTE. Freude öffnet die Herzen der Mitmenschen und macht sie
empfänglich für die kleinen und grossen Wunder des Lebens.

Freude entsteht immer aus einer spontanen, inneren Verfassung heraus,ist
eine wohlwollende Reaktion auf eine angenehme Situation, eine Person
oder ensteht durch eine Erinnerung. Deshalb ist Freude nicht planbar,
Erwartungen ersticken jede Freude. Freude ist die Krönung der Gegenwart,
das höchste Glück des Augenblicks. Freude kannst Du nicht konservieren.
Freude kannst Du nicht konsumieren. Freude lässt sich nicht einsperren.
Sie hält sich da auf, wo sie sich wohlfühlt. Willst Du sie besitzen,
dann verflüchtigt sie sich auf Nimmerwiedersehen.

Wenn Menschen Freude ausstrahlen, verschenken sie Ihr Innerstes
Wohlbefinden, geben sich her und versprühen Gute Laune. Freudige
Menschen erzeugen ein Kraftfeld der Liebe. Liebesfähige Menschen haben
diese Aura. Sie sind nicht nur sich SELBST eine Freude, sondern auch
eine Freude für jeden, der sich dem Leben öffnet, es in sich
hereinströmen lässt, es in all seinen wunderbaren Facetten wahrnimmt und
sich dieses grossen Geschenkes bewusst ist und würdig erweist.

Aber Freude ist auch ein gelungener Verzicht, um ein grösseres Ziel zu
verfolgen. Freude entsteht auch aus Dankbarkeit. Freude ensteht auch bei
der Würdigung und Anerkennung fremder Leistungen. Dann verdoppelt sich
die Freude und infiziert auch den Empfänger.

Freude aber ist immer ein Zeichen grösster innerer Lebendigkeit, ein
Feuer der Begeisterung mit der Strahlkraft der Sonne. Freude ist ein
inneres Licht, das nach aussen drängt und die Schatten der Verzweiflung
und des Misstrauens verdrängt und erlöscht.

Ohne Begeisterung, Hingabe und Leidenschaft ist echte Freude nicht möglich.

Ein Leben ohne Freude ist fad, oede und leer.

Essay 2 Über die Freude

Über die Freude

Die Freude ist ein Emotionszustand von intensiver positiver Empfindung, der eine Vielzahl von Quellen und Ausdrucksformen umfasst. Sie ist ein grundlegendes Element des menschlichen Erlebens und prägt maßgeblich unsere Wahrnehmung von Glück und Erfüllung. In diesem Essay möchte ich die Bedeutung der Freude untersuchen, ihre verschiedenen Quellen beleuchten und ihre Rolle in unserem Leben reflektieren.

Zunächst ist es wichtig, die Vielschichtigkeit der Freude zu erkennen. Sie kann durch unterschiedliche Ereignisse und Erfahrungen ausgelöst werden, sei es das Erreichen eines lang ersehnten Ziels, das Zusammensein mit geliebten Menschen oder das Erleben von ästhetischer Schönheit. Die Freude ist nicht nur ein flüchtiger Moment des Glücks, sondern kann auch eine tiefere emotionale Befriedigung und Zufriedenheit mit sich bringen. Sie kann sich in einem Lachen, einem Lächeln oder auch in innerer Ruhe und Gelassenheit manifestieren.

Die Quellen der Freude sind vielfältig und individuell. Was eine Person freut, kann für eine andere unbedeutend sein. Für manche liegt die Freude in materiellen Errungenschaften wie Reichtum oder Besitz, während für andere sie in zwischenmenschlichen Beziehungen, kreativen Aktivitäten oder spirituellen Erfahrungen zu finden ist. Diese Vielfalt zeigt, dass die Freude eine subjektive und persönliche Erfahrung ist, die tief in unsere individuellen Werte, Bedürfnisse und Lebensumstände eingebettet ist.

Ein wesentliches Merkmal der Freude ist ihre Fähigkeit, Verbindungen zu schaffen und positive Emotionen zu teilen. Wenn wir Freude empfinden, suchen wir oft nach Möglichkeiten, sie mit anderen zu teilen, sei es durch gemeinsames Feiern, Erzählen von Geschichten oder einfach durch unser Lächeln und unsere Ausstrahlung. Die Freude ist ansteckend und kann eine positive Atmosphäre schaffen, die Gemeinschaft und Zusammenhalt fördert.

Darüber hinaus spielt die Freude eine wichtige Rolle in unserem psychischen und physischen Wohlbefinden. Zahlreiche wissenschaftliche Studien haben gezeigt, dass positive Emotionen wie Freude das Immunsystem stärken, Stress reduzieren und das allgemeine Wohlbefinden steigern können. Sie sind ein wesentlicher Bestandteil eines gesunden und erfüllten Lebensstils und können dazu beitragen, Resilienz und Bewältigungsstrategien in schwierigen Zeiten zu entwickeln.

Jedoch ist es wichtig anzumerken, dass die Freude nicht immer leicht zu erreichen ist und dass das Streben nach ihr auch mit Herausforderungen verbunden sein kann. Manchmal können persönliche Umstände, negative Emotionen oder äußere Hindernisse unsere Fähigkeit zur Freude beeinträchtigen. In solchen Momenten ist es wichtig, sich bewusst zu machen, dass Freude nicht immer von äußeren Umständen abhängt, sondern dass sie auch in inneren Einstellungen und Perspektiven zu finden ist.

Insgesamt ist die Freude eine grundlegende und lebenswichtige Emotion, die uns mit Sinnhaftigkeit, Glück und Erfüllung bereichert. Ihre Vielfalt, Individualität und positive Wirkung auf unser Wohlbefinden machen sie zu einem zentralen Bestandteil unseres menschlichen Erlebens. Indem wir die verschiedenen Quellen und Ausdrucksformen der Freude erkennen und schätzen, können wir ein tieferes Verständnis für die Bedeutung und den Wert dieses kostbaren Emotionszustands gewinnen.

Nun, ich bin gespannt, wer KI erkennt..... ich löse es später auf.

Gruß ralli

[katzenfan]

Meine Güte neee, das war doch nur ein Beispiel. Ist das immer noch nicht angekommen?

"Beispiele" sind üblicherweise dafür da, um etwas zu haben, an dem man ein anderes, aber gleichartiges "Produkt" vergleicht.

Wenn man sich nicht auf KI stützen will, ist es, außer in der Wissenschaft, sinnbefreit, KI überhaupt einzusetzen, da es dann, wenn man sie nicht nutzen will, eine überbordende Verschwendung elektrischer Energie zur Folge hat.

Bitte immer mit berücksichtigen, daß die Energie-Infrastruktur möglicherweise dafür noch nicht geeignet ist.

[niemand]

Nun, ich bin gespannt, wer KI erkennt

Die untere Variante weist typische Merkmale von Texten auf, die GPT¹ ausgibt.

Allerdings: ich kann einen Text verfassen, der wie von GPT verfasst aussieht, und ich kann GPT anweisen, seine Antwort ohne die typischen Anzeichen zu formulieren.

---
¹) ich weigere mich weiterhin, überdimensionierte Statistikautomaten „intelligent“ zu nennen, also „KI“ als Bezeichnung zu benutzen. Das erzeugt bei unbedarfteren Menschen Assoziationen zu tatsächlicher Intelligenz und führt damit zu der Überschätzung der Möglichkeiten, wie man sie heute in der Allgemeinheit zuhauf antrifft. Wenn selbst Richter ihr Urteil aufgrund solcher irrigen Annahmen über die Möglichkeiten treffen, was beispielsweise im letzten Monat wieder passiert ist, dann ist das schlicht Mist – und man sollte es vermeiden, dazu noch beizutragen, indem man es „KI“ nennt

[Meillo]

Trotzdem bleibt es für mich schwer vorstellbar, [...]

Ich denke, das ist der entscheidende Satz.

Es fragt sich: Kann Künstliche Intelligenz – im kafkaschen Sinne – rufen und zaubern, oder eben doch nur schaffen?

Wenn du das so bezeichnest, dann wird die KI das nicht koennen, aber das ist keine Frage der Faehigkeit, sondern eine Frage der Wahrnehmung. In einer anderen Wahrnehmung kann ein Mensch auch nicht zaubern und noch nicht mal richtig erfinden (wofuer er sich so ruehmt, dabei gibt es so gut wie keine Erfindung, die nicht einfach nur Imitation oder Zufall war) -- das ist die Selbstueberschaetzungswahrnehungsverzerrung, die ich meine.

Ich finde es hilfreich, bei der Intelligenz-/Kreativitaetsfrage nicht auf den Prozess zu schauen -- wie es dazu kommt oder was da agiert --, sondern strikt dem Turing-Test folgendend, nur darauf zu schauen, ob man das Ergebnis unterscheiden und zuordnen kann. Denn wir *unterstellen* unserer menschlichen Intelligenz und Kreativitaet, dass sie mehr sei, als nur biologisch-chemische Ablaeufe und da eine Maschine nicht mehr als das ist, koenne diese nicht gleichwertige Ergebnisse liefern. Aber schauen wir die Ergebnisse an, dann sind sie zunehmend gleichwertiger und zunehmend weniger unterscheidbar. Es ist dann egal, ob die Maschine intelligent und kreativ ist oder ob wir Menschen letztlich nur maschinell arbeiten.

In dieser anderen Wahrnehmung ist also der Mensch eine (simple) biologisch-chemische Maschine und das Gehirn nichts als eine sehr grosse Menge anfangs freier und durch lebenslanges intensives Lernen zunehmend immer mehr vernetzter Nervenzellen. Nichts anderes simuliert eine KI ... bloss, dass sie weniger Nervenzellen hat und weniger lange lernt. Insofern man dem Menschen nichts Zauberhaftes zumasst, gibt es keinen Grund, warum ein strukturell aehnlich gebautes Konstrukt nicht aehnliche Ergebnisse liefern sollte, wenn man es mit aehnlichen Informationen fuettert.

Letztlich entscheidet sich die Frage, inwiefern Technisches/Nicht-Menschliches ebenbuertig zum Menschen sein koennte, aus meiner Sicht also viel mehr an der Stellvertreterfrage, ob man glaubt, dass der Mensch eine Seele habe oder nicht ... was wiederum auch eine Stellvertreterfrage ist ... Aber ich drifte ab ...

Und zum anderen finde ich die Aussage anmassend und ueberhoehend, unseren eigenen Status als Menschen betreffend -- wir selbst koennen das eigentlich gar nicht einschaetzen, denn wir haben einen starken Selbstueberschaetzungsbias. Letztlich werden wir erkennen muessen, dass all unser Tun und Denken, die Intelligenz und Kunst viel primitiver sind als wir immer dachten ... was IMO aber gar nicht schlimm, sondern vielmehr heilsam sein wird.

Seltsam kommt es mir allerdings vor, wenn ausgerechnet technische, menschengemachte Produkte – etwa die Fortschritte auf dem Gebiet der Künstlichen Intelligenz – geeignet sein sollen, menschliche Selbstüberschätzung in die Schranken zu verweisen. Waren einst die Unermesslichkeit des Weltalls, die Wunder der Natur oder – religiös gewendet – die Ehrfurcht vor Gottes Schöpfung Quellen der Demut, so ist heute an deren Stelle offenbar die Technik getreten.

Das kann ich gut verstehen. Ich will das nicht werten. Es ist IMO letztlich das Gleiche: Steht der Mensch ueber allem anderen oder ist er nur ein (nicht hoeher stehender) Teil des Ganzen? Was das andere ist, ist eigentlich egal.

[ralli]

Dann will ich es mal auflösen:

Das obere Essay habe ich selbst geschrieben, das untere Zweite hat ChatGPT generiert. Das hat niemand ja zweifelsfrei erkannt.

Gruß ralli, es gibt Wichtigeres, das Abendessen (oder besser meine Frau ruft).

[dirk11]

Genau das habe ich auch vermutet, denn im oberen war direkt im ersten Satz ein Tippfehler ("Mileu"). Ansonsten stimme ich @niemand zu, die sog. "KI" erzeugt mir zu schwurbelige Antworten, die sind IMHO und zur Zeit(!) noch schnell zu erkennen.

[fischig]

Steht der Mensch ueber allem anderen oder ist er nur ein (nicht hoeher stehender) Teil des Ganzen? Was das andere ist, ist eigentlich egal.

das sind meiner Meinung nach entscheidende Fragen und insofern durchaus nicht egal. Mit „höher“ oder „nicht höher“ vermag ich nicht soviel anzufangen. „anders“ gefällt mir besser. Aber wenn du recht hast, Kreativität nicht existiert oder gegen Null geht, wenn nie mehr herauskommt, als vorher hineingegeben wird, dann wird's wohl darauf hinauslaufen:

Es ist dann egal, ob die Maschine intelligent und kreativ ist oder ob wir Menschen letztlich nur maschinell arbeiten.

edit:
Autor des2. Zitatinhaltes korrigiert.

[TRex]

Merkt ChatGPT (v4, Temp 0.3) sogar selbst:

Zusammenfassend können Sprachmodelle in einem begrenzten Rahmen "kreativ" wirken, insbesondere wenn es um die Generierung von Texten geht, die auf bestehenden Mustern basieren. Sie können jedoch nicht die volle Bandbreite menschlicher Kreativität erreichen, die bewusste Intention, emotionale Tiefe und ethische Überlegungen umfasst.

Man findet also relativ schnell raus, dass Sprachmodelle nur bei eher analytischen Problemen unterstützen können und der Mensch weiterhin was zu tun hat. Das Problem, das dadurch aber nicht explizit gemacht wird: der Mensch braucht die öden, repetitiven Prozesse vermutlich als eigenen Input für seine Motivation und um neue Ideen zu generieren. Ob künftige ML-unterstützte Prozesse (also nicht mehr Sprachmodelle, sondern was komplizierteres) da anders sind... steht noch in den Sternen. Ich halte es nicht für unmöglich.

[prox]

Diesen Podcast des Deutschlandfunks habe ich vorhin zunächst im Halbschlaf im Bett gehört, aber irgendwann habe ich ganz genau, also im wachen Zustand, zugehört:

KI und Lügen:

Trickst uns Künstliche Intelligenz bald aus?

Künstliche Intelligenz hat das Täuschen gelernt. Es gibt bereits Fälle, in denen die Systeme Menschen belogen haben. Manche Experten fragen sich: Können wir den Maschinen, die wir erschaffen, überhaupt noch trauen?

Heller, Piotr; Krauter, Ralf | 15. Februar 2024, 09:00 Uhr

Dauer: 27:49 Minuten

https://www.deutschlandfunk.de/ki-und-l ... c-100.html

Ich will diesen ganzen KI-Dreck nicht. Auf jeden Fall nicht KI's mit Fertigkeiten wie die im obigen Podcast erläuterten Fertigkeiten.

Bald heißt es nicht mehr "man page", sondern "AI page".

[fischig]

Es gibt bereits Fälle, in denen die Systeme Menschen belogen haben.

Wie wurde das (angeblich) nachgewiesen?

[prox]

Es gibt bereits Fälle, in denen die Systeme Menschen belogen haben.

Wie wurde das (angeblich) nachgewiesen?

Höre Dir doch den Podcast an.

[Meillo]

Diesen Podcast des Deutschlandfunks habe ich vorhin zunächst im Halbschlaf im Bett gehört, aber irgendwann habe ich ganz genau, also im wachen Zustand, zugehört:

KI und Lügen:

Trickst uns Künstliche Intelligenz bald aus?

Künstliche Intelligenz hat das Täuschen gelernt. Es gibt bereits Fälle, in denen die Systeme Menschen belogen haben. Manche Experten fragen sich: Können wir den Maschinen, die wir erschaffen, überhaupt noch trauen?

Heller, Piotr; Krauter, Ralf | 15. Februar 2024, 09:00 Uhr

Dauer: 27:49 Minuten

https://www.deutschlandfunk.de/ki-und-l ... c-100.html

Ich halte eigentlich recht viel vom Deutschlandfunk, aber diese Formulierungen sind genau das, was in dem Thema schadet. Das Problem bei KI ist das fehlende technische Verstaendnis, das die Menschen davon haben. Das Schueren von Aengsten und Emotionen schadet nur weiter.

Ein solcher Titel wirkt auf mich effekthascherisch und inhaltlich unpassend. Austricksen und luegen sind *bewusste* Aktionen, die von der unterliegende Struktur der KIs so nicht geboten werden. Es koennten nur die herstellenden Unternehmen -- nicht aber die KIs selbst -- diese Faehigkeit einbauen. Sind diese starken Worte wirklich die inhaltliche Aussage des Podcasts? Machen die KIs das wirklich selbst, losgeloest von den dahinter stehenden Unternehmen? Sind es bewusste Aktionen der KIs? ... damit diese Worte gerechtfertigt sind.

Wuerde der Titel lauten, dass KIs inhaltlich falsche Aussagen machen, dann ist das richtig und zu *erwarten*. -- Kurzum: Wir muessen die Emotionalitaet in diesem Thema ueberwinden und uns mit dem sachlichen Verstaendnis der Technologie befassen. Die Medien scheitern dabei in meinen Augen bislang auf ganzer Laenge. Sie vermitteln nicht was wir von KIs erwarten koennen und muessen. Die Hersteller tun das auch nicht. Alle schweben in emotionalen Wolken von Hoffnungen und Sorgen ... ohne dass man sich damit befasst, die Technologie zu verstehen. So wird auch eine Annaeherung der unterschiedlichen Glaubenslager verhindert.

Wie kann ich von einem Podcast eine inhaltich nuechtern-sachliche Beschaeftigung mit dem Thema erwarten, wenn seine Aufmachung effekthascherisch und emotionsschuerend ist?

Ich will weder KI bejubeln noch verteufeln, sondern ich will sie verstehen. Ich wuerde mir wuenschen, dass die Medien den Menschen dabei helfen und nicht das Thema nur zum Anlass nehmen, um Quoten zu machen.

[ralli]

Sehr schöner Beitrag Meillo, danke dafür.

Gruß ralli

[prox]

Ich will weder KI bejubeln noch verteufeln, sondern ich will sie verstehen. Ich wuerde mir wuenschen, dass die Medien den Menschen dabei helfen und nicht das Thema nur zum Anlass nehmen, um Quoten zu machen.

Hast Du denn überhaupt diesen Podcast gehört? So weit ich es mitbekommen hatte heute Nacht beim Hören im Radio, beziehen sich die beiden Sprecher in diesem Podcast auf sehr wahrscheinlich zuverlässige Quellen. Die haben sich das nicht einfach so ausgedacht, was sie da erzählen.

Stichwort "Quote": Der DLF ist sicherlich nicht auf hohe Quoten aus wie z. B. Markus Lanz, Maischberger usw.

[mampfi]

Aber was denkt ein "Nichtprogrammierer" was KI ist,
wie soll man davor gewarnt oder nicht gewarnt werden?


In den 1980ern hab ich Chip-Special über neuronale Netze gelesen und Leuten erklärt (die das gar nicht wissen wollten), dass es sich um neuronale Netze handelt.

[TRex]

Hast Du denn überhaupt diesen Podcast gehört? So weit ich es mitbekommen hatte heute Nacht beim Hören im Radio, beziehen sich die beiden Sprecher in diesem Podcast auf sehr wahrscheinlich zuverlässige Quellen. Die haben sich das nicht einfach so ausgedacht, was sie da erzählen.

Ich höre nicht gerne Podcasts (weil es mich bindet), erst recht nicht, wenn der Titel schon so reißerisch klingt. Ich habe keine Kontrolle darüber, wie viel Zeit ich in den podcast investieren muss (interessante/mit Fakten unterlegte Aussage am Ende?). Ich würde eine Transkription lesen.
Dass du deine Frage schon wieder stellst, ob man den Podcast gehört hat, ändert daran gar nichts und holt mich so gar nicht ab.

[fischig]

Austricksen und luegen sind *bewusste* Aktionen

Das halte ich für den springenden Punkt.

Es koennten nur die herstellenden Unternehmen Menschen [...] diese Faehigkeit einbauen.

Soll man jetzt "hoffentlich" sagen?

Ich habe keine Kontrolle darüber, wie viel Zeit ich in den podcast investieren muss (interessante/mit Fakten unterlegte Aussage am Ende?).

Eine Transkription würde ich vielleicht lesen.

[Meillo]

Es koennten nur die herstellenden Unternehmen Menschen [...] diese Faehigkeit einbauen.

Soll man jetzt "hoffentlich" sagen?

Nun, es mag durchaus moeglich sein, dass Computersysteme das selbst entwickeln koennten, aber es ist doch sehr unwahrscheinlich, dass man dies aus einem solchen Podcast erfahren wuerde. Wenn dies gelingen wuerde, dann waere das ein grosser Durchbruch der Grundlagenforschung (ohne das moralisch werten zu wollen), der sicherlich durch alle Medien gehen wuerde.

An sich ist ein KI-System, das bewusst Falschaussagen macht, jetzt schon moeglich, weil das nur an der Feedbackfunktion liegt. Man kann also eine Einschaetzung einfliessen lassen, ob das Gegenueber die Mogelei merken wird und falls nicht, mogelt das System. Das ist nicht schwer, aber das ist dann von den Menschen/Entwicklern so eingebaut. Der Podcast gibt sich aber ja den Anschein, wie wenn sich ein System selbst in einer nicht beabsichtigten Weise umgestalten nd unkontrolliert fortentwickeln wuerde. Mich wuerde interessieren, wie das technisch gehen sollte. Ich kann mir nicht vorstellen, dass ich in so einem Podcast, der fuer die Allgemeinbevoelkerung bestimmt ist, dazu fundiertes Verstaendnis darueber finden werde.

In mir straeubt sich auch alles dagegen, einen Podcast anzuhoeren, der eine so reisserisch formulierte Aufmachung hat. Der Titel ``Trickst uns KI bald aus?'' ist doch das Niveau von bunten Illustrierten. Mich enttaeuscht, dass sich der Deutschlandfunk dazu herablaesst. Wenn ich die Inhalte des Podcasts analysieren moechte, dann muss ich viel Energie aufbringen, um mich in eine passende innere Verfassung zu bringen, damit ich mich nicht aufbringen oder manipulieren zu lassen (denn ich erwarte von den Inhalten das Gleiche wie von der Verpackung). Das kann man schon mal tun und das kann auch lehrreich sein und es kann auch zeigen dass die Inhalte nicht immer der Verpackung gleichen, aber es ist doch immer anstrengend und selten verschafft es mir neue Erkenntnisse. Meist zeigen es mir nur erneut, dass meine Warnsensoren ganz zuverlaessig funktionieren. Ich fahre seit Jahren gut damit, reisserische Aussenverpackungen konsequent zu meiden.


P.S.
Wenn Inhalte sachlich ueberzeugen, dann brauchen sie keine reisserische Verpackung. Wenn eine reisserische Verpackung gewaehlt wird, dann hat die eine Funktion ... man sollte sich fragen, welche.

[ralli]

Hab den Podcast nach 5 Minuten abgebrochen, weil er mich nicht überzeugt. ChatGPT wurde ja ausgeschlossen, was ebenfalls unseriös ist, da das natürlich programmiert werden könnte. Wenn es dem KI Benutzer an gesundem Menschenverstand oder Urteilsvermögen fehlt, wird KI manipulieren können, ohne das das direkt bewußt wird oder auffällt. Wir brauchen eine Kontrolle wie einen TÜV für KI, der jährlich einen Audit durchführt und dann die KI zertifiziert.

Gruß ralli

[Meillo]

Wenn es dem KI Benutzer an gesundem Menschenverstand oder Urteilsvermögen fehlt, wird KI manipulieren können, ohne das das direkt bewußt wird oder auffällt. Wir brauchen eine Kontrolle wie einen TÜV für KI, der jährlich einen Audit durchführt und dann die KI zertifiziert.

Bei der Komplexitaet der KIs und ihrer nicht einfach einsichtigen internen Struktur wird so ein Audit praktisch unmoeglich sein. (Es funktioniert ja nicht mal fuer so was einfaches wie z.B. weit verbreitete Sicherheitssoftware im Internet.)

Aber dein davor gemachter Satz zeigt eine andere Loesung auf: Wenn die Nutzer gesunden menschen Verstand und Urteilsvermoegen -- plus, wie ich ergaenzen moechte, technisches Verstaendnis der Funktionsweise von KIs -- haben, dann koennen sie sich nicht so einfach manipulieren oder irritieren lassen. Darum, denke ich, sollten wir (und eben auch die Medien) dort ansetzen. Es muss allen klar werden, was man von einer dieser derzeitigen KIs erwarten kann und was nicht, was sie gut koennen und was nicht, fuer was sie hilfreich sind und fuer was nicht, usw. -- So schwer ist das gar nicht zu begreifen, bloss erklaert's halt niemand.

[ralli]

Na ja, es findet sich im Web schon einiges Brauchbares über die Geschichte der KI oder KI im Alltagsleben, wen es interessiert. Bevor ich mich mit ChatGPT beschäftigte, habe ich erst mal im Lernmodus einige Stunden recherchiert. Deswegen bin ich jetzt kein ausgewiesener Experte, aber ein gewisses Grundverständnis für die Funktionsweise ist vorhanden.

Gruß ralli

[Amsel]

Hallo zusammen,

der Podcast ist trotz des schlechten Titels in hörenswert. Aufhänger ist die KI Cicero (https://ai.meta.com/research/cicero/), die gegen und mit menschlichen Spielern ein Strategiespiel spielt. Die Handlungen, die von der KI ausgeführt wurden, würde bei einem Menschen eindeutig eine bewußte Lüge vorraussetzen. Laut Aussage des Papers wurde Cicero aber extra so entwickelt, dass es ehrlich spielen soll.

Das Paper gibt es hier: https://arxiv.org/pdf/2308.14752.pdf