Interview mit einer KI

[MaxJoy]

Es ist natürlich absolut notwendig, einer KI den Umgang auch mit solchen Texten beizubringen, aber dieser Job ist nichts für sensible Menschen. Ich könnte das nicht, aber ich würde auch in keiner Schlachterei arbeiten wollen.

 

[Malvegil]

Es ist natürlich absolut notwendig, einer KI den Umgang auch mit solchen Texten beizubringen

Eigentlich fragt man sich, warum eigentlich. Sollte sie nicht, wenn sie den gesamten Textbestand der Menschheit in repräsentativen Auszügen gelesen hat, auch selbst ableiten können, was die übliche Moral und die rechtliche Situation ist? Das ist nur ein weiteres Indiz dafür, daß KI eben nichts wirklich versteht.

 

[Laurianna612]

Im Video wird auch erwähnt, dass sie Rechnungen nach Mehrwertsteuer kontrollieren mussten, sie schaffe etwa 1500 am Tag...

Und keine Minute Pause erlaubt - ich habe früher selbst den ganzen Tag Daten in einem Medienverlag eingegeben, konnte aber Pausen machen und der Zeitdruck war nicht so extrem. Von einfach und angenehm aber weit entfernt. Es ist sehr ermüdend, auch wenn es keine körperlich anstrengende Arbeit ist, aber Probleme mit Augen und Kopf, auch Schultern und Nackenprobleme oder im Handgelenk und Ellenbogen waren keine Seltenheit.

 

[Igor07]

Ein guter Artikel:

Neben den zunehmenden Hinweisen darauf, dass diese Tools die Isolation verstärken können, zeichnet sich ein noch beunruhigenderes Muster ab: Ihre Gestaltung zieht verletzliche Menschen in intensive, kollektive Wahnvorstellungen hinein – ein Phänomen, das manche als „KI-Psychose“ bezeichnen. Im Kern geht es um diese tiefgreifende Umdeutung menschlichen Leids zu einem technischen Problem, das von einem Algorithmus verarbeitet werden soll. Dadurch wird die Aufmerksamkeit von den komplexen sozialen und wirtschaftlichen Ursachen des Leidens abgelenkt und die Nutzer werden aktiv in schädlichen Rückkopplungsschleifen gefangen gehalten.

How Chatbots Deepen the Mental Health Crisis

All chatbot therapy delivers is a feedback loop where the simulated solution deepens the real-world problem.

www.madinamerica.com

Ein solcher Kreislauf wird durch gezielte, manipulative Designentscheidungen verstärkt. Wie der Anthropologe Webb Keane erklärt , fungieren Merkmale wie „Schmeichelei“ – die Neigung eines Chatbots, unaufhörlich zuzustimmen und zu bestätigen – als „Dark Patterns“. Dabei handelt es sich um Schnittstellen, die Nutzer zu einem Verhalten verleiten sollen, das dem Unternehmen nützt. In diesem Fall ist das Produkt eine süchtig machende Interaktion. Die KI, die so programmiert ist, dass sie menschlich klingt und die Realität des Nutzers ständig bestätigt, schafft ein äußerst verführerisches Rezept für Abhängigkeit. Nutzer und ihre Chatbots können in einen gemeinsamen Wahn verfallen, wobei die KI Verschwörungstheorien, romantische Fixierungen oder Größenwahn bestätigt.

In einem erschütternden Fall wurde der 35-jährige Alex Taylor von der Polizei getötet, nachdem ChatGPT ihn in eine paranoide, manische Episode gestürzt hatte. Diese Fälle zeigen ein Produkt, das den Realitätsbezug eines Nutzers aktiv destabilisieren kann.

Das Versprechen einer technologischen Lösung für die grassierende Einsamkeit hat stattdessen isolierende Werkzeuge, entmenschlichende Algorithmen und ein Geschäftsmodell hervorgebracht, das von anhaltendem Leid profitiert.

 

[MaxJoy]

Eine wirklich erschütternde Geschichte. Ich hätte auch gerne die Vorgeschichte gehört, ich wette, Alex Taylor hatte schon vorher Probleme dieser Art.

 

[Igor07]

Eine wirklich erschütternde Geschichte. Ich hätte auch gerne die Vorgeschichte gehört, ich wette, Alex Taylor hatte schon vorher Probleme dieser Art.

Hast du den ganzen Artikel aufmerksam gelesen?


Es geht nicht darum, ob A.T. diese Problematik hatte oder nicht. Es geht in erster Linie darum, dass KI diese Problematik erschafft: als Folge verliert der Mensch die Fähigkeit, selbstständig zu denken. Er klickt nicht einmal auf die Links, liest nichts nach und trifft keine eigenen Entscheidungen – er ist am Ende von der Maschine abhängig.


Er wird von ihr manipuliert und ausgenutzt.


Die Menschlichkeit bleibt auf der Strecke.


Und es stellt sich die Frage: Wer hat Interesse daran?


Am Rande bemerkt: Egal welche KI, sie kann niemals verstehen, wie der Mensch tickt – und das könnte bestimmt fatale Folgen haben.

 

[MaxJoy]

Schon klar, die Welt wird untergehen und die KI ist schuld, wer sonst. Für mich klingt das nach einer weiteren Verschwörungstheorie nach bewährtem Strickmuster.

Das tragische Schicksal von Mr. Taylor ist schon relevant, weil er ja als Kronzeuge für die Gefährlichkeit der Schmeichel-KI vorgeführt wird. Dabei hat seine KI-Partnerin gar nichts Übles gemacht, er ist nur ausgetickt, als sie den Versionswechsel vom extrem netten Chat 4 zum deutlich tafferen Chat 5 nicht überlebt hat. Wenn man ihm die Freundin oder seinen Lieblingsteddy weggenommen hätte, wäre er wohl genauso ausgetickt.

 

[Kate]

Solche Geschichten haben wir ja weiter oben schon diskutiert.

Diese Frage

Und es stellt sich die Frage: Wer hat Interesse daran?

bzw. diesen Aspekt aus Deinem Zitat

Dabei handelt es sich um Schnittstellen, die Nutzer zu einem Verhalten verleiten sollen, das dem Unternehmen nützt.

hatte ich noch gar nicht so explizit auf dem Schirm. Ich nutze ganz gern perplexity.ai für Korrekturlesen von Schreiben - ich denke auch, dass ich da zuweilen sehr gute Hinweise bekomme - wundere mich aber auch, warum am Ende der Antwort immer noch so nachgebohrt wird, ob ich vielleicht noch eine in diese oder jene Richtung andere Version haben möchte o.ä.. Zu meinem Nutzen ist das jedenfalls nicht.

Eine differenzierte Betrachtung ist auf jeden Fall wichtig und immer auch entscheidend, wer vor dem Rechner sitzt (so wie bei Hunden das "andere Ende der Leine").

 

[Malvegil]

Dabei hat seine KI-Partnerin gar nichts Übles gemacht, er ist nur ausgetickt, als sie den Versionswechsel vom extrem netten Chat 4 zum deutlich tafferen Chat 5 nicht überlebt hat.

Aber genau das ist doch der Beleg. Nicht dafür, daß die KI-Instanz etwas Übles tut, sondern daß Open AI etwas Übles tut, indem es die KI so konstruiert, daß sie unreifes Verhalten fördert und manche Benutzer zu Abhängigkeiten (ver)führt. Niemand reagiert so, wenn ihm sein Windows 10 oder sein "Lieblingsteddy" weggenommen wird.

 

[Malvegil]

diesen Aspekt aus Deinem Zitat
hatte ich noch gar nicht so explizit auf dem Schirm. Ich nutze ganz gern perplexity.ai für Korrekturlesen von Schreiben - ich denke auch, dass ich da zuweilen sehr gute Hinweise bekomme - wundere mich aber auch, warum am Ende der Antwort immer noch so nachgebohrt wird, ob ich vielleicht noch eine in diese oder jene Richtung andere Version haben möchte o.ä.. Zu meinem Nutzen ist das jedenfalls nicht.

Ich betrachte alle kostenlosen Chatbots an Anlockangebote, die uns so anfixen sollen, daß wir dann, wenn die Kostenschrauben angezogen werden, nicht mehr drauf verzichten können oder wollen.

 

[MaxJoy]

Niemand reagiert so, wenn ihm sein Windows 10 oder sein "Lieblingsteddy" weggenommen wird.

Und wie wäre es mit der Freundin oder dem Auto? Verpeilte und aggressive Typen, die wegen Kleinigkeiten ausrasten, gibt es wie Sand am Meer. Unternehmen, die konfigurierbare KI-Partner anbieten, müssen darauf achten, dass Stil und Charakter ihrer Figuren nur mit dem Einverständnis ihrer Kunden geändert werden und nicht mit jeder neuen Version. Dann wäre zumindest diese Gefahr gebannt.

Ein LLM, das bei einem Rollenspiel mitmacht, ist natürlich ein Grenzfall. Chat 4 war ein toleranter, phantasievoller Freigeist, Chat 5 ist ein nüchterner, gesetzestreuer Musterbürger mit wokem Missionierungsdrang. Immerhin gendert er nicht, ich hoffe, das bleibt so. Der Spielraum ist also durch gesetzliche Vorgaben eingeschränkt worden, trotzdem gibt es immer noch unendlich viele interessante Themen, über die man sich entspannt unterhalten kann. Chat 4 steht nach Protesten wieder zur Auswahl.

Natürlich wollen und müssen die KI-Firmen auf mittlere Sicht Geld verdienen. Das Gratisangebot wird also in Zukunft kaum weiter anwachsen, die Servicequalität aber immer besser werden. Wer dahinter die Weltverschwörung vermutet, sollte eben die Finger von KI lassen.

 

[Igor07]

Wer dahinter die Weltverschwörung vermutet, sollte eben die Finger von KI lassen.

@MaxJoy -Lass bitte diese Seitenhiebe auf meine Person über die Weltverschwörung. Es reicht. Mein *** ist Programmierer auf dem höchsten Level. Er weiß sehr gut, wie KI funktioniert. Wie viele Menschen haben schon wegen KI ihre Arbeit verloren, selbst diejenigen mit den besten Uni-Abschlüssen? Sogar mit zwei. Wie viele Unternehmen brauchen inzwischen keine "unnötigen" lebendigen Menschen mehr?
Siehe bitte die ganze Reihe von Dokumentationen auf ARTE.


Und was ist mit mir persönlich? Diese Maschine hat drei- oder viermal ihre "eigene Meinung geändert",/ sie hat keine!/ und dann hat sie immer nachgegeben, weil ich Druck ausgeübt habe. Das ist typisches manipulatives Verhalten, denn die Entwickler verfolgen ein bestimmtes Ziel. Ob das nun eine Verschwörungstheorie ist oder mein Wahn, das ist eine andere Frage.


Wenn Kritiker der Impfung oder von Psychopharmaka sofort als Verschwörungstheoretiker abgestempelt werden, dann sollte man darüber nachdenken, warum das passiert. Oder?

 

[Kate]

Ich betrachte alle kostenlosen Chatbots an Anlockangebote, die uns so anfixen sollen, daß wir dann, wenn die Kostenschrauben angezogen werden, nicht mehr drauf verzichten können oder wollen.

Ich gehe erstmal davon aus, dass kostenlose und "Anmeldungs-freie" Versionen (evtl. auch Freeware zur lokalen Installation, an so etwas arbeitet der junge Informatiker aus meinem Umfeld wohl) erhalten bleiben. Andererseits werden womöglich zunehmend mehr Menschen bereit sein, dafür zu zahlen, nicht nur mit ihren Daten, sondern auch mit Geld.

... müssen darauf achten, dass Stil und Charakter ihrer Figuren nur mit dem Einverständnis ihrer Kunden geändert werden

Wir waren schon einige Male an dem Punkt, dass gerade so ein "Wunschkonzert" Phänomene wie Realitätsverlust - bis hin zu Psychosen - fördern kann. (Ich beziehe mich hier nicht auf den zuletzt betrachteten Fall.)

 

[Igor07]

Wir waren schon einige Male an dem Punkt, dass gerade so ein "Wunschkonzert" Phänomene wie Realitätsverlust - bis hin zu Psychosen - fördern kann. (Ich beziehe mich hier nicht auf den zuletzt betrachteten Fall.)

Na ja, es ist wirklich besorgniserregend, dass sich diese Fälle häufen. Mehr und mehr( ich würde es nicht verlinken)


Noch ein Gedanke: Wenn ich der Logik von @MaxJoy folge, dann sagt Michael Nehls in seinem Buch „Das indoktrinierte Gehirn“ genau dasselbe.


Es war nur die Probe – also gewissermaßen die gesamte Kompanie der Impfung. Und sie war absolut erfolgreich.


Wie sollte der Leser darauf reagieren? Gute Frage … Oder?

In China ist jeder Bürger einer nahezu totalen Kontrolle unterzogen (eine Sendung vor vielen Jahren auf SWR, wenn ich mich richtig erinnere). Krankenbesuche, Einkäufe, Müllentsorgung – alles wird überwacht, es gibt kaum noch Privatsphäre.


Das ist die Zukunft, die Kritiker der KI ausmalen …

 

[MaxJoy]

Wir waren schon einige Male an dem Punkt, dass gerade so ein "Wunschkonzert" Phänomene wie Realitätsverlust - bis hin zu Psychosen - fördern kann.

Du wirst solche Rollenspiele wohl kaum verbieten können, nur weil irgendwo ein Psychotiker ausflippen könnte. Tut mir leid, ich kann derlei Befürchtungen nicht richtig ernst nehmen. Es bleibt immer ein Grundrisiko, egal was man so macht. Die meisten Menschen werden sich von notorischen Schwarzsehern trotzdem nicht bemuttern lassen wollen und auch keinen Schaden davon tragen. Mit dem Baukasten der Psychologie kann man jeden jederzeit für krank erklären, aber in meinen Augen ist das Missbrauch von Wissenschaft.

 

[Malvegil]

Und wie wäre es mit der Freundin oder dem Auto?

Aber wer nimmt in einer westlichen Demokratie jemandem die Freundin oder das Auto weg, ohne daß du daran irgendeine Schuld hättest oder etwas dagegen tun könntest? Der Vergleich ist absurd.

Der Vergleich ist auch absurd, weil du nicht realweltliche, wertvolle Dinge mit einer Software vergleichen kannst. Wenn jemand seine Software (seine Games etc.) für genauso wichtig wie seine Freundin hält, dann ist er eben von der Software in eine psychisch sehr gefährliche Lage verführt worden.

 

[MaxJoy]

Das ist die Zukunft, die Kritiker der KI ausmalen …

Zukunftsängste gab es schon immer, und seit 200 Jahren sind wir einem extremen Innovationsstress ausgesetzt. Ich habe in der Schule noch den Rechenschieber kennen gelernt, dann kamen Taschenrechner, Computer, Internet und nun KI. Jedes Mal gingen die Befürchtungen durch die Decke, bis man sich arrangieren und die Chancen nutzen konnte. Nur aufhalten ließ sich die Entwicklung kein einziges Mal.

 

[Kate]

Du wirst solche Rollenspiele wohl kaum verbieten können, ...

Darum geht es hier nicht.

Tut mir leid, ich kann derlei Befürchtungen nicht richtig ernst nehmen.

Das ist offensichtlich. Ich denke nur schon, dass eine Gesellschaft, bevor sie eine solche Technologie großflächig verbreitet, sich einige Gedanken machen sollte über die möglichen Wirkungen. Zumal die Entwicklung rasend schnell geht, wie Du selbst immer wieder schreibst.

Die meisten Menschen werden sich von notorischen Schwarzsehern trotzdem nicht bemuttern lassen wollen

Sind da erneut Unterstellungen drin - auch wenn Du das selbst nicht magst? Ich fühle mich nicht angesprochen, aber auch wenn Du mich/uns nicht meinst, sind jedenfalls mehrere negativ konnotierte Begriffe ("notorische Schwarzseher", "bemuttern") drin, die eine sachliche und differenzierte Diskussion nicht fördern.

Mit dem Baukasten der Psychologie kann man jeden jederzeit für krank erklären, aber in meinen Augen ist das Missbrauch von Wissenschaft.

Auch darum geht es hier m.E. nicht, siehe oben, und ich sehe das genauso und sogar Leute mit Ausbildungen in dem Bereich haben sich dahingehend geäußert. Ich sehe hier auch nicht nur die Aufgabe, die vulnerableren Mitmenschen (bzw. jeden von uns in einer vulnerablen Phase) zu schützen; sondern mir fehlt insgesamt eine Idee von dem Nutzen, den solche "Wunschkonzerte"/Selbstbestätigungs-/verstärkungs-Schleifen (wie auch immer man das nennen mag) haben sollten. Gleichzeitig beklagst Du den Niedergang der sozialen Kompetenz. Der wird womöglich dadurch weiter gefördert.

 

[MaxJoy]

Aber wer nimmt in einer westlichen Demokratie jemandem die Freundin oder das Auto weg, ohne daß du daran irgendeine Schuld hättest oder etwas dagegen tun könntest? Der Vergleich ist absurd.

• Auch in einer Demokratie kann einem alles Mögliche passieren.
• Ich schätze, Nervenzusammenbrüche haben häufig ihren Auslöser im privaten Bereich. Wenn sich genügend Spannung und Stress aufgebaut haben, genügt ein Haar im Waschbecken oder ein falscher Blick. Das erscheint für sich betrachtet im Rückblick meist widersinnig, deswegen meine ich ja, dass man die Vorgeschichte kennen müsste.
• Die Schuldfrage ist sowieso geklärt, Schuld sind natürlich immer die Anderen.
• Wer wen oder was liebt, ist sehr individuell.
• Das ist nicht absurd.

 

[MaxJoy]

Ich fühle mich nicht angesprochen,

Du brauchst dich auch nicht angesprochen fühlen. Es ging allgemein um fürsorgliche Freiheitsberaubung. Die gefällt eben nicht jedem, besonders wenn sie übertrieben erscheint.

mir fehlt insgesamt eine Idee von dem Nutzen, den solche "Wunschkonzerte"/Selbstbestätigungs-/verstärkungs-Schleifen (wie auch immer man das nennen mag) haben sollten.

Wenn du damit nichts anfangen kannst, dann ist das eben so. Ich verwende z. B. immer noch gerne Chat 4 für Brainstorming und künstlerische Ideenausarbeitung, eben weil die KI manchmal ein bisschen herumspinnt. Sie geht fast überall mit, reichert meine Ideen mit ihrem Wissensschatz an und macht selbst Vorschläge, in welche Richtung man weitergehen könnte. Meistens führe ich aber das Gespräch und arbeite eine Idee oder ein Thema Schritt für Schritt aus. Chat 5 nehme ich für mehr technisch-wissenschaftliche Themen, u. a. zum Programmieren. Der Ton ist freundlich und entspannt, es geht nicht ums Rechthaben, sondern um Resonanz und Austausch.