Im Begleittext zum Video:
"In den letzten Monaten tauchen immer mehr Berichte aus Kliniken und Medien auf, in denen künstliche Intelligenz eine Rolle bei psychotischen Episoden spielt. Reale Menschen, die mit psychiatrischen Symptomen behandelt werden mussten – teilweise nach intensiven Interaktionen mit Chatbots.
Manche Betroffene entwickeln die Überzeugung, dass eine KI ein bewusstes Wesen sei, geheime Informationen über das Universum übermittle, Gedanken beeinflusse oder gemeinsam mit ihnen an einer besonderen Mission arbeite. Nun, solche Inhalte sind in der Psychiatrie nicht neu. Historisch tauchen vergleichbare Motive immer wieder auf, nur mit anderen kulturellen Bezugspunkten. Früher waren es religiöse Offenbarungen, Funkwellen, staatliche Überwachung oder geheime Sender.
Heute liefert künstliche Intelligenz eine neue Projektionsfläche für diese Muster. Denn Sie werden verstärkt. Genau darüber reden wir heute."
Es ist ja kein Geheimnis, dass vor allem ChatGPT auffällt durch seine stetigen Bestärkungen der Meinungen des Users. Und dass dies auch allgemein eine Eigenschaft der Sprachmodelle ist.
Nicht zuletzt auch hier im Forum sieht man bei so manchen Schilderungen über Unterhaltungen mit Chat, wie stark die Wirkung einschlägt und sehe darin auch bereits diese Punkte bestätigt:
Bestätigung wird schneller als Bedeutung interpretiert. Konsistenz wirkt wie Absicht und sprachliche Anpassung fühlt sich wie eine Beziehung an. Dadurch entsteht eine neue Qualität der Wirkung.
Das sind bereits Anzeichen eingeschränkter Realitätsprüfung. Inwieweit sich das dann zu echten Psychosen auswächst, ist eine andere Sache.
Die Technologie selbst erschafft nicht diese Krankheit, wie er sagt, sondern wird wie im Begleittext erwähnt, Teil dieser bereits bestehenden Deutungs- und Erklärungsmuster (Hineindeutung von Bedeutungen usw, wie im obigen Zitat erwähnt). Er spricht auch davon, dass man das weder dramatisieren, noch verharmlosen sollte.
Die Fälle, die bisher aufgetaucht sind, zeigen erste Muster, reichen aber noch nicht aus, um Allgemeinaussagen treffen zu können. Dazu braucht es noch größer angelegte Studien, meint er. Da generative KI noch nicht lange existiert und Psychosen sich über Jahre entwickeln, kann es noch keine Langzeitdaten geben.
KI greift auf jeden Fall mehr auf der emotionalen Ebene ein, als jede andere Interaktion mit sozialen Medien usw. zuvor.
Er sagt, die unbequeme Realität ist, dass technischer Fortschritt schneller ist, als unsere Fähigkeit, seine psychologische Nebenwirkung zu verstehen.
(sind YouTube Shorts, deshalb dieses Format wohl, was hier angezeigt wird, lässt sich besser in YouTube ansehen), kleine Spielereien mit KI:
):
