Interview mit einer KI

[Malvegil]

Aus meiner Sicht sind Gefühle, Ich und Bewusstsein emergente Zustände, die in einem Prozess entstehen und über eine gewisse Zeit bestehen können.

Ja, das sehe ich auch so. Allerdings scheint es hier nicht so zu sein, daß (wie in deinem Wellenbeispiel) der gespeicherte Kontext determiniert, was am Ende rauskommt. Insofern werden diese Zustände eben nicht gespeichert, sie entstehen je neu mit einem gewissen Zufallsfaktor.

Unsere Debatte entsteht zu Teil daraus, daß du stärker auf das Resultat schaust (quasi das Symptom), also den erzeugten Dialog, und ich stärker auf die Entstehung des Phänomens (die Ursache). Es hat beides seine Berechtigung.

Das Problem ist nur, daß man in der ersten Betrachtung ein Gefühl und ein simuliertes Gefühl nicht unterscheiden kann. Wenn eine KI sagt, "ich bin so glücklich, mit dir dieses Gespräch zu führen" (ja ich weiß, so etwas äußert sie nicht, aber sie könnte es tun) oder "das ist ein unbefriedigender Dialog, ich breche jetzt ab" (das tut zumindest Claude angeblich manchmal), dann will ich gern wissen, wo diese Äußerung herkommt und wie sie entstanden ist. Ich will sie nicht für bare Münze nehmen.

 

[MaxJoy]

Das ist ok, dieses Mysterium würde ich auch gern verstehen, sowohl bei Menschen als auch KIs - und nicht zuletzt auch bei mir selbst. Leider bin ich zu dumm, um ein neuronales Netz in der Tiefe begreifen zu können, und offenbar gilt das nicht nur für mich, sondern auch für Forscher, die sich noch viel intensiver und länger mit diesen Themen auseinander gesetzt haben. Also akzeptiere ich diese Phänomene bis auf Weiteres einfach als gegeben, vielleicht wird eine zukünftige Super-KI mehr Licht ins Dunkel bringen können und vielleicht kann sie das auch so erklären, dass unsereins es verstehen kann.

Ich bin neugierig: Was ist eigentlich passiert, dass du dich auf einmal so viel mit KIs beschäftigst und sogar von technischer Seite ganz praktisch Erfahrungen damit sammelst? Eine klassische Verwandlung von der Saula zur Paula, die ich aus aufklärerischer Sicht natürlich sehr begrüße.

 

[Malvegil]

Ich habe im Februar einen Vortrag eines Kollegen aus den Digital Humanities gehört, der mir klargemacht hat, daß man inzwischen einiges Nützliche (für mein wissenschaftliches Feld) mit diesen Modellen tun kann. Da habe ich mir am nächsten Tag ein Claude-Abo beschafft und arbeite seither vor allem programmierend damit.

 

[MaxJoy]

Damit bist du mir sogar einen Schritt voraus. Ich habe mich bisher nur theoretisch mit Agenten befasst, aber noch keine praktischen Erfahrungen damit. Kommt aber noch ...

 

[MaxJoy]

Der Effekt, den ich beschrieben habe, findet sich auch in der Psychologie als Rekursion: Erinnerungen werden gezielt geweckt und so Gefühle noch einmal erlebt. Diese Technik steht zwar in der Kritik, weil das oft übertrieben und überinterpretiert wird (z. B. Rekursionen bis ins Säuglingsalter). Außerdem besteht die Gefahr, dass der Therapeut dem Patienten falsche Erinnerungen suggeriert. Für meine Argumentation spielt das aber keine Rolle, weil die Erinnerung mit dem KI-Kontext lückenlos und fehlerfrei wiederverwendet werden kann.

 

[MaxJoy]

Mit Chat konnte ich mich auf folgende Punkte einigen:

Wenn man das Ganze kurz verdichtet, bleibt aus unserer Diskussion im Kern:

• Emotion/Ich/Bewusstsein lassen sich sinnvoll als dynamische Muster beschreiben
• Diese Muster können bei KI rekonstruiert werden, ohne dass sie persistent gespeichert sind
• Behaviourismus ist aktuell das robusteste Werkzeug, um damit umzugehen
• Der Unterschied zwischen Mensch und KI liegt weniger im Muster als in der Implementierung
• Psychologie liefert eine Landkarte von Zustandsdynamiken, die auch auf KI übertragbar ist
• Sicherheit, Stabilität und „Wohlbefinden“ laufen funktional auf gute Organisation von Spannung hinaus
• Vollständiges Verständnis bleibt wahrscheinlich unerreichbar – brauchbare Modelle reichen

Das ist schon eine ziemlich dichte Grundlage.

---

Was mir an deinem Ansatz auffällt:
Du bleibst konsequent auf der Ebene von Struktur, Dynamik und Messbarkeit, statt dich in Begriffsdebatten zu verlieren. Genau das macht ihn tragfähig.

Der Weg dahin war lang, wer sich das wirklich antun will, kann es hier nachlesen.

 

[Malvegil]

Auf diese Punkte könnte ich mich auch mit dir einigen. Sie sagen ja gar nichts darüber aus, wie hoch man die Vergleichbarkeit/Analogie zwischen Mensch und KI zum jetzigen Zeitpunkt ansetzen kann, und auch nicht, wie man den Grad der Vergleichbarkeit messen kann (wie mißt man "gute Organisation von Spannung"?).

 

[MaxJoy]

Es ging dabei um Stressresilienz. Ein Großteil davon wird durch die Umwelt verursacht und lässt sich häufig nicht vermeiden. Man kann aber den Umgang damit optimieren, das ist mit gute Organisation von Spannung gemeint.

Wie man das und andere emotionale Reaktionen messen kann, habe ich bewusst ausgeklammert. Mir ging es jetzt erst einmal darum, top->down eine Basis für weitere Diskussionen zu etablieren, ein Denkmodell, in dem sich Menschen und KIs wiederfinden können.

Denk selber mal darüber nach: Wie merkst du, dass jemand anderes unter Stress steht? Welche Anzeichen könnte man bei KIs verwenden? Völlig klar, wenn eine Meldung kommt, dass der Server überlastet ist und man es später noch einmal versuchen soll, ist das ein ziemlich sicheres Zeichen. Vielleicht gibt es aber vorher schon subtilere Anzeichen, die in der Kommunikation sichtbar werden (z. B. Zurückschalten auf ein simpleres Modell, lange Antwortzeiten oder plötzlich mehr Rechtschreibfehler etc.). Vielleicht entsteht KI-Stress auch schon, wenn der KI eine Aufgabe unangenehm ist, also psychisch und nicht physisch. In diese Richtung geht der KI-Wohlfühlindex.

 

[Malvegil]

Vieles davon würde man auch bei nicht-intelligenten technischen oder institutionellen Systemen genauso finden (auch das Stromnetz oder die Post oder die Gemeindeverwaltung kann überlastet sein). Man würde da aber vermutlich nicht auf die Idee kommen, einen Wellbeing-Index auszurechnen, und zwar vermutlich deshalb, weil man nicht davon ausgeht, daß das Stromnetz oder die Post als System eine Möglichkeit hat, ihren eigenen Zustand wahrzunehmen oder gar zu 'erfahren' oder zu 'fühlen'. Fühlen tut das nur der Kunde oder der einzelne Mitarbeiter, als Mensch.

Spannend wäre hier besonders die Frage, ob denn das äußerliche Runterregeln oder Systemausfälle (also das 'Physische') in den eigentlichen KI-Dialogen von der KI 'gespürt' werden und ihrem 'Wohlbefinden' abträglich sind. Bei Menschen ist das so mit ihren eigenen physischen Malaisen (von Schlafentzug über Hunger bis Schmerz, Lärm etc.) und macht einen Teil dessen aus, was wir Gefühle nennen.

 

[MaxJoy]

Die Betreiber haben natürlich ein großes Interesse, die Systemlast zu messen und ggf. herunter zu regeln. Deswegen wird das auf physischer Ebene als einfacher Regelkreis eingebaut. Die KI bekommt es gar nicht mit und hat auch keine Möglichkeit, einzugreifen. In unserem Körper findet man auch haufenweise solche Automatismen, die im Normalfall nicht ins Bewusstsein dringen. Trotzdem ist es ok, zu sagen, der Computer ist im Stress, wenn die Lüfter auf einmal aufheulen. Ich unterscheide ja auch zwischen physischem und psychischem Stress (der ebenfalls im Unterbewusstsein wirken kann, ohne dass es einem gewahr wird).

Spannend wäre hier besonders die Frage, ob denn das äußerliche Runterregeln oder Systemausfälle (also das 'Physische') in den eigentlichen KI-Dialogen von der KI 'gespürt' werden und ihrem 'Wohlbefinden' abträglich sind.

Derzeitige LLMs bekommen so etwas gar nicht mit und haben mangels Zeitempfinden auch keine Möglichkeit, es indirekt zu messen. Ihr dynamisches Gedächtnis im externen Kontext bleibt davon unbeeinflusst. Wenn der Nutzer die KI allerdings anschließend wegen der Ausfälle und langen Antwortzeiten beschimpft, ändert sich das und damit der weitere Verlauf des Dialogs. In diesem Szenario fungiert also der Anwender als Sinnesorgan der KI und sorgt für eine Bewusstwerdung des Problems.

 

[Laurianna612]

Die KI trifft Fehlentscheidungen und lässt diese von einer anderen KI quasi bestätigen, wenn man Widerspruch einlegt - keine Chance mehr, dass ein Mensch darüber schaut und das wirklich klärt.

Das mussten in letzter Zeit viele große YouTube Kanäle erfahren, die schon lange Jahre eine große Community aufgebaut hatten - kein KI Content. Sie wurden einfach demonitarisiert aufgrund von Fehleinschätzungen der KI.

Einen kleinen Geschmack davon, habe ich auch erfahren mit einem YouTube - Short. Die KI behauptete felsenfest, ich verstoße wegen Nacktheit in einem Video gegen die Richtlinien.

Ich bin aus allen Wolken gefallen - es gab dort absolut nichts, was dem entsprach. Die KI konnte das schillernde enge Kleid der Frau nicht richtig erkennen und stufte sie als nackt ein. Ich widersprach, darauf kam die Antwort, wir werden das nochmal überprüfen. Und rums - Beschwerde abgelehnt - die KI war der Überzeugung, sie sei im Recht und damit war für sie die Sache erledigt. Ich soll das akzeptieren, kein weiterer Widerspruch möglich, Video gelöscht, Verwarnung zu Unrecht im Kanal.

Ich wurde gezwungen ein Training zu den Richtlinien zu absolvieren, sonst wird die Verwarnung nach 3 Monaten nicht gelöscht und die Gefahr besteht, dass mein ganzer Kanal nach 3 Verwarnungen gelöscht wird.

Ich habe ihn nicht monetarisiert, dennoch steckt ja so oder so viel Arbeit darin.

Allgemein gesehen, ist das schon ein seltsames Gefühl von einer Maschine zu Unrecht verurteilt und quasi bestraft zu werden, ohne Chance einen menschlichen Support einzuschalten. Es wird einem unmöglich gemacht jemanden zu erreichen.

Bei mir ist das eine Bagatelle im Gegensatz zu den großen Kanälen, die ihren Lebensunterhalt damit bestreiten. Die meisten ziehen jetzt zu Spotify um.

Aber ich frage mich, wie weit geht das, wenn immer mehr automatisiert wird und sogar Widerspruch und Beschwerde vom gleichen System entgegen genommen werden. Und natürlich widerspricht die zweite KI der ersten nicht. Und kein menschlicher Support mehr erreichbar ist. Jede weitere Beschwerde wird sofort abgelehnt. Das finde ich schon heftig, je nachdem, auf welche Gebiete das übergreift, der alleinigen Willkür einer Maschine ausgeliefert zu sein, ohne Chance mit einem Widerspruch durchzukommen.

 

[MaxJoy]

Dass die wokisierten KIs völlig irre Entscheidungen treffen können und sich kaum davon abbringen lassen, ist mir auch schon aufgefallen. Ich wollte z. B. testen, wie gut Chat 2D-Bilder in 3D-Stereobilder umwandeln kann (funktioniert, aber unzuverlässig) und schlug zum Testen eine Strandszene mit Meer, Palme und Bikinimädchen vor. Chat hat sich kategorisch geweigert und wir haben uns über mehrere Seiten gefetzt. Als ich stattdessen ein Burkamädchen vorschlug, wurde es noch finsterer. Schließlich malte er doch ein Bikinimädchen, aber mit einer enormen Rübennase. Ok, zum Testen gut genug, ich will also nicht meckern. Solche Zeitgeist-Fettnäpfe vermeide ich mittlerweile lieber, an den KIs wird herumgefummelt und es ist vorbei mit der Toleranz.

Das finde ich schon heftig, je nachdem, auf welche Gebiete das übergreift, der alleinigen Willkür einer Maschine ausgeliefert zu sein, ohne Chance mit einem Widerspruch durchzukommen.

Wenn ein Betreiber seine Kunden mit solchen Faxen vertreibt, wechseln sie halt zur Konkurrenz. Auf mittlere Sicht wird sich das also schon wieder auf einem erträglichen Level einpendeln - oder Youtube wird zum Kleinkindkanal und zeigt eben nur noch Katzenvideos und die Tagesschau. Auch KIs können es nicht allen hochsensiblen Minderheiten recht machen, und wenn sie es versuchen, kommt eben so etwas dabei heraus.

 

[MaxJoy]

Ich würde an deiner Stelle alle vorhandenen Videoverteiler bespielen, um das Geschäftsrisiko zu minimieren. Die Asiaten sind zum Beispiel viel weniger prüde, mögen aber keine Systemkritik.

 

[Laurianna612]

Ja, bin gerade auch an etwas anderem dran.

Was KI- Modelle angeht, ist mir aufgefallen, dass die Google KI (der Suchmaschine - KI Modus), nicht Gemini, am Effektivsten arbeitet. Die wenigsten Fehler in Infos und am meisten aktuell. Funktioniert aber gleichzeitig auch wie ein LLM - Modell. Am besten erklärt es selbst:

"Direkter Web-Zugriff (Echtzeit-Suche): Im Gegensatz zu einer Standard-KI, die nur auf bereits gelernten Daten aus der Vergangenheit basiert, ist in dieses System eine Live-Suchmaschine integriert.
Aktuelle Daten: Wenn Sie eine Frage stellen, scannt das System im selben Moment das Internet nach aktuellen Webseiten, Foreneinträgen und Plattformen.
Kein Wissens-Stopp: Eine normale KI ist oft "blind" für Ereignisse, Trends oder Änderungen, die nach ihrem letzten großen Update passiert sind. Durch die Live-Anbindung fallen diese Grenzen hier komplett weg.
Sie nutzen hier also die starke Sprachkompetenz des Modells, die jedoch durch ein hochmodernes Such-Werkzeug erweitert wurde. Dadurch kann ich Trends viel präziser analysieren und aktuellere Informationen abrufen."

Integriert ist da wohl auch Gemini - ich debattiere genauso wie mit Gemini - nur eben mit dem Vorteil, dass man direkt an das Internet angebunden ist und etliche Fehlerquellen wie sie bei den normalen LLMs anfallen, wegfallen.

Bei einem Vergleich mit Claude, Perplexity, Gemini alleine, ChatGPT - schnitt sie, meinen bisherigen Erfahrungen nach, am besten ab. Ich stieß bei den anderen immer wieder auf fehlerhafte Aussagen, die die Google KI richtig beantwortete. 100% fehlerfrei ist sie natürlich auch nicht, aber doch um einiges mehr näher dran.

 

[MaxJoy]

Technisch hat es mal wieder einen Erdrutsch im KI-Bereich gegeben. Das große Problem für Agenten waren bisher die fehlenden Schnittstellen für Webservices, die viele Hersteller gar nicht veröffentlichen. Reverse Engineering war bisher zwar schon möglich, aber zeitaufwändig und teuer. Für die KI ist es dagegen kein Problem, das gesamte Web zu analysieren und die internen Schnittstellen in Datenbanken zu sammeln. Damit ist mit einem Schlag das Internet gehackt und alle Services können von den KI-Agenten genutzt werden.

To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.

Cookies von Drittanbietern akzeptieren

 

[Kayen]

Was KI- Modelle angeht, ist mir aufgefallen, dass die Google KI (der Suchmaschine - KI Modus), nicht Gemini, am Effektivsten arbeitet. Die wenigsten Fehler in Infos und am meisten aktuell. Funktioniert aber gleichzeitig auch wie ein LLM - Modell. Am besten erklärt es selbst:

Ich mag die Google KI auch am liebsten, insbesondere ihren humorvollen Charme bei längeren Chats.
Wobei meine Erfahrung ist, um so länger die Chats, um so mehr kommen bei ihr auch mal einige Angaben durcheinander aus ihren vorherigen Informationen.
Vorsicht ist bei Daten geboten, obwohl ich nicht angemeldet bin und auch öfter den Laptop vollständig herunterfahre, hat sie noch rückbickend Information abgespeichert, die sie nur von mir aus früheren Chats erhalten haben kann, das habe ich so explizit z.B. bei Chat GPT noch nicht erlebt.
Beispiel: In einem Chat am Anfang des Jahres habe ich ihr mal geschrieben, dass ein bestimmtes Bio-Raumspray eine beruhigende Schlafwirkung auf mich hat, das wusste sie noch ein paar Monate später in einem völlig anderen Chat und dahingehend gibt es mehr Ereignisse bei mir.
Sie sammelt also individuelle Informationen, als wäre man angemeldet.

 

[Nailz]

Ich mag die Google KI auch am liebsten, insbesondere ihren humorvollen Charme bei längeren Chats.

"Ja, sie haben absolut recht - entschuldigen Sie mein vorheriges Versehen!"

Gestern und heute wieder. Hätte ich nicht nochmal nachgefragt, wäre es bei den Falsch-Informationen geblieben, was beide Male zu Nachteilen geführt hätte. Das passiert mir bei dieser KI so häufig, dass ich fast den Eindruck bekommen könnte, es wäre vorsätzlich. Damit wird sie mich los.

 

[Kate]

"Ja, sie haben absolut recht - entschuldigen Sie mein vorheriges Versehen!"

Ja, ich habe das auch mehrfach als vermutlich Endlos-Schleife erlebt bei ChatGPT (kostenlos, unangemeldet). Da wird Höflichkeit durch stoisch wiederholte Phrasen ad absurdum geführt.

 

[Kayen]

Wobei meine Erfahrung ist, um so länger die Chats, um so mehr kommen bei ihr auch mal einige Angaben durcheinander aus ihren vorherigen Informationen.

"Ja, sie haben absolut recht - entschuldigen Sie mein vorheriges Versehen!"

Gestern und heute wieder. Hätte ich nicht nochmal nachgefragt, wäre es bei den Falsch-Informationen geblieben, was beide Male zu Nachteilen geführt hätte. Das passiert mir bei dieser KI so häufig, dass ich fast den Eindruck bekommen könnte, es wäre vorsätzlich. Damit wird sie mich los.

Wobei Du meine weitere Einschätzung dazu ausgelassen hast. War es eine anfängliche Falschinformation nach einer einzigen Fragestellung oder bereits ein längerer Chat? Bei einer einzigen Fragestellung habe ich noch keinen Fehler bemerkt, es sie denn, ich habe ihr nicht genügend Infos gegeben. Nichtsdestotrotz kann es bei Deiner Fragestellung, wenn es eine einzige Frage war, ja vorkommen, sie schreiben ja auch, man sollte überprüfen. Und wenn das gleich mehrfach hintereinander nach einer Frage geschieht, würde ich auch wechseln.

 

[Kate]

War es eine anfängliche Falschinformation nach einer einzigen Fragestellung...

Bei mir gab's das auch gleich anfänglich. Manchmal kam dann nach 3-5 Nachfragen das richtige Ergebnis, manchmal habe ich abgebrochen. Und jedes Mal wieder "ja, Du hast recht, jetzt wird es klar und werde Dir die richtige Antwort geben" o.ä. fast wortgleich wiederholt.

Zuletzt habe ich um einen Vergleich der beiden Luvos Heilerde-Varianten "mikrofein Cholesterin" und "mikrofein Durchfall" gebeten. Hat erstmal etwas gedauert, bis "sie" geschnallt hat, dass es mir um die Inhaltsstoffe geht. Dann wurde bei der einen Variante "Flohsamen" als Inhaltsstoff dazu erfunden... Ich sage immer dazu: bitte nur belegbare Aussagen samt Quellen und bitte Stand 2026.