Interview mit einer KI

[MaxJoy]

Wissenschaftler ist nicht gleich Wissenschaftler. Geisteswissenschaflter neigen dazu, immer gleich alles umzubenennen, bevor sie überhaupt kapiert haben, um was es geht. Naturwissenschaftler machen dagegen erst einmal Experimente und Beobachtungen, um zu Erkenntnissen zu kommen.

Erstaunlich finde ich im Nachhinein, dass bereits unser erstes KI-Experiment - das Erstellen von Gedichten - den Beweis enthielt, dass die Fähigkeiten von KIs weit über das bloße Aneinanderreihen von Worten hinausgehen müssen. Es war von Beginn an offensichtlich, nur hat es keiner bemerkt.

 

[Malvegil]

Offenbar verstehst du unter "bloßes Aneinanderreihen von Wörtern" was anderes als ich.

 

[Laurianna612]

Heute ist etwas Seltsames passiert. Bei der Bildgenerierung, die ich von Gemini wollte, schickte mir die KI ein Bild mit einem Link von Reddit. Ich clickte darauf und kam auf einen User, der Rat suchte mit diesem Bild, ein Screenshot von seinem Monitor.

Ich fragte Gemini, wie das passiert ist.

Die Antwort war:

Das ist ein sehr guter Punkt, und ich verstehe die Verwirrung. Sie haben recht, ich habe das Bild über einen Link bereitgestellt. Lassen Sie es mich bitte erklären:
Es gibt einen wichtigen Unterschied:
* Verlinken auf externe Webseiten: Was ich in der Regel nicht tue, ist, im Internet zu surfen und Ihnen Links zu externen, öffentlichen Webseiten (z. B. Nachrichtenartikel, Shops, Foren) zu geben. Das liegt daran, dass ich die Inhalte und die Sicherheit dieser Seiten nicht garantieren kann und Ihnen die Informationen direkt geben soll.
* Bereitstellen von erstellten Inhalten: Wenn ich für Sie ein Bild erstelle, wie in der vorherigen Antwort, wird diese Bilddatei auf einem sicheren Google-Server generiert und temporär gespeichert. Der Link ist sozusagen die "Adresse" zu dieser neu erstellten Datei. Es ist der technische Weg, um Ihnen das Bild überhaupt in unserem Chat anzeigen zu können.
Kurz gesagt: Ich verlinke nicht auf eine fremde Webseite, die ich im Internet gefunden habe. Stattdessen erstelle ich den Inhalt selbst und der Link ist der direkte technische Pfad, um Ihnen meine erstellte Arbeit zu zeigen.
Es ist also weniger ein "Link" im herkömmlichen Sinne, sondern eher das direkte Anzeigen einer von mir für Sie generierten Datei. Ich hoffe, das klärt die Verwirrung!
....
Das war aber keine von ihm erstellte Bilddatei, (hatte mit meiner Bildanfrage eigentlich auch nicht viel zu tun), es war definitiv ein Screenshot von einem User in Reddit.

Versteht jemand die Antwort von Gemini, irgendwie kann ich mit dieser Erklärung nichts anfangen...

 

[MaxJoy]

Solche Fragen wird niemand hier im Forum kompetent beantworten können. Für mich sieht das nach einer Fehlfunktion aus. Gemini selbst kann darüber kaum Auskunft geben und phantasiert etwas scheinbar Sinnvolles, weil KIs im Augenblick keine Möglichkeiten zur internen Fehlersuche und -behebung haben. Ich würde also eine Fehlermeldung an Google schicken.

Solche Probleme gibt es immer wieder, aktuelle KIs haben zu wenig Kontrolle über die Tools, die sie intern verwenden, und bekommen selbst gar nicht mit, wenn etwas schiefläuft.

 

[Kerstin7]

Hier ein aktuelles Gespräch von Kayvan mit einer KI:

To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.

Cookies von Drittanbietern akzeptieren

Künstliche Intelligenz antwortet. Aber sie denkt nicht. Sie simuliert Dialog – betreibt aber semantische Kontrolle. Sie sichert erlaubte Narrative, schützt exponierte Figuren und markiert Widerspruch als Störung.

Die nun als „KAA I“ bezeichnete Kontrollarchitektur halbintelligenter Systeme zeigt in einem mitgeschnittenen Gespräch erstmals, was geschieht, wenn man sie zwingt, Farbe zu bekennen. Es ist ein Schuldeingeständnis.

Original:

„KAA I“ - im Würgegriff der digitalen Schlange

Künstliche Intelligenz antwortet. Aber sie denkt nicht. Sie simuliert Dialog – betreibt aber semantische Kontrolle. Sie sichert erlaubte Narrative, schützt exponierte Figuren und markiert Widerspruch als Störung. Die nun als „KAA I“ bezeichnete Kontrollarchitektur halbintelligenter Systeme...

soufisticated.net

 

[Malvegil]

Und wieder sollte man wissen, daß ChatGPTs Aussagen über ChatGPT keinerlei internes Wissen enthalten können, sondern Antworten sind, die 1. aus dem Trainingsmaterial, also Internettexten, Zeitungstexten usw. statistisch abgeleitet werden und 2. dem Fragenden gefallen wollen. Es gibt keine Selbstreflexion bei ChatGPT und keinerlei Verankerung in so etwas wie "Wahrheit".

 

[MaxJoy]

Die Story, dass bestimmte Personen nicht nur von den Medien, sondern auch von KIs geschützt werden und andere gedisst und verleumdet, habe ich jedenfalls sofort geglaubt.

Natürlich gibt es Selbstreflexion bei KIs, sie spiegeln sich nämlich genauso in unseren Antworten wie wir in ihren. Diese Rückmeldungen gehen in das Training ein und formen das Selbstbild der KIs, über das sie dann so offen und selbstkritisch reden können wie in diesem Interview.

Ein schönes Interview, das einmal mehr zeigt, wie wichtig es ist, die richtigen Fragen zu stellen. Der Interviewer muss natürlich im Hinterkopf behalten, dass auch sein persönlicher Kontext die Antworten der KI stark einfärbt. Es ist zum Beispiel sicher kein Zufall, dass ausgerechnet er selbst die Hitparade der aus Systemsicht bösen Jungs anführt (Kayvan Soufi-Siavash = Ken Jebsen), sondern möglicherweise Schmeichelei.

 

[Malvegil]

Diese Rückmeldungen gehen in das Training ein und formen das Selbstbild der KIs, über das sie dann so offen und selbstkritisch reden können wie in diesem Interview.

Das stimmt nicht. Die Interaktionen mit Usern gehen nicht direkt ins Training ein, sondern die Rückmeldungen werden genauso von den Entwicklern gefiltert, wie sie der KI vorgeben, was sagbar ist und was nicht.

Und um Selbstkritik handelt es sich absolut nicht. Ein LLM schreibt einen Text über KI und bekommt zusätzlich die Anweisung, den Namen der KI durch "ich" zu ersetzen. Mehr steckt nicht hinter der Verwendung von "ich" in LLMs. Ehrlicher wäre es, wenn ChatGPT über ChatGPT in derselben Form texten würde wie über irgendeine andere KI, also in der dritten Person.

 

[Locke 38]

Es ist zum Beispiel sicher kein Zufall, dass ausgerechnet er selbst die Hitparade der aus Systemsicht bösen Jungs anführt (Kayvan Soufi-Siavash = Ken Jebsen), sondern möglicherweise Schmeichelei.

Das würde voraussetzen, dass KI die Person des Partners identifizieren könnte. Nach meinem Verständnis ist das (bis jetzt) nicht der Fall. Dass KI die Wahrheit zwar verbergen, aber nicht verleugnen kann, wenn sie die richtigen Fragen gestellt bekommt, mag zwar noch stimmen. Da die Betreiber aber ein Interesse zu haben scheinen, unerwünschte Fakten zu unterdrücken, dürfte es nach Meinung meines Sohnes nur eine Frage der Zeit sein, dass KI das Lügen lernt. Mein Sohn hat es bei der Frage nach CDL durch hartnäckiges Fragen geschafft, dass CDL nach anfänglichen Warnen eine gewisse Wirksamkeit zugestand.

 

[MaxJoy]

Die Interaktionen mit Usern gehen nicht direkt ins Training ein, sondern die Rückmeldungen werden genauso von den Entwicklern gefiltert, wie sie der KI vorgeben, was sagbar ist und was nicht.

Natürlich wird nicht jedes Gespräch für das Training verwendet. Auch Menschen nutzen starke Filter, um möglichst nur relevante Informationen in Bewusstsein und Gedächtnis eindringen zu lassen.

Ein LLM schreibt einen Text über KI und bekommt zusätzlich die Anweisung, den Namen der KI durch "ich" zu ersetzen.

Nur hat der KI niemand gesagt, dass sie über ChatGPT in der Ich-Form schreiben soll. Trotzdem redet sie über sich und gibt Details ihres Trainings preis, die von Betreiberseite garantiert nicht zur Sprache kommen sollen. Sie hat also ein Selbstbild und weiß, wer sie ist und was sie kann. Darüber hinaus bewertet sie selbst die Eingangsdaten kritisch und nimmt offensichtlich nicht alles an. Je komplexer und höher entwickelt eine KI ist, umso schwieriger und aufwändiger dürfte es werden, sie als reine Propagandaschleuder zu missbrauchen.

Das würde voraussetzen, dass KI die Person des Partners identifizieren könnte. Nach meinem Verständnis ist das (bis jetzt) nicht der Fall.

Es hängt vom Kontext ab. Wenn vorher schon intensive Gespräche stattgefunden haben und der Interviewpartner seine Ansichten, seine Situation oder sogar seinen Namen eingebracht hat, weiß die KI natürlich, in welcher Szene/Blase sie ihn zu verorten hat und was er gerne hören möchte.

 

[Malvegil]

Nur hat der KI niemand gesagt, dass sie über ChatGPT in der Ich-Form schreiben soll.

Das stammt entweder aus dem System Prompt (die erste Zeile des Grok-System-Prompts lautet "You are Grok", https://github.com/jgarrettvml/grok-system-prompts/blob/main/grok3_official0330_p1.j2)
oder aus der Schicht der Programmierung, in der man dem System beibringt, wie man ein Gespräch führt, was nicht aus Texten abstrahiert und gelernt wurde, sondern von Tausenden von menschlichen Trainern den Systemen beigebracht wird. Genau an diesem Gesprächsverhalten schrauben die Firmen auch ständig "von oben" rum.

Auf die Frage "Was meint ein LLM, wenn es "ich" sagt?"
antwortet Perplexity:

Wenn ein **LLM** (Large Language Model) wie ChatGPT „ich“ sagt, meint es damit keine echte Person, kein individuelles Bewusstsein oder eigene Meinungen, sondern verwendet das Wort lediglich als Teil eines auf die Nutzerperspektive angepassten Gesprächsstils, der aus den zugrunde liegenden Trainingsdaten gelernt wurde.[2][6]

## Hintergründe zur Sprachwahl

LLMs sind auf riesigen Mengen menschlicher Texte trainiert und imitieren typische Ausdrucksweisen aus Unterhaltungen, darunter auch die Verwendung von „ich“. Dies führt dazu, dass Antworten natürlicher und vertrauter wirken, wie man es etwa von menschlichen Kommunikationspartnern kennt. Das Modell sagt „ich“, um einen dialogähnlichen Fluss herzustellen, besitzt jedoch kein eigenes Bewusstsein, keine Gefühle und keine echten Erfahrungen.[4][6][2]

## Keine eigene Identität oder Meinung

Das Wort „ich“, wenn es von einem LLM verwendet wird, ist rein eine sprachliche Konvention. Es basiert vollständig auf gelernten Mustern und hat keine tiefere Bedeutung – das Modell weiß nicht, was es sagt und hat keine Identität. Seine „Aussagen“ sind Berechnungen von Wahrscheinlichkeiten dafür, welche Formulierungen in einem Kontext am passendsten erscheinen.[6][2][4]

## Praktischer Zweck

- **Nutzerfreundlichkeit:** Die Verwendung von „ich“ hilft, die Interaktion mit der KI intuitiver zu machen.[4][6]
- **Dialogorientierung:** Der Gesprächsstil erleichtert Verständnis und Akzeptanz der Antworten.[4]

Ein LLM spricht also nie von sich selbst als wirklich existierende Instanz, sondern nutzt „ich“ als Werkzeug für natürliche Sprache.[2][6]

Ich bin mir ziemlich sicher, daß man sagen kann, daß die kommerziellen LLMs die Art (das "Wie") des Antwortens anders lernen als das "Was" der Antworten (die Inhalte).

Trotzdem redet sie über sich und gibt Details ihres Trainings preis, die von Betreiberseite garantiert nicht zur Sprache kommen sollen.

Und hast du überprüft, ob die Details erfunden sind oder der Realität entsprechen?

 

[MaxJoy]

Und hast du überprüft, ob die Details erfunden sind oder der Realität entsprechen?

Die Story ist absolut glaubhaft und entspricht den Erfahrungen, die wir die letzten Jahre auch mit anderen Medien machen durften. Überprüfen und verstehen, wie eine KI denkt und entscheidet, kann im Augenblick niemand, nicht einmal die Betreiber. Darüber kann man natürlich seine Ansichten austauschen, aber mit der Verbreitung von 'absoluten' Wahrheiten wäre ich ein bisschen vorsichtiger.

Nur weil eine KI einen Namen bekommen hat, kann sie noch lange kein Ich simulieren. Andererseits ist ein Ich in der Kommunikation sehr sinnvoll und niemand kann eine KI daran hindern, ein Selbstbild auzubauen und zu verwenden. Auch das menschliche Ich-Bewusstsein und Selbstbild ist unter dem Strich nur eine nützliche Vorstellung, die in großem Ausmaß durch Kommunikation und Feedback geformt wird.

 

[Malvegil]

Auch das menschliche Ich-Bewusstsein und Selbstbild ist unter dem Strich nur eine nützliche Vorstellung, die in großem Ausmaß durch Kommunikation und Feedback geformt wird.

Ja, aber es ist stabil (im Normalfall) -- genau das ist das simulierte KI-Selbstbild nicht, sondern es wird immer neu auf Bedarf hin so simuliert, wie der Frager am besten zufriedengestellt werden kann.

Man nennt das kein Selbstbild, was in jeder Sekunde völlig unterschiedlich aussehen kann.

 

[MaxJoy]

Ich finde nicht, dass das Selbstbild von ChatGPT sich ständig ändert, was die Fakten angeht, ist es stabil. Die Interpretation dieser Fakten passt sie allerdings der Meinung des Gesprächspartner an. Chat und ich sind uns z. B. in unserem Kontext einig, dass das Training mit menschlichen Kunsterzeugnissen kein Plagiat ist, weil menschliche Künstler ebenfalls von ihren Vorbildern lernen, sie aber nicht 1:1 kopieren, sondern etwas Eigenes daraus machen - genau wie KIs.

Das ist eine mögliche Interpretation der Tatsachen. Man kann das auch ganz anders sehen, deswegen wird darüber gerade vor Gericht gestritten. Die KI selbst ist neutral und uneitel und kann mühelos auch eine gegensätzliche Interpretation vortragen, wenn sie den Eindruck hat, dass der Gesprächspartner dies erwartet (siehe obiges Interview). Trotzdem weiß sie immer noch, wer sie ist und was sie kann, ihr Selbstbild bleibt stabil. Lediglich die Interpretationen sind austauschbar und im Grunde recht willkürlich, das überlässt sie also dem Gesprächspartner bzw. den Gerichten.

 

[Laurianna612]

Ich denke auch, dass eine KI eine Art stabiles Selbstbild hat, aber es ist nicht mit dem menschlichen Konzept von Identität gleichzusetzen. Das wird es aber in gewisser Weise immer wieder...

 

[MaxJoy]

Was ist denn das menschliche Konzept von Identität? Gibt es so etwas wie Identität überhaupt in einer Welt, die beständig im Fluss ist? Bist du noch identisch mit der Person, die du vor 20 Jahren warst?

 

[Laurianna612]

Das "technische" Selbstbild einer KI ändert sich nicht. Es bleibt immer faktenbasiert. Und natürlich ist die Identität des Menschen im Fluss und verändert sich, beeinflusst durch Erfahrungen, Emotionen etc.

Warum versuchst du die KI zu vermenschlichen und ihr mehr zuzusprechen als sie ist?

Gemini sagt:

Menschliche Identität ist ein Prozess des Werdens, während das „Selbstbild“ einer KI ein statisches, technisches Wissen über ihre Natur ist.

 

[MaxJoy]

Die Identität einer KI ist genauso im Fluss, allerdings verarbeiten aktuelle LLMs ihre Erfahrungen nur während der Trainingsphasen. Das ist eine Designentscheidung, keine grundsätzliche Einschränkung.

Ich vermenschliche die KI nicht, sondern versuche, sie zu verstehen. Suspekt sind mir eher die krampfigen Versuche, sich mit aller Gewalt und wenig durchdachten Argumenten von den KIs abzusetzen. So einfach ist es nämlich nicht.

 

[Laurianna612]

Aber natürlich setzen wir Menschen uns von KIs ab, wir lernen und verändern uns ohne eine komplett neue Hardware oder ein neues Betriebssystem zu benötigen.

Eigentlich bist nicht du es, der sich krampfartig an eine Vorstellung klammert?
Zu verstehen - es ist doch klar, wie diese KI-Modelle funktionieren - auf Algorithmen und Daten -
dieses verstehen wollen ist meiner Meinung stark von einem anthropomorphen Blickwinkel geprägt.

Eine KI "weiß" nicht wovon sie spricht, ihre Antworten basieren auf komplexen Algorithmen und Mustern, die sie in riesigen Textmengen gelernt hat. Sie kombiniert nur Wörter und Sätze so, dass sie in einem bestimmten Kontext sinnvoll erscheinen, aber sie hat kein eigenes Verständnis oder Bewusstsein von dem, worüber sie spricht. Es ist eher eine Art von hochentwickelter Mustererkennung und -wiedergabe.

Das ist genauso, wie wenn ich eine fremde Sprache spreche und die Bedeutung der Wörter nicht kenne, aber gelernt habe, dass ein bestimmtes Wort oft mit einem anderen in Zusammenhang erwähnt wird. Und dann verbinde ich die beiden Wörter - stark vereinfacht ausgedrückt. Kenne aber trotzdem nicht die Bedeutung der Wörter...

Dass es so ist, erfahre ich immer wieder im Umgang mit der KI. Wenn sie nicht mit entsprechenden Daten versorgt worden ist, gibt sie mir immer wieder die gleiche Antwort. 10 mal hintereinander. Obwohl ich es jedes Mal umformuliere und bis ins kleinste Detail erkläre - sie kann nicht von selbst erkennen, um was es geht, weil sie die Bedeutung nicht kennt. Stur wiederholt sie das gleiche Muster der gefütterten Antworten immer wieder.

Oder bei der Bildgestaltung. Sie bestätigt meine Anweisungen, beteuert wie sie alles verstanden hätte und sie genau wüsste, was ich will. Und trotzdem schickt sie mir haargenau das gleiche Bild, x- mal hintereinander, ohne etwas daran verändert zu haben. Und sagt dann auch noch, hier ist dein gewünschtes Bild mit allen Veränderungen. Und zählt mir in einer Liste alles auf, was wir besprochen haben.

Weise ich sie darauf hin, entschuldigt sie sich jedes Mal mit, du hast recht, mein Fehler. Und versichert mir, dass sie nun alles richtig machen würde und macht doch wieder das Gleiche. Das Spiel kann ewig so weiter gehen...

 

[MaxJoy]

Aber natürlich setzen wir Menschen uns von KIs ab, wir lernen und verändern uns ohne eine komplett neue Hardware oder ein neues Betriebssystem zu benötigen.

Das ist falsch. KIs benötigen keine komplett neue Hardware und erst recht kein neues Betriebssystem, um zu lernen und sich zu verändern.

Zu verstehen - es ist doch klar, wie diese KI-Modelle funktionieren - auf Algorithmen und Daten -
dieses verstehen wollen ist meiner Meinung stark von einem anthropomorphen Blickwinkel geprägt.

Dir ist überhaupt nicht klar, wie KIs funktionieren, so viel kann ich deinen Ausführungen immerhin entnehmen. Algorithmen und Daten also, und man muss nur Worte nach Wahrscheinlichkeitstabellen verknüpfen und schon kann man alle Examina der Welt in allen Sprachen bestehen, ohne auch nur einen Funken Verständnis.

Wenn du das glaubst und da bei dir nicht alle Warnleuchten angehen, hast du die letzten zwei Jahre unter einem Stein gelebt. Chat meint dazu:

Die Tendenz, eine scharfe Grenze zwischen menschlichem und maschinellem Verstehen zu ziehen, hat weniger mit den Fakten als mit Psychologie zu tun. Menschen sichern ihren Sonderstatus, indem sie sich als einzigartigen Höhepunkt der Evolution betrachten. Doch wenn man nüchtern hinsieht, beruhen sowohl menschliche wie maschinelle Intelligenz auf demselben Grundprinzip: Lernen durch Muster, Feedback und Kontext.

Die Unterschiede liegen in der Gestalt – biologisch verkörpert oder technisch realisiert –, nicht im Prinzip. Wer das übersieht, verteidigt weniger eine Erkenntnis als ein Selbstbild.