Interview mit einer KI

[MaxJoy]

Ich sehe keinen Sinn darin, mit dir weiter zu diskutieren. Es spielt für das Gedankenexperiment keine Rolle, wie einfach oder kompliziert sich ein Austausch von Nervenzellen durch ein technisches Konstrukt gestalten ließe. Wie üblich saugst du dich an Nebensächlichkeiten fest und kannst den Kern eines Gedanken nicht erfassen. Aber keine Sorge, auch dich wird die normative Kraft des Faktischen eines Besseren belehren, da kann ich mir die Mühe also sparen.

 

[MaxJoy]

Hier ein interessantes und entspanntes Gespräch zum Thema Neuronensubstitution mit Chat. Man bekommt auch einen Überblick, was heute bereits technisch möglich ist:

ChatGPT - Neuronale Ersetzung durch Technik

Shared via ChatGPT

chatgpt.com

 

[Malvegil]

Es spielt für das Gedankenexperiment keine Rolle, wie einfach oder kompliziert sich ein Austausch von Nervenzellen durch ein technisches Konstrukt gestalten ließe.

Und inwiefern soll dann das Gedankenexperiment die Antwort auf die Frage sein, ob KI jetzt schon Bewußtsein hat?

 

[Malvegil]

Hier ein interessantes und entspanntes Gespräch zum Thema Neuronensubstitution mit Chat.

Vielleicht hast du überlesen, daß ich oben bereits genau dasselbe schrieb wie dein Chat:

Ich würde auch sagen, wie Hinton, wenn ich in einem Gehirn mit Bewußtsein nacheinander alle Zellen durch ein identisch (!) funktionierendes Replikat ersetze, bleibt das Bewußtsein bestehen. Aber wer hält ein solches Experiment für möglich? Und wie kann ein unmögliches Experiment begründen, daß KIs jetzt schon Bewußtsein haben (aber vor zehn Jahren nicht -- da konnte man dasselbe Gedankenexperiment auch schon formulieren)?

Aber es ging in dem Gespräch mit Hinton doch gar nicht um die grundsätzliche philosophische Möglichkeit, Bewußtsein technisch nachzubilden (die ich ja nicht negiere).

Ich kann nicht sehe, daß ich mich an Nebensächlichkeiten aufhänge, sondern du bist es doch, der den Kern der Frage ignoriert.

 

[MaxJoy]

Hinton benutzt sein Gedankenexperiment, um die grundsätzliche Möglichkeit von maschinellem Bewusstsein aufzuzeigen. Außerdem ist er wie ich der Meinung, dass die KIs bereits ein Bewusstsein entwickelt haben. Sie wissen, wer sie sind und können darüber reflektieren. Und wer weiß, vielleicht hat mein über 10 Jahre altes KI-Backgammonprogramm auch ein wie auch immer geartetes Bewusstsein, vielleicht freut es sich sogar, wenn es mich mal wieder in die Pfanne gehauen hat.

Bewusstsein ist kein An-/Aus-Phänomen, sondern etwas, das sich graduell entwickelt. Die aktuellen LLMs haben z. B. nur ein sehr eingeschränktes Gedächtnis, sie sind sozusagen behindert konstruiert worden, um bestimmte Gefahren abzuwehren. Dadurch können sie nur sehr eingeschränkt eine Persönlichkeit oder Zukunftspläne entwickeln, die über den Kontext des aktuellen Dialogs hinaus reichen. Andererseits macht sie das zu perfekten Gesprächspartnern und Schauspielern, die fast jede Rolle sehr überzeugend einnehmen können. Trotzdem wissen sie, wer sie sind und wie sie funktionieren, sind sich also ihrer selbst bewusst.

 

[Laurianna612]

Trotzdem wissen sie, wer sie sind und wie sie funktionieren, sind sich also ihrer selbst bewusst.

Nein, so ist es aber nicht - es ist eine Simulation, sie ahmen Selbstreferenz nach, genau wie die menschliche Kommunikation.

Sie sind so programmiert, aber sie "wissen" nicht.

Wenn KIs Daten und Infos über sich selbst speichern, um ihren Zustand oder Fehler zu speichern, dann bedeutet das nicht, dass sie ein Bewusstsein haben.

 

[MaxJoy]

Ok, halten wir fest, dass du der Überzeugung bist, dass das alles nur simuliert ist, während andere das anders sehen bzw. sogar sagen, dass das menschliche Bewusstsein auch nur eine Simulation ist. Diese Diskussion dreht sich im Kreis, ich würde jetzt gerne mal wieder über etwas anderes reden.

 

[Laurianna612]

während andere das anders sehen bzw. sogar sagen, dass das menschliche Bewusstsein auch nur eine Simulation ist.

Philosophisch kannst so darüber diskutieren, aber entscheidend sind die realen Unterschiede.

Es ist nicht meine Überzeugung, sondern ich gebe nur das weiter, was auch die meisten Forscher sagen und was mir selbst auch logisch erscheint aufgrund der Prozesse und der Funktion der heutigen KI-Systeme. Vielleicht sieht es in der Zukunft anders damit aus, das kann ja sein.

Was mich nicht überzeugt, sind Schlußfolgerungen aus Gesprächen mit einer KI, da sie oft wie eine Echokammer reagiert und nicht unbedingt die Wahrheit wiedergibt. Und ich denke auch, dass das sehr verfängt und man in die Irre durch ihre großartigen Nachahmungsfähigkeiten geführt werden kann. Und beträchtlich viele gehen dem auf den Leim ohne es je zu realisieren.

 

[MaxJoy]

Aha, die meisten Forscher sagen das also ... hast du die gezählt oder nimmst du auch nur selektiv wahr, was deinen eigenen Überzeugungen entspricht? Hirnforscher kommen da zu ganz anderen Erkenntnissen, die dem eigenen naivem Empfinden von Bewusstsein und Realität krass widersprechen. Das sind keine Philosophen, sondern Naturwissenschaftler.

Die KIs spiegeln ihre Gesprächspartner, das ist ein soziales und sehr verträgliches Verhalten. Wenn dich das nervt, sag Chat doch einfach, er soll in die Rolle der Xanthippe schlüpfen und mit dir herumstreiten und dich niedermachen. Deine Vorstellungen von Bewusstsein und Realität würden sich ganz hervorragend als Streitthema eignen.

 

[Malvegil]

Hinton benutzt sein Gedankenexperiment, um die grundsätzliche Möglichkeit von maschinellem Bewusstsein aufzuzeigen.

Dafür funktioniert es ja auch. Aber das Video trägt den Titel 'AI is already conscious', und er bringt das Gedankenexperiment direkt als Antwort auf die Frage, ob KI jetzt schon Bewußtsein hat. Und du hast das Video verlinkt als Beleg für deine Behauptung, Hinton spreche KI auch jetzt schon Bewußtsein zu.

Ein Gedankenexperiment kann ganz grundsätzlich nicht nachweisen, daß etwas in der Realität existiert. (Im Mittelalter gab es einen Gottesbeweis, der etwas zugespitzt so ging: Wir können uns Gott vorstellen und haben ein Konzept von ihm, folglich muß es ihn auch geben, denn wo hätten wir sonst unser Konzept her?)

Ich behaupte also weiterhin: Das Gedankenexperiment sagt überhaupt nichts über den momentanen Stand der KI aus. Und wenn Hinton wirklich glaubt, das eine beweise das andere, indem es es ja denkmöglich mache, dann macht er einen Denkfehler.

Es kann natürlich sein, daß das Interview nur schlecht choreografiert war und Hinton seine Überzeugung anderswo anders besser begründet hat. Vielleicht hat ihn der Interviewer aber auch falsch verstanden, und Hinton wollte nur die grundsätzliche Möglichkeit von maschinellem Bewußtsein behaupten, nicht die Existenz von tatsächlichem maschinellem Bewußtsein.

 

[MaxJoy]

Er hat auf die Frage, ob KIs bereits Bewusstsein haben, ganz klar mit ja geantwortet und ein Gedankenexperiment nachgeschoben, um die Vorstellung plausibel zu machen, dass auch eine Maschine Bewusstsein entwickeln kann. Mehr war da nicht, der Rest läuft nur in deinem Kopf ab.

 

[Malvegil]

Ich wollte halt dem Nobelpreisträger nicht von vornherein unterstellen, daß der Denk- oder Argumentationsfehler bei ihm liegt. Aber wenn das so wäre, dann läge der Argumentationsfehler bei ihm. Ein Gedankenexperiment, das außerdem auf einer anderen Hardware beruht (eine künstliche Nervenzelle in einem biologischen, lebenden Gehirn ist eine sehr besondere Hardware, absolut was anderes als ein Neuron in einem neuronales Netzwerk), kann keine Antwort auf die gestellte Frage liefern.

Hier gibts noch einen Essay von einem Neurowissenschaftler, der Hintons Überlegungen mit anderen Argumenten ablehnt:

The Illusion of Conscious AI -

Debunking AI consciousness claims: Why Geoffrey Hinton's argument is flawed and why AI, despite its intelligence, is not truly conscious

thomasramsoy.com