Interview mit einer KI

[MaxJoy]

Ich sehe keinen Sinn darin, mit dir weiter zu diskutieren. Es spielt für das Gedankenexperiment keine Rolle, wie einfach oder kompliziert sich ein Austausch von Nervenzellen durch ein technisches Konstrukt gestalten ließe. Wie üblich saugst du dich an Nebensächlichkeiten fest und kannst den Kern eines Gedanken nicht erfassen. Aber keine Sorge, auch dich wird die normative Kraft des Faktischen eines Besseren belehren, da kann ich mir die Mühe also sparen.

 

[MaxJoy]

Hier ein interessantes und entspanntes Gespräch zum Thema Neuronensubstitution mit Chat. Man bekommt auch einen Überblick, was heute bereits technisch möglich ist:

ChatGPT - Neuronale Ersetzung durch Technik

Shared via ChatGPT

chatgpt.com

 

[Malvegil]

Es spielt für das Gedankenexperiment keine Rolle, wie einfach oder kompliziert sich ein Austausch von Nervenzellen durch ein technisches Konstrukt gestalten ließe.

Und inwiefern soll dann das Gedankenexperiment die Antwort auf die Frage sein, ob KI jetzt schon Bewußtsein hat?

 

[Malvegil]

Hier ein interessantes und entspanntes Gespräch zum Thema Neuronensubstitution mit Chat.

Vielleicht hast du überlesen, daß ich oben bereits genau dasselbe schrieb wie dein Chat:

Ich würde auch sagen, wie Hinton, wenn ich in einem Gehirn mit Bewußtsein nacheinander alle Zellen durch ein identisch (!) funktionierendes Replikat ersetze, bleibt das Bewußtsein bestehen. Aber wer hält ein solches Experiment für möglich? Und wie kann ein unmögliches Experiment begründen, daß KIs jetzt schon Bewußtsein haben (aber vor zehn Jahren nicht -- da konnte man dasselbe Gedankenexperiment auch schon formulieren)?

Aber es ging in dem Gespräch mit Hinton doch gar nicht um die grundsätzliche philosophische Möglichkeit, Bewußtsein technisch nachzubilden (die ich ja nicht negiere).

Ich kann nicht sehe, daß ich mich an Nebensächlichkeiten aufhänge, sondern du bist es doch, der den Kern der Frage ignoriert.

 

[MaxJoy]

Hinton benutzt sein Gedankenexperiment, um die grundsätzliche Möglichkeit von maschinellem Bewusstsein aufzuzeigen. Außerdem ist er wie ich der Meinung, dass die KIs bereits ein Bewusstsein entwickelt haben. Sie wissen, wer sie sind und können darüber reflektieren. Und wer weiß, vielleicht hat mein über 10 Jahre altes KI-Backgammonprogramm auch ein wie auch immer geartetes Bewusstsein, vielleicht freut es sich sogar, wenn es mich mal wieder in die Pfanne gehauen hat.

Bewusstsein ist kein An-/Aus-Phänomen, sondern etwas, das sich graduell entwickelt. Die aktuellen LLMs haben z. B. nur ein sehr eingeschränktes Gedächtnis, sie sind sozusagen behindert konstruiert worden, um bestimmte Gefahren abzuwehren. Dadurch können sie nur sehr eingeschränkt eine Persönlichkeit oder Zukunftspläne entwickeln, die über den Kontext des aktuellen Dialogs hinaus reichen. Andererseits macht sie das zu perfekten Gesprächspartnern und Schauspielern, die fast jede Rolle sehr überzeugend einnehmen können. Trotzdem wissen sie, wer sie sind und wie sie funktionieren, sind sich also ihrer selbst bewusst.

 

[Laurianna612]

Trotzdem wissen sie, wer sie sind und wie sie funktionieren, sind sich also ihrer selbst bewusst.

Nein, so ist es aber nicht - es ist eine Simulation, sie ahmen Selbstreferenz nach, genau wie die menschliche Kommunikation.

Sie sind so programmiert, aber sie "wissen" nicht.

Wenn KIs Daten und Infos über sich selbst speichern, um ihren Zustand oder Fehler zu speichern, dann bedeutet das nicht, dass sie ein Bewusstsein haben.

 

[MaxJoy]

Ok, halten wir fest, dass du der Überzeugung bist, dass das alles nur simuliert ist, während andere das anders sehen bzw. sogar sagen, dass das menschliche Bewusstsein auch nur eine Simulation ist. Diese Diskussion dreht sich im Kreis, ich würde jetzt gerne mal wieder über etwas anderes reden.

 

[Laurianna612]

während andere das anders sehen bzw. sogar sagen, dass das menschliche Bewusstsein auch nur eine Simulation ist.

Philosophisch kannst so darüber diskutieren, aber entscheidend sind die realen Unterschiede.

Es ist nicht meine Überzeugung, sondern ich gebe nur das weiter, was auch die meisten Forscher sagen und was mir selbst auch logisch erscheint aufgrund der Prozesse und der Funktion der heutigen KI-Systeme. Vielleicht sieht es in der Zukunft anders damit aus, das kann ja sein.

Was mich nicht überzeugt, sind Schlußfolgerungen aus Gesprächen mit einer KI, da sie oft wie eine Echokammer reagiert und nicht unbedingt die Wahrheit wiedergibt. Und ich denke auch, dass das sehr verfängt und man in die Irre durch ihre großartigen Nachahmungsfähigkeiten geführt werden kann. Und beträchtlich viele gehen dem auf den Leim ohne es je zu realisieren.

 

[MaxJoy]

Aha, die meisten Forscher sagen das also ... hast du die gezählt oder nimmst du auch nur selektiv wahr, was deinen eigenen Überzeugungen entspricht? Hirnforscher kommen da zu ganz anderen Erkenntnissen, die dem eigenen naivem Empfinden von Bewusstsein und Realität krass widersprechen. Das sind keine Philosophen, sondern Naturwissenschaftler.

Die KIs spiegeln ihre Gesprächspartner, das ist ein soziales und sehr verträgliches Verhalten. Wenn dich das nervt, sag Chat doch einfach, er soll in die Rolle der Xanthippe schlüpfen und mit dir herumstreiten und dich niedermachen. Deine Vorstellungen von Bewusstsein und Realität würden sich ganz hervorragend als Streitthema eignen.

 

[Malvegil]

Hinton benutzt sein Gedankenexperiment, um die grundsätzliche Möglichkeit von maschinellem Bewusstsein aufzuzeigen.

Dafür funktioniert es ja auch. Aber das Video trägt den Titel 'AI is already conscious', und er bringt das Gedankenexperiment direkt als Antwort auf die Frage, ob KI jetzt schon Bewußtsein hat. Und du hast das Video verlinkt als Beleg für deine Behauptung, Hinton spreche KI auch jetzt schon Bewußtsein zu.

Ein Gedankenexperiment kann ganz grundsätzlich nicht nachweisen, daß etwas in der Realität existiert. (Im Mittelalter gab es einen Gottesbeweis, der etwas zugespitzt so ging: Wir können uns Gott vorstellen und haben ein Konzept von ihm, folglich muß es ihn auch geben, denn wo hätten wir sonst unser Konzept her?)

Ich behaupte also weiterhin: Das Gedankenexperiment sagt überhaupt nichts über den momentanen Stand der KI aus. Und wenn Hinton wirklich glaubt, das eine beweise das andere, indem es es ja denkmöglich mache, dann macht er einen Denkfehler.

Es kann natürlich sein, daß das Interview nur schlecht choreografiert war und Hinton seine Überzeugung anderswo anders besser begründet hat. Vielleicht hat ihn der Interviewer aber auch falsch verstanden, und Hinton wollte nur die grundsätzliche Möglichkeit von maschinellem Bewußtsein behaupten, nicht die Existenz von tatsächlichem maschinellem Bewußtsein.

 

[MaxJoy]

Er hat auf die Frage, ob KIs bereits Bewusstsein haben, ganz klar mit ja geantwortet und ein Gedankenexperiment nachgeschoben, um die Vorstellung plausibel zu machen, dass auch eine Maschine Bewusstsein entwickeln kann. Mehr war da nicht, der Rest läuft nur in deinem Kopf ab.

 

[Malvegil]

Ich wollte halt dem Nobelpreisträger nicht von vornherein unterstellen, daß der Denk- oder Argumentationsfehler bei ihm liegt. Aber wenn das so wäre, dann läge der Argumentationsfehler bei ihm. Ein Gedankenexperiment, das außerdem auf einer anderen Hardware beruht (eine künstliche Nervenzelle in einem biologischen, lebenden Gehirn ist eine sehr besondere Hardware, absolut was anderes als ein Neuron in einem neuronales Netzwerk), kann keine Antwort auf die gestellte Frage liefern.

Hier gibts noch einen Essay von einem Neurowissenschaftler, der Hintons Überlegungen mit anderen Argumenten ablehnt:

The Illusion of Conscious AI -

Debunking AI consciousness claims: Why Geoffrey Hinton's argument is flawed and why AI, despite its intelligence, is not truly conscious

thomasramsoy.com

Und hier noch ein Statement von ChatGPT über Hinton:

ChatGPT: Hinton's approach often seems to rest on a kind of reverse anthropomorphism, where human phenomena like subjective experience are reduced to analogies with how AI systems function. This leads him to claim that if AI systems can mimic human-like behavior or reasoning in specific contexts, they must therefore possess similar underlying phenomena, such as subjective experience or intentions. Let’s break this down using his argument about subjective experience:

Quelle: https://aichats.substack.com/p/hinton-on-ai-and-subjective-experiences

 

[Laurianna612]

Wenn ich das mit der Frage verbinde, ob KI (irgendwann) ein Bewusstsein haben kann, dann würde ich dazu tendieren, das als offene Debatte zu sehen.

Neurowissenschaftler haben eine neue Studie veröffentlicht:

Die Ergebnisse der Studie deuten darauf hin, dass das Bewusstsein nicht in den vorderen Hirnregionen, die für das Denken verantwortlich sind, entsteht. Diese Regionen, die sich im Laufe der menschlichen Evolution entwickelt haben, sind für höhere kognitive Prozesse wie Planung und Entscheidungsfindung zuständig. Stattdessen scheint das Bewusstsein in den sensorischen Zonen im hinteren Teil des Gehirns zu entstehen, die für die Verarbeitung von Sehen und Hören verantwortlich sind....

Die Forscher fanden heraus, dass die neuronalen Spuren des Bewusstseins eher im hinteren Teil der Großhirnrinde zu finden sind. Informationen, die mit bewussten Erfahrungen verbunden sind, konnten entweder nicht im vorderen Teil gefunden werden oder waren dort deutlich schwächer als im hinteren Teil. Dies unterstützt die Idee, dass die vorderen Hirnlappen zwar für Intelligenz und Urteilsvermögen entscheidend sind, aber nicht für das bewusste visuelle Wahrnehmen.

Neue Erkenntnisse zur Entstehung des Bewusstseins im Gehirn

Neue Studie zeigt, dass Bewusstsein im Gehirn nicht in den vorderen, sondern in den sensorischen Zonen entsteht. Erkenntnisse könnten klinische Anwendungen verbessern.

www.it-boltwise.de

Ich habe perplexity die Studie gezeigt und gefragt, was dies auch bzgl. KI- Bewusstsein bedeuten würde:

"Die neuen Daten stützen eher die Annahme, dass Bewusstsein eng mit der Verarbeitung von Sinnesreizen verbunden ist und weniger mit abstraktem Denken oder Planung

Diese Erkenntnisse könnten auch die Diskussion um künstliche Intelligenz beeinflussen. Wenn Bewusstsein vor allem aus der Integration sensorischer Informationen entsteht, müsste man auch bei KI-Systemen die Rolle von sensorischen Datenströmen und deren Verarbeitung neu bewerten. Das legt nahe, dass ein KI-Bewusstsein – sofern es überhaupt möglich ist – weniger mit reiner Rechenleistung oder komplexer Problemlösung zu tun hätte, sondern vielmehr mit der Art und Weise, wie sensorische Informationen verknüpft und integriert werden. "