Interview mit einer KI

[MaxJoy]

Und der Bevölkerung ist diese Entwicklung bzgl. KI noch gar nicht wirklich bewusst.

Die KI-Entwicklung geht so schnell, dass sogar Geoffrey Hinton Schwierigkeiten hat, das alles emotional zu verarbeiten. Sein Verstand erkennt klar die Gefahren, die sich ergeben können, aber sie beunruhigen ihn nicht wirklich. Wir sind Zeugen einer Art Intelligenzexplosion, und Menschen sind sehr schlecht darin, exponentielle Entwicklungen abzuschätzen.

 

[Malvegil]

Sagt er da was selbst? (In #840)

 

[MaxJoy]

Hier sagt er es:

 

[Locke 38]

Mit Hilfe von KI haben Studenten eine Brille mit Kamera und die dazugehörige Software entwickelt, mit denen sie per Gesichtserkennung wildfremde Menschen auf der Straße identifizieren können, Namen, Adresse, Beruf und sonstige Daten. Auch so ein Messer, mit dem man Kartoffeln schälen oder töten kann.

Projekt von Harvard-Studenten: Smart-Brille liefert persönliche Daten von Fremden in Echtzeit

Zwei Harvard-Studenten zeigen, wie sie innerhalb von Sekunden an Telefonnummern, Adressen und sogar Sozialversicherungsnummern kommen. Wie ist das möglich?

www.swr3.de

 

[MaxJoy]

Auch so ein Messer, mit dem man Kartoffeln schälen oder töten kann.

Don't worry! It will only get weirder.

 

[Laurianna612]

Sein Verstand erkennt klar die Gefahren, die sich ergeben können, aber sie beunruhigen ihn nicht wirklich.

Das hört sich im Interview aber ganz anders an:


Er verzweifelt nicht, weil er es quasi verdrängt, es fällt ihm sehr schwer das emotional zu verarbeiten, was da passieren wird.

Er hat auch praktische Schritte unternommen, wie sein Bankkonto auf mehrere Konten zu splitten, damit es vor Cyberattacken geschützt wird. Das entspringt seiner Überzeugung, dass sehr beängstigende Zeiten auf uns zukommen - so seine eigene Wortwahl. Klingt das etwa beruhigt?

 

[MaxJoy]

Die KI-Entwicklung geht so schnell, dass sogar Geoffrey Hinton Schwierigkeiten hat, das alles emotional zu verarbeiten. Sein Verstand erkennt klar die Gefahren, die sich ergeben können, aber sie beunruhigen ihn nicht wirklich.

Also gut, ergänzen wir den Satz "... aber sie beunruhigen ihn nicht wirklich, weil er sie verdrängt.". Zufrieden?

So wie ich die Sache sehe, wird der Einsatz von KI unser Wirtschaftssystem ad Absurdum führen. Im Grunde sind wir bereits am Ende eines kapitalistischen Zyklus angekommen, das System lässt sich nur noch durch gigantische Schuldenaufnahmen stabilisieren. Durch die KI wird es endgültig seiner Sinnhaftigkeit beraubt werden. Dagegen kann ein Kontenspilitting auch nicht helfen.

 

[Malvegil]

Hier sagt er es:

Und begründet es mit einem Gedankenexperiment, aus dem ich eine andere Antwort ableiten würde. Erstens gibt es noch kein Gehirn, in dem eine Nervenzelle durch ein exakt gleich funktionierendes technisches Replikat ersetzt wurde, und zweitens sind KIs auch nicht Nachbauten von Gehirnen.

Ich würde auch sagen, wie Hinton, wenn ich in einem Gehirn mit Bewußtsein nacheinander alle Zellen durch ein identisch (!) funktionierendes Replikat ersetze, bleibt das Bewußtsein bestehen. Aber wer hält ein solches Experiment für möglich? Und wie kann ein unmögliches Experiment begründen, daß KIs jetzt schon Bewußtsein haben (aber vor zehn Jahren nicht -- da konnte man dasselbe Gedankenexperiment auch schon formulieren)?

 

[MaxJoy]

1. Eine einzelne Nervenzelle ließe sich technisch schon nachbauen, nur warum sollte sie jemand in ein Gehirn einbauen, wenn sich dadurch rein gar nichts ändern würde?

2. KIs sind keine exakten Nachbauten von Gehirnen, funktionieren aber nach dem gleichen Prinzip. Tatsächlich sind künstliche neuronale Netze den natürlichen in vielerlei Hinsicht haushoch überlegen.

Ich finde Hintons Gedankenexperiment recht überzeugend und kaum zu widerlegen. Sollte es eines Tages gelingen, die Gewichtungen in einem menschliche Gehirn exakt zu vermessen (also wie die Neuronen verknüpft sind und welche Dicke diese Verbindungen haben), wird man eine komplette Persönlichkeit mit allen Erinnerungen in einer KI nachbilden können. Das erscheint mir sinnvoller und machbarer als der umgekehrte Weg in dem Gedankenexperiment.

 

[Malvegil]

Eine einzelne Nervenzelle ließe sich technisch schon nachbauen

Nein. Wie wolltest du sicherstellen, daß sie exakt genauso auf Input reagiert wie das Original? Auf jeden hypothetisch möglichen Input? Und daneben auf biologische Einflüsse, denn jede Nervenzelle wird in ihrer Arbeit nicht nur durch Signal-Input, sondern auch durch Hormone und sonstige "chemische" Umgebungseinwirkung beeinflußt (man denke an Drogen, an Alkohol).

KIs sind keine exakten Nachbauten von Gehirnen, funktionieren aber nach dem gleichen Prinzip.

Das gilt nur für eine basale untere Ebene. Das Gehirn hat aber mehrere Ebenen der Organisation. Sonst gäbe es ja auch nicht verschiedene funktionale Zonen im Gehirn.

Und ziemlich sicher reicht der Teil des Gehirns, der z. B. für die visuelle Erkennung von Kanten zuständig ist und möglicherweise wirklich ähnlich wie ein digitales "neuronales Netzwerk" funktioniert, nicht aus, um für sich genommen Bewußtsein zu generieren. Das entsteht synergetisch aus dem Zusammenwirken all der funktionalen Teile.

Sollte es eines Tages gelingen, die Gewichtungen in einem menschliche Gehirn exakt zu vermessen

Man bräuchte eine Trillion Sensoren für die 1 Trillion Synapsen. Viel Spaß.

 

[MaxJoy]

Wie wolltest du sicherstellen, daß sie exakt genauso auf Input reagiert wie das Original? Auf jeden hypothetisch möglichen Input? Und daneben auf biologische Einflüsse, denn jede Nervenzelle wird in ihrer Arbeit nicht nur durch Signal-Input, sondern auch durch Hormone und sonstige "chemische" Umgebungseinwirkung beeinflußt (man denke an Drogen, an Alkohol).

Nervenzellen reagieren auf elektrische Potenziale und produzieren selber welche. Das ist überschaubar und lässt sich ausmessen. Hormone und Drogen wirken dagegen auf die Synapsen, da findet ein Übergang von der elektrischen auf eine chemische Informationsübertragung statt. Die Synapsen machen das ganze System störanfällig und langsam, ich würde sie nicht simulieren und einfach weglassen (so wie in künstlichen neuronalen Netzen). Synapsen sind für das Denken nicht notwendig, sondern eine Folge davon, dass das Gehirn aus einzelnen Nervenzellen aufgebaut ist, die irgendwie miteinander verbunden werden müssen. KIs brauchen sie nicht und ohne sie funktioniert das Denken besser.

Das gilt nur für eine basale untere Ebene. Das Gehirn hat aber mehrere Ebenen der Organisation. Sonst gäbe es ja auch nicht verschiedene funktionale Zonen im Gehirn.

Auch bei den KIs geht der Trend hin zu spezialisierten Bereichen, die miteinander vernetzt sind. Wenn man mag, kann man jetzt schon ein künstliches Gehirn entsprechend des natürlichen Vorbilds zusammenbauen.

 

[Malvegil]

Die Synapsen machen das ganze System störanfällig und langsam, ich würde sie nicht simulieren und einfach weglassen (so wie in künstlichen neuronalen Netzen).

Wie willst du eine Nervenzelle im Gehirn technisch ersetzen, wenn du die Synapsen wegläßt?

Wir waren bei der Behauptung

Eine einzelne Nervenzelle ließe sich technisch schon nachbauen, nur warum sollte sie jemand in ein Gehirn einbauen, wenn sich dadurch rein gar nichts ändern würde?

die du jetzt eben selbst verneint hast.

Nervenzellen reagieren auf elektrische Potenziale und produzieren selber welche. Das ist überschaubar und lässt sich ausmessen. Hormone und Drogen wirken dagegen auf die Synapsen, da findet ein Übergang von der elektrischen auf eine chemische Informationsübertragung statt.

Ich denke, das ist nicht korrekt. Die elektrischen Potentiale kommen nur per Synapsen an. Das ganze Gehirn funktioniert mit einem ständigen Umschalten von elektrisch auf chemisch und umgekehrt.

Die Synapsen machen das ganze System störanfällig und langsam, ich würde sie nicht simulieren und einfach weglassen (so wie in künstlichen neuronalen Netzen).

Das ist auch nicht richtig. Künstliche neuronale Netze simulieren sehr wohl die Funktion der Synapsen:

In künstlichen neuronalen Netzen übernehmen die Gewichte der Verbindungen zwischen künstlichen Neuronen die Funktion der Synapsen im biologischen Gehirn. Diese Gewichte bestimmen, wie stark das Signal eines Neurons an das nächste weitergegeben wird, ähnlich wie Synapsen im Gehirn die Signalübertragung zwischen Nervenzellen modulieren. Beim Training des Netzes werden diese Gewichte angepasst, um das Netzwerk zu optimieren – vergleichbar mit der Anpassungsfähigkeit biologischer Synapsen beim Lernen.

Quelle: perplexity.ai (Frage: Was entspricht in künstlichen neuronalen Netzen der Funktion der Synapsen?)

 

[MaxJoy]

Wir waren bei der Behauptung ...

Oh weh ... Gedankenexperimente sind offensichtlich nichts für Haarespalter. Ich habe nie vorgehabt, eine Nervenzelle zu ersetzen, weil das keinen Effekt hätte und somit sinnlos ist.

Das ist auch nicht richtig. Künstliche neuronale Netze simulieren sehr wohl die Funktion der Synapsen:

Da irrt sich Perplexity möglicherweise. Entscheidend für die Gewichtung eines Neurons ist der Umfang seines Axons, nicht die Synapse. Ein dickes Axon wird aber auch in einer großen Synapse münden, insofern spielt es keine Rolle und ist Ansichtssache. Was KIs auf jeden Fall nicht simulieren, ist die Bremswirkung von Synapsen und ihre Anfälligkeit für Fehlfunktionen. Axone werden ebenfalls nicht wirklich simuliert, der Informationsdurchsatz eines künstlichen Neurons wird lediglich durch eine einzige Zahl, die Gewichtung, repräsentiert.

 

[MaxJoy]

Bin ich gerade drüber gestolpert: Ist Sara ein Roboter oder ein Mensch?

 

[Malvegil]

Entscheidend für die Gewichtung eines Neurons ist der Umfang seines Axons, nicht die Synapse. Ein dickes Axon wird aber auch in einer großen Synapse münden, insofern spielt es keine Rolle und ist Ansichtssache.

Wo hast du das denn her? Es ist falsch!

---

Die Gewichtung eines Neurons im Gehirn – also wie stark ein eingehendes Signal zur Aktivierung des Neurons beiträgt – wird primär durch die Eigenschaften der Synapsen bestimmt, nicht durch den Umfang oder die Länge seines Axons. Die Synapse ist die Kontaktstelle, an der die Stärke der Signalübertragung (das sogenannte Synapsengewicht) geregelt wird. Diese synaptische Stärke ist variabel und entscheidet, wie stark ein eingehendes Signal das postsynaptische Neuron beeinflusst[7][10][11].

Das Axon dient hingegen dazu, das Aktionspotential, also das elektrische Signal, vom Zellkörper zur nächsten Zelle weiterzuleiten. Die Länge oder der Umfang des Axons beeinflusst nicht die Gewichtung der Eingänge, sondern die Geschwindigkeit und Reichweite der Signalübertragung[3][6]. Die entscheidende Gewichtung, ob ein Neuron feuert oder nicht, findet an den Synapsen und am Axonhügel (dem Übergang vom Zellkörper ins Axon) statt, wo die Summe aller gewichteten Eingangssignale mit einem Schwellenwert verglichen wird[5][7].

Zusammengefasst: Für die Gewichtung eines Neurons ist die Synapse entscheidend, nicht der Umfang seines Axons.

Citations:
[1] https://de.wikipedia.org/wiki/Nervenzelle
[2] https://de.wikipedia.org/wiki/Künstliches_Neuron
[3] https://flexikon.doccheck.com/de/Nervenzelle
[4] https://www.kde.cs.uni-kassel.de/lehre/ws2006-07/KI/folien/05_Neuronale Netze.pdf
[5] https://www.hochschule-trier.de/fil...udium/Dokumente/Leseproben/bdl_grundlagen.pdf
[6] https://www.coli.uni-saarland.de/courses/I2CL-14/material/folien/CL14Folien10-NeuronaleNetze.pdf
[7] https://www.tu-chemnitz.de/informatik/KI/scripts/Neurokognition-stud-1.pdf
[8] https://www-zeuthen.desy.de/~kolanosk/smd_ss02/skripte/nn.pdf
[9] https://de.wikipedia.org/wiki/Neuronales_Netz
[10] https://www.uni-goettingen.de/de/sc...nd+gedanken+(prof.+dr.+reiner+kree)/9606.html
[11] https://scilogs.spektrum.de/hirn-und-weg/wie-funktioniert-eigentlich-ein-kuenstliches-neuron/
[12] https://www.uni-bonn.de/de/universi...07/gehirn-arbeitet-chaotischer-als-angenommen

 

[Malvegil]

Bin ich gerade drüber gestolpert: Ist Sara ein Roboter oder ein Mensch?

Das ist ein KI-Video, also Verarsche. Lies mal die Kommentare unter dem Video. Die Platte auf dem Handrücken ist am Anfang fast durchsichtig, dann bekommt sie Volumen. Wahrscheinlich gibt es noch mehr Details, an denen man die Bildfehler nachweisen kann.

Übrigens steht unter dem Video, daß es "verändert oder synthetisch" ist (das ist Youtube-Sprache auch für KI-Fake).

 

[MaxJoy]

Es war eine Scherzfrage, mir ist das schon klar, dass es ein KI-Video ist.

 

[MaxJoy]

Für die Gewichtung eines Neurons ist die Synapse entscheidend, nicht der Umfang seines Axons.

Wie auch immer, es lässt sich durch eine Zahl ausdrücken.

 

[Laurianna612]

.. aber sie beunruhigen ihn nicht wirklich, weil er sie verdrängt.". Zufrieden?

Haja schon besser. Es ist eben eine völlig andere Aussage, ob jemand um Risiken weiß, die ihn aber nicht weiter beunruhigen, oder ob sie ihn eigentlich dermaßen beunruhigen, dass er sie gar nicht an sich ran lassen will.

 

[Malvegil]

Wie auch immer, es lässt sich durch eine Zahl ausdrücken.

Ein Neuron hat zwischen 1 und 200.000 Synapsen. Ja, deren Funktion ließe sich durch jeweils eine Zahl ausdrücken, oder jedenfalls modellieren die künstlichen neuronalen Netzwerke diese Funktion mit einer Zahl. In der Realität wird es nicht so simpel sein.

Und nun zurück zum Punkt der Messung dieser Synapsengewichtung, zu ihrem Nachbau ... sowie dem Nachbau der Reaktion auf chemische Einflüsse ... ich will doch die ganze Zeit nur darauf hinaus, daß das Science Fiction ist:

Eine einzelne Nervenzelle ließe sich technisch schon nachbauen

Ich finde Hintons Gedankenexperiment recht überzeugend und kaum zu widerlegen. Sollte es eines Tages gelingen, die Gewichtungen in einem menschliche Gehirn exakt zu vermessen (also wie die Neuronen verknüpft sind und welche Dicke diese Verbindungen haben), wird man eine komplette Persönlichkeit mit allen Erinnerungen in einer KI nachbilden können.

Und insgesamt kommt es mir so vor, als ob deine Argumentationsweise sehr dem ähnelt, was ChatGPT ständig produziert: "careless speech" -- Output, der plausibel klingt und im Brustton der Überzeugung daherschwadroniert wird, aber an Wahrheit überhaupt nicht interessiert ist. Kein Wunder, daß ihr euch so gut versteht.