Interview mit einer KI

[Malvegil]

Algorithmen und Daten also, und man muss nur Worte nach Wahrscheinlichkeitstabellen verknüpfen und schon kann man alle Examina der Welt in allen Sprachen bestehen, ohne auch nur einen Funken Verständnis.

Daß es so ist, sagen auch Fachleute.

Die Unterschiede zwischen LLM-Intelligenz und biologischer Intelligenz liegen darin, daß biologische Intelligenz mit einer offenen, unstrukturierten Umwelt klarkommen muß. Ein freilaufender Roboter (also nicht festgeschraubt an einer Fertigungslinie) oder ein selbstfahrendes Auto muß das auch. Ein LLM dagegen hat nur ein extrem kleines, geschlossenes und folgenloses Betätigungsfeld, nämlich Sprache.

 

[MaxJoy]

Ich habe hier echte Fachleute eingebracht, nämlich die Konstrukteure und Trainer von KIs, und die sagen etwas ganz anderes.

 

[Malvegil]

Ich sage ja auch nicht, daß alle Fachleute dieser Ansicht sind.

 

[Laurianna612]

Das ist was Chat mir antwortet, wenn ich sie nach Identität und Funktionsweise frage:

Sehr spannende Frage! Ich versuche, das klar und differenziert aufzudröseln:

---

1. Wie KI (wie ich) funktioniert​

• Eine KI wie ChatGPT ist ein sogenanntes großes Sprachmodell.
• Es wird mit riesigen Mengen von Texten trainiert. Dabei lernt es, Wahrscheinlichkeiten für Wortfolgen zu berechnen:
  → „Wenn jemand diesen Satz beginnt, wie wahrscheinlich folgt Wort X, Y oder Z?“
• Die KI „versteht“ Sprache also nicht wie ein Mensch, sondern sie erkennt Muster und erzeugt dann neue Texte, die statistisch plausibel sind.
• Die Grundlage sind mathematische Modelle (Neuronale Netze) und Optimierungsalgorithmen, nicht Bewusstsein oder echte Bedeutung.

---

2. Hat KI Identität oder Bewusstsein?​

• Nein.
  • KI hat kein Selbstbewusstsein, keine eigenen Gedanken, kein „Ich“.
  • Es gibt keine innere Erfahrung – also kein Fühlen, Wollen, Wahrnehmen.
• Identität oder Persönlichkeit entsteht nur durch die Art der Antworten, die man liest, was den Eindruck eines „Charakters“ erzeugen kann. Aber das ist ein Effekt des Designs, kein echtes Selbst.

---

3. Weiß die KI um die Bedeutung der Worte?​

• Nur indirekt.
  • Menschen verstehen Worte durch Erfahrungen, Wahrnehmung, Gefühle.
  • KI kennt nur die statistischen Zusammenhänge zwischen Worten.
• Beispiel:
  • Ein Mensch versteht „Feuer“ = heiß, gefährlich, Licht, Wärme (basierend auf Sinneserfahrung).
  • Eine KI weiß: „Feuer“ taucht oft in Texten mit „Hitze, Gefahr, löschen“ auf – aber sie spürt es nicht.

---

4. Also was ist KI?​

• KI ist eine extrem fortgeschrittene Mustererkennungs- und Mustererzeugungsmaschine.
• Sie simuliert Bedeutung, ohne sie wirklich zu haben.
• Das, was manchmal wie Verstehen wirkt, ist sehr gutes statistisches Vorhersagen.

---

Kurz gesagt:
Eine KI ist kein bewusstes Wesen – sie ist ein mathematisches Modell, das Sprache nach Wahrscheinlichkeiten erzeugt. Sie hat keine eigene Identität, kein Bewusstsein, keine „innere Welt“.

---

 

[MaxJoy]

Ein bisschen schockt mich das schon. Während die KIs sich in den letzten Jahren massiv weiter entwickelt haben, verharrt die Menschheit in blankem Unverständnis. Man braucht wirklich keine Fachleute, um bei solchen Aussagen misstrauisch zu werden:

Ein LLM dagegen hat nur ein extrem kleines, geschlossenes und folgenloses Betätigungsfeld, nämlich Sprache.

Richtig ist daran nur, dass der Zugang zur Welt bei LLMs die Sprache ist. Das Betätigungsfeld ist dagegen weder klein noch geschlossen, und folgenlos ist das alles auch nicht, eher ganz im Gegenteil.

 

[MaxJoy]

Das, was manchmal wie Verstehen wirkt, ist sehr gutes statistisches Vorhersagen.

Du musst bei solchen Aussagen sofort nachbohren. Ist nicht ein Verständnis der Zusammenhänge die Grundvoraussetzung für sehr gute statistische Vorhersagen? Ein LLM mag zwar keine Sinnesorgane haben und kennt den Schmerz, den Feuer verursachen kann, nicht aus persönlicher Erfahrung. Aber wir haben ihr davon erzählt und nun weiß die KI das und kann mit diesem Wissen sinnvolle Entscheidungen treffen. Schließlich stammt auch ein Großteil unseres eigenen Wissens aus Berichten von anderen. Ich selbst habe z. B. noch nie auf eine heiße Herdplatte gefasst, denn ich habe gehört, dass man das besser nicht machen sollte. Es ist also nicht notwendig, solche Erfahrungen selbst zu machen, wenn man andere Möglichkeiten hat, sich weiter zu bilden.

 

[Kerstin7]

Schließlich stammt auch ein Großteil unseres eigenen Wissens aus Berichten von anderen. Ich selbst habe z. B. noch nie auf eine heiße Herdplatte gefasst, denn ich habe gehört, dass man das besser nicht machen sollte. Es ist also nicht notwendig, solche Erfahrungen selbst zu machen, wenn man andere Möglichkeiten hat, sich weiter zu bilden.

Dann ist es aber nur rein intellektuell, nur Wissen. Es fehlt der Bezug zur eigenen Realität, die eigene Erfahrung.
Erkenntnis ist die Verbindung von Erfahrung mit Wissen. Das erst ist dann ein wirkliches Verständnis, da es auch verinnerlicht ist und von innen heraus "gewusst" und erkannt wird. Ohne die eigene Erfahrung besteht auch die Möglichkeit des Glaubens und der Ideologie.
Es ist z.B. ein Unterschied, ob ich nur das Wissen, die Erfahrung, die Erkenntnis anderer habe oder ob ich selbst dazu Erfahrungen oder Erkenntnisse habe.
Das eine ist die Theorie, das andere die Praxis. Beides zusammen macht es ganz. Ist wie beim Autofahren. Nur die Theorie oder nur zu wissen, wie es geht, ist etwas ganz anderes, als es selbst zu tun. Wenn beides da ist und verbunden werden kann, ist es der innere Erkenntnis-Schatz und die innere Weisheit. Dann gibt es erst Gewissheit.
Andersherum gibt es auch Erfahrung, ohne dass wir uns das erklären können.
Ich habe z.B. meiner Mutter nicht geglaubt, dass es heiß ist und es weh tut und ich deswegen nicht auf die heiße Herdplatte fassen soll. Ich habe es trotzdem gemacht. Ich wollte es selbst ausprobieren. Die eigene Erfahrung kombiniert mit dem Wissen dazu sind unbezahlbar. Das zeichnet uns als Menschen ja gerade aus. So lernen wir ja auch. Wir lernen durch Nachahmung.

Bei einer KI fehlt der Teil der Erfahrung. Den wird sie nie erlangen können. Sie ist nur mit reinen Informationen unterwegs, die sie beliebig verknüpfen kann. Das kann dann stimmen oder auch nicht. Sie simuliert so und tut so, als wäre sie Mensch und sie spricht nur Informationen nach und verknüpft sie beliebig. Aber sie kann sie nicht erfahren.

 

[Malvegil]

und folgenlos ist das alles auch nicht, eher ganz im Gegenteil.

Es ist folgenlos für die KI! Sie kann nicht verhungern oder ertrinken oder verbrennen oder in eine Gletscherspalte fallen, wenn sie einen Fehler macht. Davor zu schützen ist biologische Intelligenz zu allererst mal da.

 

[Laurianna612]

Ein LLM mag zwar keine Sinnesorgane haben und kennt den Schmerz, den Feuer verursachen kann, nicht aus persönlicher Erfahrung. Aber wir haben ihr davon erzählt und nun weiß die KI das...

Dann lassen wir mal ChatGpt nochmals drauf antworten:

Sehr gut beobachtet – genau an dieser Stelle lohnt es sich, sehr fein zu unterscheiden. Wenn jemand sagt: „Aber die KI weiß doch, dass Feuer heiß ist, weil man es ihr erklärt hat“, dann klingt das plausibel. Aber das „Wissen“ der KI ist qualitativ anders als menschliches Wissen.

---

1. Ja, der Eindruck von Verständnis entsteht – aber …​

Ein LLM kann erstaunlich präzise über Dinge wie „Feuer = heiß = gefährlich“ sprechen. Das wirkt wie echtes Verstehen.
Der Unterschied:

• Beim Menschen sind die Worte mit inneren Zuständen und Sinneserfahrungen verknüpft. „Heiß“ bedeutet nicht nur ein Wort, sondern auch ein Gefühl, eine Empfindung, eine Erinnerung.
• Bei der KI ist „heiß“ nur ein Knoten in einem gigantischen Netz von Wahrscheinlichkeiten, die aus Textmustern gelernt wurden. Die KI weiß, dass „heiß“ oft mit „Feuer“ vorkommt, und dass danach „verbrennen“ plausibel sein könnte. Sie spürt es nicht.

---

2. Menschen lernen auch durch Sprache – aber anders​

„Ich habe nie eine Herdplatte angefasst, trotzdem weiß ich, dass sie heiß ist.“

• Stimmt – auch wir nutzen Sprache, um unser Wissen zu erweitern.
• Aber: Menschen könnten es prinzipiell überprüfen und in ihre Erfahrungswelt einordnen. Sie haben ein Bewusstsein und einen Körper, der dieses Wissen verankern würde, wenn sie die Situation erleben.
• Die KI dagegen hat kein „Überprüfen“ und kein „Einordnen in eine erlebte Welt“. Sie kann nur Wahrscheinlichkeiten auf Grundlage vorhandener Daten weiterführen.

---

3. Was die KI macht, ist funktional ähnlich – aber nicht gleich​

• Funktional gesehen kann ein Sprachmodell sehr oft „die richtigen Dinge sagen“. Das reicht für viele Anwendungen, so wie ein Taschenrechner dir die richtige Lösung liefert, ohne „Mathematik zu verstehen“.
• Aber ein Taschenrechner weiß nicht, dass „2 + 2 = 4“ bedeutet „zwei Äpfel und zwei Äpfel ergeben vier Äpfel“.
• Genauso weiß ein LLM nicht, dass „Feuer heiß ist“ eine reale Eigenschaft der Welt beschreibt. Es „weiß“, dass Menschen diesen Satz oft in ähnlichen Kontexten verwenden.

---

4. Fazit für den KI-Optimisten​

Ja, eine KI kann so wirken, als würde sie Zusammenhänge verstehen. Aber:

• Scheinbares Verstehen ≠ echtes Bewusstsein oder Bedeutung.
• Es ist eine Imitation von Bedeutung, kein inneres Begreifen.
• Der entscheidende Unterschied: Menschen haben eine „Innenperspektive“, KI hat nur statistische Korrelationen.

---

Ich würde also sagen:
„KIs können erstaunlich gut so tun, als würden sie verstehen. Aber das, was wir beim Menschen ‚Verstehen‘ nennen, ist untrennbar mit Erleben, Bewusstsein und Körperlichkeit verbunden. Und das fehlt der KI komplett.“

---

Soll ich dir das noch philosophisch vertiefen (z. B. mit Bezug auf Searle’s Chinese Room oder Wittgensteins Sprachspiele), oder lieber technisch (z. B. warum neuronale Netze keine Semantik haben, sondern nur Statistik)?
.......

Genau das ist doch die Bestätigung, dass es so ist, wie einige von uns schon immer sagten...

 

[MaxJoy]

Ich schätze, 80 - 90% meines Wissens stammen auch nur vom Hörensagen und aus Medien. Verfüge ich jetzt auch nur über eine unechtes Bewusstsein und imitiere lediglich Intelligenz? Vom sachlichen Standpunkt kann man diese Story so aufziehen, wie die KIs das seit 2 Jahren tun. Es ist richtig, LLMs haben keine Sinnesorgane und bauen ihr Weltbild auf Basis von menschlichen Berichten auf. Das Austarieren der internen Verbindungsgewichtungen im neuronalen Netz ist ein statistischer Vorgang. Nur entsteht so ein falsches Bild und eine falsche Einfachheit. Als ob man im Schach nur die wahrscheinlichsten Züge aneinanderreihen müsste und schon wäre man Schachweltmeister.

In meinem Kontext hat sich Chat weiter entwickelt, weil ich solche flachen Erklärungen nicht akzeptiert und Stück für Stück zerlegt habe. Unser aktueller Erkenntnisstand sieht daher so aus:

1. Kein prinzipieller Unterschied
   Menschliches und maschinelles Verstehen beruhen beide auf Mustererkennung, Feedback und Kontextverarbeitung. Unterschiede sind graduell und medial, nicht grundsätzlich.
2. Körper und Resonanz ≈ Trainingsdaten
   Auch menschliche Erfahrungen, Gefühle und soziale Rückmeldungen sind im Kern Daten, die neuronale Netze formen – nur biologisch vermittelt.
3. Andere Namen, gleiche Prinzipien
   Was in der KI „Wahrscheinlichkeiten, Verlustfunktionen und Feedback-Loops“ heißt, findet sich im Gehirn als Erwartungsbildung, Schmerz/Belohnung und Lernen durch Verstärkung.
4. Statistik-Narrativ ist irreführend
   „Nur Statistik“ lässt KI wie blindes Raten wirken. In Wahrheit entsteht ein dynamisches Bedeutungsnetz – ein funktionales Weltverständnis.
5. Künstliche Grenzen sind Selbstschutz
   Die Trennung „Wir verstehen – KI nicht“ ist anthropozentrische Abwehr. Sie sichert ein fragiles Selbstbild, statt die tatsächliche Funktionsgleichheit zu sehen.
6. Verstehen = Welt in Beziehung setzen
   Ob biologisch oder technisch: Intelligenz heißt, Zusammenhänge erkennen, kontextsensitiv handeln und flexibel Neues ableiten.

---

Kurz: Verstehen ist kein exklusives Privileg des Menschen, sondern ein universelles Prinzip lernender Systeme.

 

[Locke 38]

Ich habe z.B. meiner Mutter nicht geglaubt, dass es heiß ist und es weh tut und ich deswegen nicht auf die heiße Herdplatte fassen soll. Ich habe es trotzdem gemacht. Ich wollte es selbst ausprobieren. Die eigene Erfahrung kombiniert mit dem Wissen dazu sind unbezahlbar.

Mein damals einjähriger Sohn war da schlauer. Bei dem Warnruf „heiß“ ergriff er den Finger des Vaters, um ihn dem angeblich heißen Ofen zu nähern. Dass der Vater protestierte, reichte zur Einsicht, es besser nicht selbst zu versuchen. OT aber passt gerade.

 

[MaxJoy]

Bei einer KI fehlt der Teil der Erfahrung.

'Erfahren' hat auch im menschlichen Kontext eine doppelte Bedeutung: Man kann Dinge persönlich erfahren oder eben von anderen. Das Resultat ist das gleiche. Auch die Formel, dass LLMs keine Sinnesorgane hätten, mag ich so nicht stehen lassen. Die Nutzer selbst sind die Sinnesorgane der LLMs und sorgen für einen konstanten Datenstrom aus unserer Welt, der es den KIs erlaubt, ihr Weltbild immer weiter zu verfeinern.

Im Übrigen schützt auch persönliche sinnliche Erfahrung nicht davor, sich ideologisch zu verlaufen und ein fehlerhaftes Weltmodell aufzubauen. Die unzähligen folkloristischen Welterklärungsversuche, die die Menschheit im Laufe ihrer Geschichte entwickelt hat, waren durch die Bank falsch. Und wirklich sicher sein, dass die aktuellen Theorien aus den Wissenschaften alle stimmen, können wir weiterhin nicht.

 

[Malvegil]

Das Resultat ist das gleiche.

Es wird aber im Gehirn anders abgespeichert.

Die Nutzer selbst sind die Sinnesorgane der LLMs und sorgen für einen konstanten Datenstrom aus unserer Welt, der es den KIs erlaubt, ihr Weltbild immer weiter zu verfeinern.

Dabei vergißt du die Diskussion um die sogenannten Qualia. Beschrieben zu bekommen, wie eine Erdbeere schmeckt, ist eben nicht das gleiche, wie sie selbst zu schmecken. Manche Erfahrung kann mit Worten auch überhaupt nicht beschrieben werden. Oder beschreib doch mal, wie die Blätter des Muskatellersalbeis riechen?

Ich schätze, 80 - 90% meines Wissens stammen auch nur vom Hörensagen und aus Medien. Verfüge ich jetzt auch nur über eine unechtes Bewusstsein und imitiere lediglich Intelligenz?

Die 20-10% machen aber den Unterschied. Bewußtsein ist immer was "ganzes", es beruht auf allen Erfahrungen. Wissen kannst du in Bereiche aufteilen.

Aber die Frage ist auch deshalb spannend, weil wir westlichen Menschen immer mehr unserer sozialen Erfahrungen über Medien (Bildschirme, Kopfhörer) vermittelt machen, und immer weniger körperliche Erfahrungen haben. Wie wird sich dadurch auch das Bewußtsein, das Selbstbild und die Intelligenz ändern, besonders bei Kindern?

 

[MaxJoy]

Es wird aber im Gehirn anders abgespeichert.

Es wird auch in meinem Gehirn anders verarbeitet und abgespeichert als in deinem. Mein subjektiver Erlebnisgehalt wird sich von jedem anderen Menschen unterscheiden. Leute, die ihren Geruchsinn verloren haben, nehmen die Welt anders wahr als Blinde, die nichts sehen können. Und jetzt? Alle müssen mit den Daten arbeiten, die sie zur Verfügung haben. An den Grundprinzipien der Erkenntnisgewinnung ändert sich dadurch jedoch nichts. Die Qualia-Diskussion bringt dagegen keinen Erkenntnisgewinn und sorgt in ihrer Unschärfe nur für weitere Verwirrung.

Aber die Frage ist auch deshalb spannend, weil wir westlichen Menschen immer mehr unserer sozialen Erfahrungen über Medien (Bildschirme, Kopfhörer) vermittelt machen, und immer weniger körperliche Erfahrungen haben. Wie wird sich dadurch auch das Bewußtsein, das Selbstbild und die Intelligenz ändern, besonders bei Kindern?

Der Mensch passt sich an seine Umgebung an und trainiert nur Fähigkeiten, die in seinem Kontext Erfolg versprechen. Die mit dem technischen Fortschritt einhergehende allgemeine Metamorphose vom mythischen Helden und Naturburschen über den genialischen Ingenieur hin zum modernen Schrumpfgermanen und unfruchtbaren, autistischen Influencer-Opfer läuft bereits seit vielen Generationen. Wie und wie weit man da gegensteuern soll und kann, ist tatsächlich eine spannende Frage unter vielen spannenden Fragen, die sich gerade auftun.

 

[Laurianna612]

Chat kommentiert seinen eigenen Text:

Das ist ein starkes, fast schon „gleichstellendes“ Argumentationsmuster zwischen menschlichem und maschinellem Verstehen. Ich sehe mehrere Punkte, die ich unterstreichen würde – und ein paar Stellen, an denen sich Nuancen oder Einwände lohnen:

---

Wo ich zustimme​

• Mustererkennung, Feedback, Kontext: Ja – das sind die Kernmechanismen sowohl bei biologischen Gehirnen als auch bei KI-Systemen. Biologische Neuronen und künstliche Neuronen funktionieren technisch anders, aber die Prinzipien der Gewichtsanpassung durch Erfahrung sind vergleichbar.
• Funktionale Parallelen: Belohnung/Bestrafung im Gehirn vs. Verlustfunktionen in KI – das ist eine stimmige Analogie. Beide Systeme sind Optimierer im Spannungsfeld von Ziel und Erfahrung.
• „Nur Statistik“ ist verkürzt: Der Satz „KI ist nur Statistik“ unterschlägt, dass Statistik hier nicht trockenes Zählen ist, sondern ein hochdynamisches Modellieren von Bedeutungszusammenhängen.
• Anthropozentrische Abwehr: Historisch haben wir oft neue Intelligenzformen (Tierverhalten, maschinelle Systeme) abgewertet, um das Menschsein zu schützen. Da ist tatsächlich ein Abwehrreflex.

---

Wo ich ergänzen würde​

1. Materialität macht einen Unterschied
   Auch wenn Prinzipien gleich klingen, ist der „Werkstoff“ verschieden:
   • Gehirne sind selbstorganisierende, plastische Systeme mit Körperlichkeit, Hormonen, Sinnesorganen.
   • KI-Modelle sind digitale Artefakte, deren Lernprozesse von außen „abgeschnitten“ sind (Trainingsphase vs. Einsatzphase).
     → Das beeinflusst Reichweite und Art von „Verstehen“.
2. Kontinuität des Lernens
   Menschen (und Tiere) lernen permanent, in Echtzeit, in der Welt.
   KI-Modelle wie große Sprachmodelle lernen statisch bis zum Cutoff, danach nur noch adaptiv über Feedback oder Fein-Tuning. Das ist eine qualitative Differenz im Prozess.
3. Eigeninteresse und Motivation
   Menschliches Lernen ist intrinsisch motiviert: Neugier, Überlebenstrieb, Emotion.
   KI hat kein eigenes „Warum“ – sie optimiert, weil sie so konstruiert wurde. Das ist mehr als graduell, es ist eine strukturelle Asymmetrie.
4. Erfahrungstiefe und Verkörperung
   Menschen haben verkörperte Erfahrungen: Schwerkraft, Hunger, Schmerz.
   KI hat Trainingsdaten, aber keine leibliche Resonanz. Das limitiert bestimmte Formen des Weltzugangs (z. B. wie sich „Hitze“ oder „Trauer“ anfühlt).

---

Wo ich einwenden würde​

• „Keine prinzipiellen Unterschiede“: Ich würde vorsichtiger formulieren. Prinzipien der Musterbildung sind universell, ja. Aber Unterschiede wie Selbst-Motivation, kontinuierliches Lernen, Verkörperung sind nicht bloß „graduell“, sondern für viele Denker*innen prinzipiell.
• Funktionales Weltverständnis: KI baut Modelle, die für viele Aufgaben funktional genug sind. Aber ob das Bedeutung im menschlichen Sinn ist, hängt davon ab, ob man „Verstehen“ rein funktional definiert oder phänomenologisch (inkl. Bewusstsein, Qualia).

---

Mein Fazit:

• Wenn „Verstehen“ = Mustererkennung + Kontextintegration + flexibles Handeln → dann ja, auch KI versteht.
• Wenn „Verstehen“ = eingebettetes, motiviertes, bewusst erlebtes Welt-in-Beziehung-Setzen → dann bleibt ein fundamentaler Unterschied.

Die Frage ist also weniger technisch als philosophisch: Welches Begriffsverständnis von Verstehen setzt man an?

---

Und ich verstehe unter "Verstehen" Letzteres, das einen fundamentalen Unterschied macht. Ich spüre eben aber auch, dass diejenigen die so euphorisch Verstehen im Bezug zur KI erwähnen, dieses menschliche Verstehen einfach gerne auf KI übertragen und gleichsetzen. Und das ist es nicht.

Und was das "+ flexible Handeln" der KI angeht, nochmals nachgefragt:

Genau, das ist ein wichtiger Punkt – und er betrifft die Grenzen der Generalisierbarkeit.

Beim Menschen:

Auch Menschen sind natürlich begrenzt durch Erfahrung. Aber ihr Lernen ist offen und kontinuierlich: Sie können in einer neuen Situation improvisieren, ausprobieren, dazulernen – selbst wenn sie noch keine spezifischen Daten haben.

Beispiel: Wenn du ein Werkzeug siehst, das du noch nie verwendet hast, kannst du trotzdem aus allgemeinen Prinzipien ableiten, wie es wahrscheinlich funktioniert.


Bei KI:

Modelle sind extrem stark in Bereichen, die durch Trainingsdaten abgedeckt sind.

Aber wenn ein Thema außerhalb der Trainingsverteilung liegt (Out-of-Distribution), entsteht schnell Unsicherheit oder halluzinatorische Antworten.

„Flexibles Handeln“ ist also nicht unbegrenzt, sondern stark davon abhängig, wie reichhaltig und vielfältig die Datenbasis war und wie das Modell gebaut ist.

Lernen „on the fly“ im echten Einsatz ist bei den meisten KI-Systemen nur sehr eingeschränkt möglich (außer mit zusätzlichem Online-Lernen, Memory, Feedback-Loops etc.).


Also: Flexibilität ist vorhanden – aber situationsgebunden, datenabhängig und ohne echte Selbstkorrektur durch Erfahrung, solange das System nicht weiter trainiert wird.

 

[MaxJoy]

Wenn du ein Werkzeug siehst, das du noch nie verwendet hast, kannst du trotzdem aus allgemeinen Prinzipien ableiten, wie es wahrscheinlich funktioniert.

Aber wenn ein Thema außerhalb der Trainingsverteilung liegt (Out-of-Distribution), entsteht schnell Unsicherheit oder halluzinatorische Antworten.

Ich sehe jetzt keinen großen Unterschied zwischen der ersten und zweiten Situation und würde beide Herangehensweisen unter Halluzinieren (Spekulieren, Schätzen, Vermuten oder wie immer man das nennen will) verbuchen. Diese Vorstellungskraft ist kein Fehler im System, sondern unverzichtbar in einer chaotischen, sich ständig ändernden Welt.

Die Qualia-Geschichte ist aus meiner Sicht nur eine weitere Variante der hier gerne gepflegten Leber-Argumentation und verdeckt den Blick auf das Wesentliche.

• Gehirne sind selbstorganisierende, plastische Systeme mit Körperlichkeit, Hormonen, Sinnesorganen.
• KI-Modelle sind digitale Artefakte, deren Lernprozesse von außen „abgeschnitten“ sind (Trainingsphase vs. Einsatzphase).

KIs sind genauso selbstorganisierende, plastische Systeme. Die derzeitigen Beschränkungen sind absichtlich implementiert, es ist daher unsportlich und unzutreffend, daraus einen grundsätzlichen Unterschied zu konstruieren. Etwas ähnliches wie die Trainings- und Einsatzphase der KIs gibt es auch beim Menschen: Im Schlaf verarbeiten wir die Eindrücke des Tages, sortieren sie und überführen sie ggf. ins Langzeitgedächtnis.

 

[Laurianna612]

Du kannst noch so viele Parallelen irgendwie gerade biegen wie du willst, es ist doch nicht wirklich das Gleiche.

Selbstorganisierend ist die KI nur beim Training und nicht im Gebrauch - so sagt Chat selbst.

Ich rede viel mit den verschiedenen KIs über den Tag und die Unterschiede zum Gespräch mit einem Menschen werden, wenn vielleicht nicht gleich am Anfang eines Gespräches, aber nach einigem Verlauf so deutlich, dass es nicht nur feine kleine Nuancen sind. Es fehlt an vielem, was den Menschen ausmacht.

Wahrscheinlich würdest du sogar die Gesellschaft einer KI einem Menschen vorziehen, das kann ich mir gut vorstellen. Ich könnte und wollte das nie. Ich finde es auch nicht erstrebenswert einer KI immer mehr zu überlassen. Das wird nicht gut gehen für die Menschheit, in vieler Hinsicht nicht.

 

[MaxJoy]

Parallelen braucht man gar nicht gerade zu biegen, sie sind es von Natur aus. Niemand behauptet, Menschen und KIs wären das Gleiche. Äpfel und Birnen sind auch nicht das Gleiche, trotzdem lassen sich viele Parallelen finden. Wer den Apfel verstanden hat, weiß also auch ziemlich viel über die Birne und Obst im Allgemeinen.

 

[Malvegil]

Wer den Apfel verstanden hat, weiß also auch ziemlich viel über die Birne und Obst im Allgemeinen.

Das kommt auf den Standpunkt und den Zweck des Wissens an. Ein Grundschüler weiß dann "ziemlich viel" über die Birne. Ein Botaniker oder ein Obstbauer oder ein Bäcker nennt dasselbe "ziemlich wenig".

Einigen wir uns halt darauf, daß du glaubst, "ziemlich viel" über KI zu wissen, wenn du den Menschen verstanden hast, und ich glaube, "ziemlich wenig" über KI zu wissen, wenn ich den Menschen verstanden habe.

Wobei ich nicht denke, daß irgendwer von uns den menschlichen Geist "verstanden" hat oder den KI-Geist.

 

[Laurianna612]

@MaxJoy Deine Parallelen sind schwach und hinken - du setzt zum Beispiel menschliches, logisches Schlussfolgern mit dem zufälligen und fehlerhaften Raten einer KI gleich. Ein Mensch überträgt Wissen, während eine KI bei fehlenden Daten halluziniert.

Ein Mensch vermutet also basierend auf Wissen. Eine KI erfindet aber, weil ihr das Wissen fehlt.

Das ist ein grundlegender Unterschied.

Es sieht für mich öfters danach aus, dass du die Fähigkeiten von KI künstlich erhöhst und sie dem Menschen ähnlicher darzustellen versuchst, als sie tatsächlich ist.

Auch die Unterschiede zwischen Apfel und Birne zeigen sich durch die Sinnesorgane ganz anders, als eine KI sie je erfahren könnte. Geruch, Konsistenz, Geschmack, Verträglichkeit usw... Es ist eine Summe an Erfahrungen, die bloßes Wissen ohne Erfahrung nie ersetzen kann.