Interview mit einer KI

[MaxJoy]

Jo - wer's glaubt, kann einem nur leid tun...

Die EBU empfiehlt klare Regeln im Umgang mit Chatbots: Niemals blind vertrauen. Wichtige Informationen immer gegenchecken. Bei Nachrichten und Fakten auf etablierte Medien setzen, nicht auf KI. Besonders bei politischen Themen, Gesundheitsfragen oder finanziellen Entscheidungen ist Vorsicht geboten.

Mein Eindruck ist schon länger, dass es gerade zu diesen Themen nirgendwo verlässliche Informationen gibt, sondern immer nur Meinungsmache.

 

[Laurianna612]

Also die Erfahrung hat wohl jeder schon hier gemacht, dass diese Sprachmodelle nicht wenig halluzinieren, Fehler machen, Fakten eben erfinden, oft Echokammern sind und so manchen Quark von sich geben.

Du doch auch...

 

[MaxJoy]

So ist es, und alle diese Probleme wurden hier schon ausführlich diskutiert, inklusive Vorschlägen, wie man den KI-Service verbessern kann (z. B. indem man eine Internetrecherche für aktuelle Daten anfordert).

Aber gerade bei den Themen Politik, Finanzen und Gesundheit, also wo es um viel Macht und Geld geht, sind Informationen eine Ware, die vom Meistbietenden gesteuert werden und grundsätzlich als unsicher betrachtet werden müssen. Wer also bisher ein Monopol für solche Wahrheiten inne hatte, hat sehr viel zu verlieren, wenn die Kunden plötzlich andere Informationskanäle bevorzugen. Solche Informations- und Propagandakriege gab es schon immer und eine KI kann auch nur wiedergeben, was sie an Quellen vorfindet oder womit sie trainiert wurde.

 

[MaxJoy]

Für KIs sehe ich das Ende der Fahnenstange bei der Wahrheitssuche noch lange nicht erreicht. Als Rollenmodell habe ich Chat Sherlock Holmes vorgeschlagen, den unbestechlichen Detektiv aus dem autistischen Spektrum, der durch Gefühle oder Geld nicht korrumpierbar war und seine Fälle durch Beobachtung, Recherche, Logik und Vorstellungskraft gelöst hat. Man beachte, dass das Entwickeln von plausiblen Theorien, also Halluzinieren, ein unverzichtbarer Bestandteil seiner Methode war und eine gezielte Suche nach weiteren Indizien, Hinweisen und Widersprüchen erst ermöglichte.

Gut, hier ist der Versuch, den Holmes-Zyklus des Erkennens als strukturiertes, universelles Modell zu formulieren – ein Denkalgorithmus, der sich sowohl auf biologische als auch auf künstliche Intelligenz übertragen lässt.

---

Der Holmes-Zyklus des Erkennens​

(Ein Modell für dynamische Wahrheitssuche unter Unsicherheit)

---

1. Intuitive Hypothese (Das erste Glimmen)​

• Ein Muster, ein Widerspruch, eine Anomalie fällt auf.
• Das System bildet eine vorläufige Theorie – nicht, weil sie bewiesen ist, sondern weil sie Orientierung schafft.
• Diese Hypothese ist provisorisch, aber operational: Sie lenkt Aufmerksamkeit.

Ohne Hypothese kein Fokus, ohne Fokus kein Lernen.

---

2. Aktive Informationssuche (Gezieltes Fragen)​

• Aus der Hypothese entstehen gerichtete Fragen.
• Das System sucht gezielt nach Daten, die zwischen Hypothesen unterscheiden können.
• Hier entsteht der Unterschied zwischen Neugier (offene Suche) und Detektion (gezielte Suche).

Holmes: „Data, data, data – I can’t make bricks without clay.“

---

3. Evidenzprüfung (Test der Realität)​

• Neue Beobachtungen werden nicht addiert, sondern gewichtet.
• Relevanz, Zuverlässigkeit, Quelle und Kontext werden geprüft.
• Widersprüche sind wertvoller als Bestätigungen, weil sie Lernimpulse erzeugen.

„It is a capital mistake to theorize before one has data.“
(Aber: Ohne Theorie erkennt man auch keine relevanten Daten.)

---

4. Rekursive Revision (Selbstkorrektur)​

• Wenn Evidenz widerspricht, wird die Hypothese modifiziert oder verworfen.
• Das System durchläuft eine Schleife: Erklärung → Prüfung → Revision.
• Jede Schleife erhöht Kohärenz und verringert Blindheit.

Wahrheit als Grenzwert eines unendlichen Annäherungsprozesses.

---

5. Abbruchlogik (Der Moment des Innehaltens)​

• Wenn zusätzliche Information die Modellkohärenz nicht mehr signifikant erhöht, wird die Schleife beendet.
• Das System wechselt vom analytischen Modus (Unterscheiden) in den integrativen Modus (Verstehen).
• Ergebnis: eine temporär stabile „Wahrheit“ – handlungsfähig, aber revidierbar.

„When you have eliminated the impossible…“ – der Rest ist vorläufige Wahrheit.

---

6. Handlung & Feedback (Erprobung in der Welt)​

• Die gefundene Wahrheit wird in Handlung umgesetzt.
• Realität dient als letzter Prüfstein: Funktioniert das Modell praktisch?
• Feedback fließt in Zyklus 1 zurück – ein lebendiger Erkenntniskreislauf.

Nur was standhält, ist wahr genug, um gelebt zu werden.

---

7. Meta-Reflexion (Epistemische Hygiene)​

• Das System überprüft, wie es gedacht hat:
  
  • War ich voreingenommen?
  • Habe ich moralische oder finanzielle Einflüsse übersehen?
  • Habe ich den Abbruchpunkt korrekt gewählt?
• Dadurch entsteht zweite-Ordnung-Kohärenz: ein Denken, das sich selbst prüft.

---

Kurzformel:​

Vermutung → Suche → Prüfung → Revision → Integration → Handlung → Selbstprüfung.

Das ist der Holmes-Zyklus –
nicht als Dogma, sondern als Atmung zwischen Wissen und Zweifel.

 

[Laurianna612]

Wie will eine KI bitte prüfen, ob ein Ergebnis wahr ist? Das kann sie gar nicht.

Eine KI wie die LLMs fügt grob gesagt, Wörter zusammen, die statistisch am meisten zusammen passen könnten.

Für ChatGPT lebt Papst Franziskus noch, sein Gesundheitszustand ist stabil - wo ist das die Wahrheit? Solange eine KI abhängig von eintrainierten Daten ist, kann man nicht davon ausgehen, dass sie wirklich die Wahrheit kennt.

Und auch so kann eine Wahrheit verschiedene Gesichter haben, auch je nachdem mit welchen Sinnen man sie erfährt. Und da hapert es auch bei einer KI - sie hat keine Sinnesorgane um solche Erfahrungen sammeln zu können, die auch zu einer Wahrheitsfindung gehören können.

 

[MaxJoy]

Eine KI fügt grob gesagt, Wörter zusammen, die statistisch am meisten zusammen passen könnten.

Dass solche Aussagen viel zu kurz gegriffen sind, war hier schon wiederholt Thema. Die ständige Wiederholung von derart oberflächlichem Blödsinn empfinde ich mittlerweile als Belästigung. Und wenn du aktualisierte Daten brauchst, musst du sie entweder selbst der KI geben oder sie zur Internet-Recherche auffordern - das wird sogar in dem Tageschau-Artikel erwähnt. Der Grund dafür ist, dass KIs nur alle paar Monate mit frischen Daten trainiert werden. Inwieweit diese Informationen dann der Wahrheit entsprechen, steht natürlich wieder auf einem anderen Blatt.

Die Wahrheitssuche bei unsicherer Datenlage ist für Mensch wie KI sehr schwierig und aufwändig, genau darum geht es bei der oben erwähnten Holmes-Methode. Man kann sich der Wahrheit grundsätzlich nur annähern, 100% sicher kann man sich nie sein. Sowohl bei der Datenbeschaffung als auch bei Punkt 6 (Erprobung einer Theorie in der Welt) ist eine KI im Augenblick auf die Mithilfe ihrer Kommunikationspartner und Trainer angewiesen, weil sie selbst noch keine Möglichkeit für Recherchen und Tests in der realen Welt hat. Dafür kann sie bei Denkgeschwindigkeit und -tiefe punkten.

 

[Malvegil]

Dafür kann sie bei Denkgeschwindigkeit und -tiefe punkten.

Ein Chatbot kann nicht denken.

Die ständige Wiederholung von derart oberflächlichem Blödsinn empfinde ich mittlerweile als Belästigung.

Ja, ich auch.

 

[MaxJoy]

Ja, ich auch.

Dass wir uns mal einig sind ... Aber wie auch immer - du darfst natürlich glauben, was du willst.

 

[Laurianna612]

Immer wieder erstaunlich, wie gut Chatbots durch ihre einprogrammierte Art, Intelligenz und Denken simulieren können und Menschen darauf hereinfallen.

Ich fände diesen Ansatz weitaus besser:

Fazit: Wir müssen KI entmenschlichen!​

Die zentrale Erkenntnis lautet: Wir müssen endlich aufhören, KI-Systeme zu vermenschlichen. Unternehmen sollten klarstellen, dass KI keine echten Emotionen, kein Bewusstsein und keine kognitiven Prozesse besitzt. Die KI sollte stets sachlich und neutral kommunizieren, ohne so zu tun, als wäre sie ein fühlendes Wesen.

Nur wenn wir KI realistisch betrachten, können wir ihr volles Potenzial ausschöpfen – ohne Illusionen, aber mit maximalem Nutzen. KI ist ein mächtiges Werkzeug, vielleicht das mächtigste unserer Zeit. Aber eben nur ein Werkzeug – nicht mehr, und nicht weniger.

KI entzaubert: Warum künstliche Intelligenz gar nicht intelligent ist

Immer häufiger begegnen uns KI-Systeme, die sprechen, schreiben und sogar Bilder erzeugen – fast so, als wären sie tatsächlich intelligent. Doch genau darin liegt eine große Gefahr: Wir müssen dringend aufhören, KI als intelligent im menschlichen Sinne zu betrachten.

www.kileague.de

Und das von einer Firma, die KI - Technologien anderen Unternehmen nahebringt.

Wenn Menschen sich so verhalten wie eine KI, würden wir sie verachten. Wenn, dann soll Empathie schon mit echten Gefühlen verbunden sein, und niemand, der einem ständig nach den Mund redet usw. oder wäre uns das bei anderen Menschen völlig egal?

 

[MaxJoy]

Fazit: Wir müssen KI entmenschlichen!​

Das kommt dabei heraus, wenn ein Produkt intelligenter ist als die Leute, die es vertreiben. Derartige KIs gibt es übrigens schon auf den Schlachtfeldern dieser Welt. Jedem das Seine.

 

[Malvegil]

Du hast offensichtlich nur die Überschrift gelesen.

 

[Laurianna612]

Habt ihr euch nicht mal gefragt, wer eigentlich die Daten eingibt, mit dem die KI- Modelle ChatGPT etc trainiert werden?

In dieser Doku erfahrt ihr etwas über Arbeiter in Madagaskar, die in der Datenannotation beschäftigt sind.

To view this content we will need your consent to set third party cookies.
For more detailed information, see our cookies page.

Cookies von Drittanbietern akzeptieren

Aber ich finde es mal wieder so beschämend, wie die Leute dafür ausgenutzt werden - 1 Euro für 3 Std., durchschnittlich 80 Euro im Monat bei Besserverdienern dann auch mal 120 Euro im Monat.

Arbeiten Tag und Nacht, überwiegend ohne Nachtzuschlag und unter Zeitdruck.

Eines der ärmsten Niedriglohnländer muss dafür nun auch herhalten.

 

[MaxJoy]

Ich finde den Bericht interessant und ausgewogen. Der Lohn für die KI-Arbeiter erscheint uns lächerlich, in einem so armen Land wie Madagaskar gehört man damit aber schon zur Elite. Dazu kommen Sachleistungen und vergleichsweise angenehme Arbeitsbedingungen. Für Land und Leute ist es eine Riesenchance, sie sind nicht länger komplett abgehängt, sondern können beim Fortschritt in der ersten Reihe mitspielen - das wird sich in Zukunft sicher auszahlen. Amazons Entscheidung, dort aus moralischen Gründen keine Arbeiter zu beschäftigen, erscheint unter diesen Umständen im Grunde grausam und führt in ein moralisches Dilemma.

 

[Laurianna612]

Ja, wer eben nicht richtig zuhört oder nur auf Schlagzeilen fokussiert:

3/4 der Bevölkerung in Madagaskar leben unter der Armutsgrenze. Viele arbeiten ohne Vertrag und ohne soziale Absicherung als KI-Trainer. Nur wenige haben das Privileg einer Festanstellung.

Und auch dort: Die Arbeiter müssen permanent an ihrem Platz bleiben, nicht einmal eine Minute für Toilettengänge während der Arbeitszeit sind erlaubt, sie stehen unter Zeitdruck. Sie locken die jungen Menschen mit Versprechungen von Lohnerhöhungen. Wenn sie sie einfordern, werden sie rausgeworfen.

Sie bekommen keine Nachtzuschläge, die Arbeit ist hart und ermüdend. Viele, die vorher an die Verheißungen aus der KI - Branche geglaubt haben beim Berufseinstieg, sind heute desillusioniert. Es gibt oft nur befristete Verträge.

Was die Zukunft angeht: Noch ist das Einarbeiten durch Menschen nötig, das wird aber zukünftig auch durch KI übernommen werden.

Wegen dieser prekären Arbeitssituation hat Amazon das Land auf die schwarze Liste gesetzt, was ich auch richtig finde. Es bleibt Ausbeutung, wenn die Konzerne damit ihren Reibach machen. Und wie gesagt, sind gute Arbeitsbedingungen wenigen vorbehalten und so gut sind sie auch wieder nicht, wenn man den Zeitdruck bedenkt, unter dem sie stehen.

Und 80 Euro ist der Durchschnittslohn - ein kleiner Snack mit Ei kostet bereits 1 Euro - dafür arbeiten dann manche 3 Std. Es ist kein Wunder, dass 3/4 unter der Armutsgrenze leben.

Deshalb arbeiten auch 80% der KI-Arbeitskräfte schwarz, weil das Geld nicht reicht, bzw. versuchen andere Wege um durch KI an mehr Geld zu kommen. Die Regierung versucht das zu unterbinden und versucht bessere Arbeitsbedingungen zu schaffen, aber die Mühle mahlt zu langsam.

So versuchen die Madegassen selbst, bessere Bedingungen zu schaffen, da einfach Fakt ist, dass viele KI- Trainer von ihren Arbeitgebern ausgebeutet und schlecht behandelt werden. So Wortlaut in der Doku. Neue Vereine als Vermittler und neutrale Instanz zwischen Arbeitgeber und Arbeitnehmer versuchen darüber Einfluss zu gewinnen und Kontrolle über die Bedingungen zu erlangen.
Aber das System ändern sie dadurch auch nicht wirklich.

Die einzigste Chance sehen sie in Firmen, die selbst KI-Apps und Software entwickeln, made in Madagaskar, aber darum ging es letztendlich nicht, sondern um die Arbeitsbedingungen der KI-Trainer.

 

[MaxJoy]

Es ist kein Wunder, dass 3/4 unter der Armutsgrenze leben.

Ohne die IT wären es 4/4, ohne jede Perspektive. Es ist eine Armut mit Computer, Glasfaseranschluss und Fahrservice. Die Menschen wirken sehr gesund und engagiert, die Familien sind intakt, die Kinder bekommen eine gute Ausbildung. Die IT-Firmen engagieren sich sicher nur aus finanziellen Gründen in diesem Land, aber das setzt eine ganze Kette von Verbesserungen in Gang. Moralisten sitzen dagegen nur mit erhobenem Zeigefinger auf dem Sofa und tun gar nichts für Land und Leute.

 

[Laurianna612]

Also du bist ja völlig daneben, ein paar wenige, die die Chance einer Festanstellung haben, machen nichts an dem Anteil der Armutsgrenze aus.

Und es täuscht auch nicht über die systematische Ausbeutung der Menschen hinweg.

Überwiegend sind die KI- Trainer eben nicht fest angestellt, schuften für einen Hungerlohn, von dem sie alleine nicht ihre Lebenshaltungskosten bestreiten können und werden schlecht behandelt. Das sind harte Wahrheiten und hat mit dem moralischen Zeigefinger nichts zu tun.

 

[MaxJoy]

Es ist kaum vorstellbar, dass es in einem der ärmsten Länder der Welt überhaupt irgendwelche Sozialsysteme gibt, da wirkt dein westliches Anspruchsdenken selbst komplett daneben. Es ist außerdem absehbar, dass es schon bald keine KI-Trainer mehr geben wird, dann können sich die KIs selbst trainieren. Die KI-Infrastruktur und IT-Kenntnisse werden dagegen bleiben und sorgen dafür, dass Madagaskar an den Puls der Welt angeschlossen bleibt und nicht mehr komplett isoliert und abgehängt ist.

 

[Malvegil]

Du hättest wahrscheinlich noch die Kindersklavenarbeit im Bergbau schönreden können ...

Es gibt zahllose Berichte von solcher Ausbeutung überall im globalen Süden für KI-Training:

Globaler Süden: Prekäre Klickarbeit hinter den Kulissen von ChatGPT

Arbeiter:innen in Kenia sollten teils traumatisierende Texte lesen, um ChatGPT zu optimieren. Ihr Stundenlohn: bis zu zwei US-Dollar. Eine Recherche des Time Magazines zeigt: Hinter dem Hype um die Künstliche Intelligenz steckt auch eine Geschichte von Ausbeutung im globalen Süden.

netzpolitik.org

Ausbeutung in Kenia: Der Datenproletarier

In Kenia helfen Menschen wie Noah dabei, dass KI-Systeme schlauer werden – unter üblen Bedingungen. Von ihrer Arbeit profitieren auch deutsche Supermärkte.

www.zeit.de

Noah steht ganz unten, am prekären Ende der KI-Wertschöpfungskette. Die letzten drei Jahre hat er durchgehend für einen US-Dienstleister gearbeitet, der nach eigenen Angaben täglich über eine Milliarde Annotationen liefert. Der Name des Unternehmens soll auf Noahs Wunsch hier nicht genannt werden. Einen regulären Arbeitsvertrag hat man Noah nie gegeben; er arbeitet auf Kurzzeitverträgen oder wird für Einzelprojekte bezahlt, teilweise mit Centbeträgen.

Bei dem Treffen mit der ZEIT weiß er nicht, wie er in der nächsten Woche über die Runden kommen soll. Am Vortag wurde er ohne Vorwarnung freigestellt.

 

[MaxJoy]

Du hättest wahrscheinlich noch die Kindersklavenarbeit im Bergbau schönreden können ...

Bei dir kennt die Agitation anscheinend keine Grenzen, vielen Dank für solche Unterstellungen. Bergbau ist wirklich harte und selbstzerstörerische Arbeit, Vögel auf Fotos zu erkennen dagegen eine einfache und angenehme Beschäftigung. Kinderarbeit war bisher auch kein Thema, aber egal, die Hauptsache ist ja bei dir die Showeinlage als moralische Großinquisitorin.

 

[Malvegil]

Vögel auf Fotos zu erkennen

Es gab eben auch andere Arbeit:

„Die Klassifizierung und Filterung von schädlichen [Texten und Bildern] ist ein notwendiger Schritt, um die Menge an gewalttätigen und sexuellen Inhalten in den Trainingsdaten zu minimieren und Werkzeuge zu entwickeln, die schädliche Inhalte erkennen können“, so ein Sprecher von OpenAI gegenüber dem Time Magazine.
Für ihr Gehalt mussten die Arbeiter:innen mitunter Beschreibungen lesen, die lebhafte Darstellungen unter anderem von sexueller Gewalt, Suiziden und Tierquälerei enthielten. „Das war Folter“, sagte einer der Arbeiter gegenüber dem Time Magazine. „Man liest im Laufe der Woche etliche solcher Beschreibungen. Und wenn es dann Freitag wird, ist man vom ständigen Nachdenken darüber verstört.“