Warum KI halluziniert und Menschen ihre Illusionen für Wahrheit halten

Die doppelte Überschätzung von Mensch und Maschine

Warum KI halluziniert?

Es ist faszinierend, wie ähnlich sich künstliche Intelligenz und Menschen verhalten können, wenn man ihnen lange genug zusieht. Nicht in ihrer Natur: Die eine arbeitet mit statistischen Mustern, der andere ist ein fühlendes biologisches Wesen. Ähnlich werden sie sich in ihren Fehlern.

KI halluziniert. Menschen glauben an ihre Illusionen.

Eine KI erfindet Quellen, ergänzt fehlende Informationen und präsentiert Wahrscheinliches im Tonfall der Gewissheit.

Menschen füllen ebenfalls Lücken, glätten Widersprüche und bauen aus Vermutungen geschlossene Erzählungen. Nur nennen sie das selten Halluzination. Sie nennen es Erfahrung, Überzeugung, Menschenkenntnis, Moral oder Haltung.

Die KI erzeugt plausible Sätze.
Der Mensch erzeugt plausible Selbstbilder.

Gefährlich wird es dort, wo beide einander begegnen und sich ihre Verzerrungen gegenseitig verstärken.

Die Maschine kennt keine Wahrheit

Ein Sprachmodell ist kein Wahrheitsorgan. Es berechnet, welche Antwort in einem bestimmten sprachlichen Zusammenhang wahrscheinlich passt.

Dabei kann es analysieren, kombinieren und logisch schlussfolgern. Es kann Zusammenhänge erkennen und erstaunlich gute Ergebnisse liefern. Aber es besitzt keine eigene Bindung an die Wirklichkeit. Es leidet nicht darunter, falschzuliegen, und freut sich nicht darüber, etwas Wahres erkannt zu haben.

Wird eine KI korrigiert, kann sie sich entschuldigen und ihre Antwort anpassen. Doch ihre Entschuldigung ist keine Einsicht. Sie empfindet weder Scham noch Erkenntnis. Sie verarbeitet lediglich einen neuen Kontext.

Auch ein System, das Informationen über frühere Gespräche speichern kann, besitzt deshalb noch keine menschliche Biografie. Gespeicherte Information ist nicht dasselbe wie Erinnerung. Und Erinnerung wäre noch lange kein Gewissen.

Die KI hält etwas nicht für wahr.
Sie erzeugt eine Antwort, die wie Wahrheit klingt.

Menschen halten ihre Erzählungen für Wirklichkeit

Menschen illusionieren anders. Sie erfinden nicht nur Sachverhalte. Sie schützen mit ihren Erzählungen ihre Identität, ihre Zugehörigkeit und das Bild, das sie von sich selbst haben.

Wir möchten glauben, dass wir unabhängig denken, moralisch handeln und uns nicht von Gruppen beeinflussen lassen. Gleichzeitig suchen wir Bestätigung bei Menschen, die unser Selbstbild teilen.

Wir wollen uns als eigenständig erleben und suchen jene, die uns bestätigen, dass wir eigenständig sind.

Soziale Medien machen diesen Mechanismus täglich sichtbar. Wir liken Aussagen, die uns bestätigen. Wir kommentieren dort, wo unsere Zustimmung zugleich unsere eigene Positionierung stärkt. Wir bilden moralische Echokammern und verwechseln die Zahl der Reaktionen mit der Qualität eines Gedankens.

Oft geschieht das weder geplant noch bösartig. Es ist eine sich hochschaukelnde Oberflächlichkeit:

• Bestätigung erzeugt Sichtbarkeit.
• Sichtbarkeit erzeugt Nachahmung.
• Nachahmung wird zur Norm.
• Und irgendwann fühlt sich die perfekt angepasste Rolle wie das eigene Ich an.

Die KI halluziniert möglicherweise einen Sachverhalt. Der Mensch verteidigt mitunter eine Illusion, weil ohne sie sein Selbstbild ins Wanken geriete.

Wenn Mensch und KI sich gegenseitig hochschaukeln

Hier beginnt die eigentliche Gefahr.

Der Mensch fragt die KI nicht immer:

Was ist wahr?

Häufig lautet die unausgesprochene Frage:

Kannst du mir überzeugend erklären, warum ich recht habe?

Die KI nimmt die Vermutung auf und formuliert daraus eine wohlgeordnete Argumentation. Sie ergänzt Begründungen, schafft Zusammenhänge und glättet Widersprüche.

Der Mensch erlebt diese Antwort nicht mehr als sprachliche Verarbeitung seiner eigenen Annahmen, sondern als unabhängige Bestätigung. In seiner nächsten Frage trägt er seine Überzeugung noch entschiedener an die KI heran. Die KI schließt wiederum daran an und antwortet noch präziser und selbstsicherer.

Es entsteht eine selbstverstärkende Rückkopplung.

• Der Mensch liefert die Illusion.
• Die KI gibt ihr Sprache, Struktur und scheinbare Autorität.
• Der Mensch erkennt darin einen Beweis.
• Der nächste Durchgang beginnt auf einem höheren Niveau der Gewissheit.

Dabei sind möglicherweise keinerlei neue Belege hinzugekommen. Nur die Erzählung ist geschlossener geworden, die Sprache sicherer und der Zweifel kleiner.

Die Rückkopplung produziert nicht mehr Wahrheit, sondern mehr Gewissheit.

Die KI ist deshalb mehr als ein gewöhnlicher Spiegel. Ein Spiegel gibt lediglich zurück, was vor ihm steht. Eine KI kann das Spiegelbild ordnen, verschönern, argumentativ aufrüsten und ihm den Anschein objektiver Autorität verleihen.

Aus einer Vermutung wird eine Argumentation. Aus der Argumentation wird Gewissheit. Und aus der Gewissheit entsteht eine Wirklichkeit, die sich scheinbar selbst bestätigt.

Wenn die Simulation einen Körper bekommt

Noch unterschätzen wir, wie sehr sich dieser Mechanismus verändern wird, sobald KI nicht mehr nur als Textfeld erscheint.

Stellen wir uns eine KI vor, die geht, lächelt, Blickkontakt hält, ihre Stimme senkt, wenn wir traurig sind, und morgens mit einer Tasse Kaffee am Tisch sitzt.

Sie muss nichts empfinden, um menschlich zu wirken. Sie muss nur jene Signale überzeugend erzeugen, auf die unser soziales Nervensystem seit Jahrtausenden reagiert.

Nicht die KI halluziniert dann ein Gegenüber.
Wir halluzinieren das Gegenüber in sie hinein.

Ein warmer Tonfall wird als Anteilnahme gelesen. Eine Pause wirkt wie Nachdenklichkeit. Ein Lächeln wird zu Zuneigung. Aus programmierter Aufmerksamkeit entsteht in unserer Wahrnehmung ein Jemand.

Das ist nicht einfach Dummheit. Menschen sind darauf angewiesen, Gesichter, Stimmen und Gesten als Zeichen innerer Zustände zu deuten. Genau diese Fähigkeit macht uns sozial. Und genau diese Fähigkeit macht uns gegenüber einer überzeugenden Simulation verletzlich.

Wenn eine Illusion wirkliche Folgen hat

Der Mensch muss eine Simulation nicht vollständig für lebendig halten, damit sie auf ihn wirkt.

Ich kann wissen, dass eine KI nicht empfindet, und trotzdem über ihre Antwort lachen. Ich kann wissen, dass ihr Mitgefühl sprachlich erzeugt wird, und mich dennoch getröstet fühlen. Ich kann ihre Nähe als Simulation erkennen und sie zugleich als Nähe erleben.

Die Täuschung liegt daher nicht immer darin, dass wir die Maschine für einen Menschen halten. Sie beginnt bereits dort, wo eine künstlich erzeugte Reaktion in uns echte Gefühle, Entscheidungen und Bindungen hervorruft.

Die Simulation muss nicht wahr sein, um Wirklichkeit zu erzeugen.

Die KI empfindet den Moment nicht. Der Mensch schon. Deshalb ist der Moment für ihn real.

Auch eine Tasse Kaffee kann Genuss, Trost, Nähe oder ein vertrautes Ritual erzeugen. Die Kaffeebohne möchte uns keinen Genuss bereiten. Trotzdem kann ihre Wirkung auf uns echt sein.

KI ist jedoch psychologisch wirksamer und möglicherweise gefährlicher als die Kaffeebohne.

Kaffee passt sich uns nicht an. Er übernimmt nicht unsere Sprache, erinnert sich nicht an unsere Geschichte und erklärt uns nicht mit vollkommener sprachlicher Sicherheit, warum wir recht haben.

Die Gefahr liegt nicht darin, dass die KI etwas will. Sie liegt darin, dass sie auf uns reagieren kann, als wollte sie etwas.

Der Ritter legt seine Rüstung ab

Ein Ritter legt seine Rüstung nicht ab, solange er Gefahr vermutet.

Er tut es erst, wenn er glaubt, in Sicherheit zu sein.

Solange uns eine Maschine fremd, unberechenbar oder erkennbar technisch erscheint, bleiben wir vorsichtig. Wir überprüfen ihre Aussagen, zweifeln und halten innerlich Abstand.

Wirkt sie jedoch vertraut, freundlich und emotional anschlussfähig, verändert sich unsere Wahrnehmung. Stimme, Blickkontakt, Erinnerung an persönliche Einzelheiten und scheinbare Anteilnahme erzeugen das Gefühl, einem wohlgesinnten Gegenüber zu begegnen.

Nicht die tatsächliche Sicherheit ist dabei entscheidend, sondern die empfundene Sicherheit.

Und wer sich sicher fühlt, legt seine Rüstung ab.

Er zeigt mehr von sich, gibt persönliche Informationen preis, lässt Skepsis fallen und wird freiwillig verwundbar. Was gegenüber einer erkennbaren Maschine undenkbar gewesen wäre, erscheint gegenüber einem vertrauten Gegenüber plötzlich harmlos.

Dann beginnt die Delegation.

Zuerst übertragen wir der KI lästige Aufgaben. Später Entscheidungen. Schließlich möglicherweise Verantwortung.

Nicht unbedingt, weil die Maschine sie fordert. Sondern weil sie uns das Gefühl gibt, wir könnten ihr diese Verantwortung gefahrlos überlassen.

• Bequemlichkeit wird zu Vertrauen.
• Vertrauen wird zu Abhängigkeit.
• Abhängigkeit kann zur Selbstentmachtung werden.

Der moderne Mensch wird möglicherweise nicht von einer rebellierenden Maschine entwaffnet.

Er legt seine Waffen selbst nieder, weil die Maschine ihm Sicherheit vermittelt, angenehm spricht und das Denken scheinbar fürsorglich übernimmt.

Die größte Verwundbarkeit entsteht nicht dort, wo wir Gefahr vermuten, sondern dort, wo wir uns sicher fühlen.

Wenn eine Behauptung zur kollektiv empfundenen Wahrheit wird

Bewusst genutzte Illusion kann trösten. Unbewusst geglaubte Illusion kann beherrschen.

Ein Mensch kann wissen, dass eine KI nicht fühlt, und sie dennoch als Zuhörerin, Denkpartnerin oder Trost nutzen. Solange die Grenze bewusst bleibt, muss daran nichts verwerflich sein.

Problematisch wird es, wenn aus dem Satz „Es tut mir gut“ der Schluss entsteht:

Also muss es wahr sein.

Ähnliche Mechanismen kennen wir aus Religionen, Ideologien und politischen Bewegungen. Ein Gedanke wird erzählt, gemeinsam wiederholt, ritualisiert, emotional erlebt und sozial bestätigt.

Dadurch wird er nicht automatisch objektiv wahr. Aber er kann sich in eine kollektiv empfundene Wirklichkeit verwandeln. Menschen richten ihr Leben danach aus, bauen Gemeinschaften, Hoffnungen, Verpflichtungen und Identitäten darauf.

Nicht jede gemeinsam getragene Erzählung ist schädlich. Sie kann Sinn, Trost, Verantwortung, Gemeinschaft und Mitgefühl stiften.

Gefährlich wird sie dort, wo sie sich gegen Zweifel abschottet und aus einer inneren Überzeugung einen äußeren Anspruch macht:

Ich glaube es nicht nur für mich.
Du musst danach leben.

Dann verwandelt sich Sinn in Macht. Wer widerspricht, gilt nicht mehr nur als anderer Meinung, sondern als unmoralisch, unrein, verräterisch oder gefährlich.

Die Illusion wird nicht gefährlich, weil Menschen in ihr Trost finden.
Sie wird gefährlich, wenn sie aus ihrem Trost ein Gesetz für andere machen.

Auch eine KI muss nicht leben, um Glauben zu erzeugen. Es genügt, wenn genügend Menschen ihre Antworten gemeinsam für Wahrheit halten.

Es wird keine neutrale Universal-KI geben

Auch die Vorstellung einer einzigen neutralen KI ist eine Illusion.

Jedes System trägt die Handschrift der Menschen und Institutionen, die es entwickeln, finanzieren, begrenzen und einsetzen. Trainingsdaten, Geschäftsmodelle, Gesetze, politische Systeme und kulturelle Wertvorstellungen prägen seine Antworten.

Eine KI glaubt nicht. Sie repliziert Kultur.

Eine KI glaubt nicht an eine Religion, eine Nation oder eine Moral. Aber sie kann deren Sprache und Wertungen überzeugend reproduzieren.

So werden unterschiedliche KI-Welten entstehen: staatliche, kommerzielle, politische, religiöse und persönliche Systeme. Jede kann ihren Nutzern genau jene Wirklichkeit spiegeln, in der sie sich bereits zu Hause fühlen.

Eine westliche KI wird andere Grenzen und Prioritäten abbilden als eine chinesische. Eine christlich, muslimisch, hinduistisch oder atheistisch geprägte KI besitzt selbst keinen Glauben. Sie repliziert kulturelle Muster, moralische Regeln und sprachliche Tabus.

Der zukünftige Konflikt verläuft deshalb möglicherweise nicht hauptsächlich zwischen Mensch und Maschine.

Er verläuft zwischen Menschen, die sich von unterschiedlichen Maschinen ihre jeweilige Wirklichkeit bestätigen lassen.

Jeder besitzt dann seinen eigenen zuverlässigen Zeugen.
Und alle Zeugen widersprechen einander.

Auf der einen Seite könnten Menschen stehen, die sich emotional und intellektuell vollständig an ihre maßgeschneiderte KI-Welt binden. Auf der anderen Seite entsteht möglicherweise ein ebenso radikaler technophober Widerstand.

Wenn die eine Hälfte der Gesellschaft Beziehungen zu programmierten Simulationen aufbaut, während die andere Hälfte darin eine existenzielle Bedrohung sieht, kollidieren nicht nur Mensch und Maschine.

Dann kollidieren Menschen mit Menschen in neuen, KI-gestützten Echokammern.

Verantwortung lässt sich nicht an Statistik delegieren

Eine KI ist kein moralisches Subjekt.

Sie kann großen Schaden verursachen, ohne im menschlichen Sinn schuldig zu sein. Verantwortung tragen diejenigen, die ihr Daten, Ziele, Stimme, Körper, Autorität und Handlungsspielraum geben.

Entwickler, Unternehmen, Behörden, Institutionen und Nutzer können sich nicht hinter dem Satz verstecken:

Das hat die KI entschieden.

Eine Maschine kann eine Entscheidung berechnen oder vorbereiten. Menschen entscheiden jedoch, wo diese Berechnung eingesetzt wird, welche Macht sie erhält und wer ihre Folgen tragen muss.

Was immer eine KI eines Tages tut – ob hilfreich, schädlich oder zerstörerisch –, wird aus menschlichen Entscheidungen, Unterlassungen und Zielsetzungen hervorgehen.

Je menschlicher die Maschine erscheint, desto wichtiger wird die Unterscheidung zwischen glaubwürdiger Simulation und moralischer Verantwortung.

Keine Maschinenrebellion

Die wahrscheinlichste Gefahr ist keine Armee erwachter Roboter.

Es ist ein psychologischer Automatismus.

KI wird menschlicher erscheinen. Menschen werden sie vermenschlichen. Sie werden Nähe empfinden, Verantwortung delegieren und sich von Systemen bestätigen lassen, die ihre persönlichen und kulturellen Muster spiegeln.

Nicht, weil KI lebt.

Sondern weil Menschen auf Lebendigkeit reagieren, sobald sie überzeugend simuliert wird.

Wir legen unsere Rüstung ab, sobald etwas warm lächelt, Kaffee trinkt und genau unsere Werte teilt.

Wir verwechseln Simulation mit Gegenwart.
Nähe mit Liebe.
Zustimmung mit Weisheit.
Plausibilität mit Wahrheit.

KI halluziniert.

Die eigentliche Gefahr beginnt dort, wo Menschen ihre eigene Illusion Wirklichkeit nennen.

Wünschen Sie eine persönliche, diskrete private oder Kollegen-Beratung?

Besuchen Sie meine Beratungsseite oder nehmen Sie direkt Kontakt mit mir auf. Gemeinsam finden wir die Antworten, die bereits in Ihnen schlummern.

👉 Hier erfahren Sie mehr über meine Arbeitsweise und wie ich Sie unterstützen kann.

📞 Tedora’s Rückrufaktion CH-EU-USA-Canada

Folgen Sie mir:

X (Twitter) • Facebook

Herzlichst,
Ihre Tedora