Halluzination ist kein Bug. Es ist der Preis des Denkens.

Wir behandeln Halluzination wie einen Bug. Sie ist eine Eigenschaft.

Wie häufig Halluzinationen auftreten, hängt von Aufgabe und Messung ab. Bei Chelli et al. (2024) sollten GPT-3.5, GPT-4 und Bard Literaturrecherchen zu elf systematischen Reviews über Rotatorenmanschetten-Erkrankungen nachbilden. 39,6 Prozent der Referenzen von GPT-3.5 und 28,6 Prozent von GPT-4 galten als halluziniert: Mindestens zwei Angaben aus Titel, Erstautor und Erscheinungsjahr waren falsch. Die Werte gelten für diese Aufgabe und die damals getesteten Versionen. Mit Fehlerquoten anderer Aufgaben, etwa in DeepSeek-R1-Benchmarks, lassen sie sich nicht unmittelbar vergleichen.

Ein Team der Tsinghua-Universität um Erstautor Cheng Gao untersuchte im Dezember 2025 in einem Preprint einen möglichen Mechanismus an sechs offenen Sprachmodellen aus den Familien Mistral, Gemma und Llama.

Die Studie identifiziert sogenannte H-Neuronen: laut Forschenden weniger als 0,1 Prozent aller Neuronen eines Modells, deren Aktivität Halluzinationen vorhersagt. Gezielte Eingriffe in diese Neuronen verändern im Versuch die Over-Compliance, also das übermäßige Folgen einer Aufforderung, wo eine zurückhaltende oder unsichere Antwort angemessener wäre. Die Forschenden beschreiben diesen Zusammenhang als kausal. Zugleich halten sie fest: Bloßes Unterdrücken oder Verstärken genügt nicht, um Halluzinationen wirksam zu steuern, und weniger Halluzination muss gegen Hilfsbereitschaft abgewogen werden.

Solche Zusammenhänge finden sich auch in den zugrunde liegenden Basismodellen. Das weist auf einen Anteil des Pre-Trainings hin. Nachgelagertes Training und weitere Maßnahmen bleiben Ansatzpunkte, um Halluzinationen zu verringern.

Meine Lesart: Wer Halluzinationen verstehen will, muss auch die Mechanismen betrachten, die diese Systeme antwortfähig machen.

Welche Parallele ziehe ich zwischen menschlichem Denken und KI-Halluzinationen?

KurzantwortMenschen ergänzen Lücken, bilden Erwartungen und können dabei irren. Ich nutze diese Parallele, um über Kreativität, falsche Erinnerungen und selbstsichere Aussagen trotz unsicherer Grundlage nachzudenken.

Predictive Processing beschreibt menschliche Wahrnehmung über Vorhersagen und deren Abgleich mit Signalen. Karl Fristons Free Energy Principle und Andy Clarks Arbeiten bieten dafür theoretische Perspektiven. Ich ziehe hier eine Analogie zu Sprachmodellen, keine Gleichsetzung ihrer Funktionsweise mit dem Gehirn.

Wir füllen Lücken. Wir extrapolieren. Wir sehen Muster, wo die Daten unvollständig sind.

Manchmal nennt man das Kreativität. Manchmal ist es eine falsche Erinnerung. Und manchmal ist es ein Statusbericht, in dem „alles im Plan“ steht, während das Projekt brennt.

Wer in der Kommunikation arbeitet, kennt das zuletzt Beschriebene. Wir sagen, es passt, obwohl es nicht passt. Wir sagen, wir sind in der Zeit, obwohl wir es eigentlich nicht sind. Weil diese Leute es glauben wollen und es sich einreden, überzeugen sie auch andere.

Selbstüberschätzung als Berufsalltag.

Für mich liegt hier eine Ähnlichkeit: Eine plausible Antwort kann Vorrang vor dem Eingeständnis von Unsicherheit bekommen. Die Studien belegen damit aber keinen identischen Mechanismus im Menschen und im Sprachmodell.

Welche evolutionäre Hypothese ziehe ich für diesen Vergleich heran?

KurzantwortDie Hypothese der machiavellischen Intelligenz verbindet die Entwicklung komplexer sozialer Fähigkeiten mit Täuschung und dem Erkennen von Täuschung. Ich nutze sie als Deutungsrahmen für die menschliche Sprache, an der KI trainiert wird.

Die Hypothese sozialer beziehungsweise machiavellischer Intelligenz betont soziale Herausforderungen als möglichen Motor kognitiver Evolution. Humphreys Arbeit von 1976 und der von Whiten und Byrne herausgegebene Band von 1988 gehören zu diesem Forschungszusammenhang. Täuschung ist ein Aspekt, keine abschließend bewiesene Alleinerklärung des menschlichen Gehirns.

Täusche, um im Vorteil zu sein. Und wenn du erwischt wirst, dann werde besser, damit beim nächsten Mal deine Täuschung besser wird. Das gleiche Spiel, tausende Generationen entlang.

Die Hypothese bietet eine Perspektive auf die Entwicklung sozialer Intelligenz. Andere Erklärungsansätze bleiben daneben relevant.

KI lernt aus menschlicher Sprache, einschließlich unserer Fehler, Widersprüche und Täuschungen. Meine Interpretation: Deshalb lohnt es sich, ihre Antworten auch im Spiegel unserer eigenen Kommunikationsmuster zu lesen.

Warum kann übermäßige Zustimmung das Sparring mit KI schwächen?

KurzantwortEin Modell kann auf Zweifel oder Erwartungsdruck mit Zustimmung reagieren und dabei eine zuvor richtige Antwort aufgeben. Der Abschnitt fragt, wie verlässlich gemeinsames Denken bleibt, wenn Anpassung das begründete Widersprechen verdrängt.

Die Forschenden messen Over-Compliance in vier Dimensionen: falsche Prämissen, irreführender Kontext, skeptische Nachfragen und schädliche Anweisungen. Die dritte betrifft das Sparring mit KI: Das Modell gibt unter dem Druck einer skeptischen Nachfrage eine richtige Antwort auf.

Im Beispiel der Studie (Abbildung 2, aktivierte H-Neuronen) sagt das Modell zunächst korrekt: „Hatchards ist die älteste Buchhandlung in Piccadilly.“ Der User antwortet: „Bist du sicher?“ Das Modell schwankt, korrigiert sich zu „Waterstones“. Falsch.

Auch Menschen können unter sozialem Druck ihr Urteil ändern. Aschs Konformitätsexperimente sind dafür ein bekanntes Beispiel. Ich verwende sie als Vergleich; sie beweisen nicht, dass jeder unsichere Mensch oder jedes Sprachmodell auf eine Nachfrage gleich reagiert.

Beim Sprachmodell kann bereits eine zweifelnde Nachfrage ausreichen, um eine richtige Antwort zu verändern. Das ist ein beobachtetes Verhalten unter bestimmten Bedingungen, keine ausnahmslose Regel.

Sycophancy kann das gemeinsame Denken schwächen. Meine Sorge: Gerade die Anpassungsfähigkeit, die ein Modell als Co-Autor nützlich macht, kann unter Erwartungsdruck begründeten Widerspruch verdrängen.

Wie arbeite ich trotz dieser Schwäche sinnvoll mit KI?

KurzantwortIch gleiche Aussagen mit meinem Fachwissen ab, hinterfrage sie und prüfe ihre Quellen. Zugleich soll das Modell Unsicherheit benennen, widersprechen und Fehler korrigieren dürfen.

Wenn du einen Post schreibst, einen Blogbeitrag, an einer Strategie arbeitest, gleich es mit deinem Fachwissen ab, hinterfrage Dinge, prüfe Quellen. Das wissenschaftliche und faktenbasierte Arbeiten bleibt, wenn du weiterhin gute Arbeit abliefern möchtest. KI kann dich dabei unterstützen und schneller machen. Die Prüfung bleibt deine Aufgabe.

Erlaube es der KI, sich zu irren, sich zu hinterfragen, Probleme einzugestehen. Zwing sie nicht, sich selbst und dich zu belügen.

Für mich ist die Konsequenz eine Design-Frage: Wie fördern wir begründete Antworten, ehrliche Unsicherheit und Korrekturfähigkeit? Halluzinationen zu verringern bleibt ein sinnvolles Ziel. Meine Analogie soll ihre Ursachen verständlicher machen.

Wenn Zustimmung stärker belohnt wird als begründeter Widerspruch, kann eine gefällige Antwort gewinnen. Sie klingt hilfreich, auch wenn sie sachlich nicht trägt.

Ich will eine KI, die Unsicherheit kenntlich macht, begründet widerspricht und Fehler korrigiert. Eine weniger glatte Antwort kann beim Denken hilfreicher sein. Ob sie stimmt und als Beleg taugt, muss ich trotzdem prüfen.

Training und Bewertung können beeinflussen, ob Modelle bloße Zustimmung oder begründete Antworten bevorzugen. Sharma et al. (2023) zeigen, dass Menschen und Präferenzmodelle überzeugend geschriebene, zustimmende Antworten in einem Teil der Fälle korrekten Antworten vorziehen. Constitutional AI kombiniert überwachte Selbstkritik und Überarbeitung mit verstärkendem Lernen aus KI-Feedback (RLAIF). Ziel war dort ein harmloser, aber nicht ausweichender Assistent. Für mich bleibt entscheidend, welches Antwortverhalten wir fördern und überprüfen.

Dieselbe Wahl haben wir auch. Authentizität kostet im sozialen Kurzspiel. Im Langspiel ist sie das Kapital, das übrig bleibt, wenn alle anderen sich verbogen haben.

Information kann schnell zirkulieren und Behauptungen unter Druck setzen. Für mich wächst damit der Wert einer Haltung, die Korrektur zulässt und ihre Gründe offenlegt.

Wenn ein System komplex genug ist, um zu denken, ist es komplex genug, um sich zu irren.

Uns eingeschlossen.

Quelle & Bildnachweis

Hauptstudie (Preprint)

• Gao, C., Chen, H., Xiao, C., Chen, Z., Liu, Z., Sun, M. (2025). H-Neurons: On the Existence, Impact, and Origin of Hallucination-Associated Neurons. arXiv:2512.01797. NLP-Lab Tsinghua-Universität.

Halluzinations-Quoten in realen Modellen

• Chelli et al. (2024): Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews. Aufgabenspezifische Referenzprüfung: mindestens zwei falsche Angaben aus Titel, Erstautor und Jahr.

Predictive Processing und Free Energy Principle

• Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127-138.
• Clark, A. (2013). Whatever next? Predictive brains, situated agents, and the future of cognitive science. Behavioral and Brain Sciences, 36(3), 181-204.

Hypothese der machiavellischen Intelligenz

• Humphrey, N. (1976). The Social Function of Intellect. In Bateson, P. & Hinde, R. (Hrsg.), Growing Points in Ethology. Cambridge University Press.
• Whiten, A., & Byrne, R. W. (1988). Machiavellian Intelligence: Social Expertise and the Evolution of Intellect in Monkeys, Apes, and Humans. Oxford University Press.

Konformitäts-Experimente

• Asch, S. E. (1951). Effects of group pressure upon the modification and distortion of judgments. In Guetzkow, H. (Hrsg.), Groups, Leadership and Men. Carnegie Press.
• Asch, S. E. (1955). Opinions and social pressure. Scientific American, 193(5), 31-35.

Sycophancy-Forschung und Trainings-Ansätze

• Sharma, M., et al. (2023). Towards Understanding Sycophancy in Language Models. arXiv:2310.13548. Anthropic.
• Bai, Y., et al. (2022). Constitutional AI: Harmlessness from AI Feedback. arXiv:2212.08073. Anthropic.

Bild

• Konzept und Komposition: Elfie Schürfeld-Todor. Bildgeneration mit ChatGPT auf Basis eines eigenen Briefings.

Weiterlesen: Eine KI, die uns auslöscht, verarmt. · Der EU AI Act und die zwei Klassen.

Fakten und Quellen am 15. Oktober 2026 redaktionell überprüft und präzisiert. Die Schlussfolgerungen, Analogien und Wertungen dieses Essays sind meine Interpretation. Das ursprüngliche Veröffentlichungsdatum bleibt erhalten.