28. August 2026

Halluzinationen: Wenn die Maschine zu gut lügt

Halluzinationen sind keine Panne, sondern Teil des Modells. Wie wir offensichtliche von versteckten Fehlern trennen und die Maschine zur Wahrheit zwingen.

Artikelserie · Teil 6

Die Grundlagen von KI, leicht erklärt

Von der Black Box über Agenten bis zum eigenen Workflow: die Grundlagen von KI, ohne Fachchinesisch.

Alle Teile anzeigen

Transparenz

Alle Blogeinträge entstehen mit Hilfe von KI und werden von einem Menschen nachbearbeitet und geprüft.

Halluzinationen: Wenn die Maschine zu gut lügt

Jeder kennt diesen einen Redner auf einer Party, der zu absolut jedem Thema eine feste Meinung hat. Er spricht laut, fehlerfrei und ohne den geringsten Zweifel. Wenn er über dein Fachgebiet doziert, merkst du nach drei Sätzen: Er hat keine Ahnung, wovon er redet. Spricht er am nächsten Abend aber mit derselben Überzeugung über Quantenphysik, nickst du still und bist beeindruckt.

Genau so arbeitet ein Sprachmodell, denn es ist der ultimative Blender. Die Maschine weiß nicht, ob eine Aussage wahr oder falsch ist. Sie berechnet lediglich, welches Wort statistisch am besten hinter das vorherige passt. Das Ergebnis ist ein Text, der immer logisch und extrem sicher klingt — völlig unabhängig vom Wahrheitsgehalt.

Die Falle der Basiswahrheit

Zwei Menschen stehen vor zwei Toren, einer schaut kritisch mit einer Lupe auf das Tor, der andere geht blindlings durch das zweite Tor — Wer die Antwort nicht kennt, glaubt dem, der am sichersten spricht.

Wenn man ein Sprachmodell das erste Mal testet, stellt man oft absichtlich Fragen, auf die die Antwort bereits bekannt ist. Die KI behauptet voller Überzeugung etwas Falsches, erfindet vielleicht noch einen defekten Link dazu, und man ist enttäuscht, weil das Vertrauen sofort zerstört ist. Man hat die Halluzination auf frischer Tat ertappt, was anfangs lästig, aber meist völlig harmlos ist.

Gefährlich wird das System, wenn man sich in unbekanntem Gebiet bewegt. Wer sich leicht beeinflussen lässt, übernimmt die kühnsten Aussagen eines unglaublich souveränen Influencers oftmals blind und betrachtet sie als unumstößliche Basiswahrheit, ohne jemals auch nur den leisesten Zweifel anzumelden.

Der Effekt des sicheren Auftretens

Ein überzeichnetes, lautes Megafon übertönt eine leise, aber korrekte kleine Glocke — Lautstärke ersetzt keine Fakten, auch nicht bei einer Maschine.

Fehlt das Wissen, um eine Behauptung gegenzuprüfen, wirkt die eloquent formulierte Halluzination auf einmal wie ein harter Fakt. Man schluckt die falsche Antwort komplett. Viele glauben der Aussage unhinterfragt, einfach weil sie logisch klingt und formvollendet aufgeschrieben ist.

Versteckte Fehler sind die teuersten

Ein massiver Turm aus Bausteinen, bei dem der unterste Block aus lockerem Sand in sich zusammenfällt — Offensichtliche Fehler kosten Zeit, versteckte Fehler kosten das ganze Projekt.

Ein falscher Link ist schnell entlarvt. Ein subtil verdrehter Sinnzusammenhang versteckt sich dagegen oft tagelang im System. Wenn Entscheidungen auf Basis einer falschen Recherche getroffen werden, baut das Projekt auf ein Fundament, das in Wahrheit nicht existiert. Das Modell hat nicht absichtlich gelogen. Es hat einfach den statistisch wahrscheinlichsten nächsten Satz berechnet.

Das zwingt uns dazu, jede Information aus dem System zu behandeln wie die Aussage eines Fremden auf der Straße. Wer alles blind übernimmt, übernimmt zwangsläufig auch die frei erfundenen Zwischenschritte, was eine vollkommen neue Art von Disziplin beim Lesen erfordert. Die Leichtigkeit, mit der die KI komplexe Themen zusammenfasst, verleitet extrem schnell dazu, die eigene Skepsis restlos auszuschalten.

Das ist der Preis, wenn man das Modell wie ein allwissendes Lexikon bedient. Wenn du die Technik sinnvoll in deinen Arbeitsalltag einbauen willst, musst du die ständige Kontrolle über diese Erfindungen etablieren. Verlagere deinen Fokus von blindem Vertrauen auf saubere Nachvollziehbarkeit.

Entwickler sind nicht immun

Eine einfache Figur zielt mit einer Taschenlampe auf ein Dokument, das auf einem Klemmbrett steckt — Eine Quelle ist nur so gut wie die eigene Bereitschaft, sie auch zu prüfen.

Auch Entwickler fallen regelmäßig auf die Maschine herein. In Agenturen nutzt man KI ständig, um neue Frameworks zu evaluieren oder unbekannte Architekturmuster zu entwerfen. Irgendwann kommt bei jedem Thema der Punkt, an dem die Konzepte nicht mehr vollständig selbst durchdrungen werden.

Der einfachste Hebel dagegen ist, das Modell zur Nachvollziehbarkeit zu zwingen. Man weist die KI an, für jede Behauptung den genauen Ursprung zu nennen.

{
  "model": "gpt-4",
  "messages": [
    {
      "role": "system",
      "content": "Beantworte die Frage ausschließlich anhand der übergebenen Quellen. Nenne für jeden Fakt die Quelle. Wenn die Antwort dort nicht steht, antworte wörtlich mit 'Nicht gefunden'."
    }
  ]
}

Das beseitigt die Halluzination nicht komplett, aber es verlagert das Problem enorm. Du musst der Maschine nicht mehr blind vertrauen, sondern nur noch die Quelle öffnen und den Absatz kurz lesen. Faktencheck ist absolute Pflicht. Sobald du dir den bloßen Link anzeigen lässt, ohne ihn jemals zu öffnen und den darin enthaltenen Text sorgfältig mit der generierten Antwort abzugleichen, bist du exakt wieder dort angekommen, wo die Reise ganz zu Beginn gestartet war. Dann glaubst du erneut dem Blender.

Der nützliche Wahnsinn

Drei unpassende Puzzleteile werden von einer mechanischen Halterung zusammengeschoben, darüber entsteht der Funke einer Idee — Was bei der Faktenrecherche stört, ist beim Brainstorming der größte Hebel.

Es gibt Aufgaben, bei denen exakte Fakten gar nicht das Ziel sind. Wenn nach neuen Assoziationen, kreativen Verknüpfungen oder abwegigen Lösungsansätzen gesucht wird, ist die Halluzination auf einmal erwünscht. Genau jene Eigenschaft, die bei der Recherche das Vertrauen zerstört, liefert beim Brainstorming die unkonventionellsten Ideen.

Technisch steuern Entwickler diesen Faktor über die Temperatur. Sie zwingen das Modell explizit dazu, den sicheren Pfad zu verlassen.

const response = await openai.chat.completions.create({
  model: "gpt-4",
  messages: [{ role: "user", content: "Finde unkonventionelle Lösungswege für das Caching-Problem..." }],
  temperature: 0.9
});

Bei einer Temperatur von 0.9 wird die Maschine garantiert Dinge erfinden. Aber letztendlich bewerten wir ein digitales Produkt danach, ob es für den Anwender funktioniert. Wenn der wilde, halluzinierte Ansatz uns auf die richtige Lösung bringt und das fertige Produkt dadurch besser wird, hat die Halluzination ihren Zweck erfüllt. Der souveräne Blender wird dann zum kreativen Sparringspartner.