Was ist eine KI-Halluzination? Ein Ratgeber in Klartext (2026)

Kurz gesagt. Eine KI-Halluzination ist, wenn ein KI-Modell etwas Falsches oder frei Erfundenes mit voller Überzeugung behauptet — ein erfundenes Gerichtsurteil, eine erfundene Statistik, ein erfundenes Zitat. Eine EBU/BBC-Studie fand 2025, dass 45 % der KI-Antworten zu Nachrichten mindestens ein ernstes Problem enthielten. Es passiert, weil Modelle Text vorhersagen — sie schlagen Fakten nicht nach.

Zuletzt geprüft: 6. Juli 2026. Wird vierteljährlich geprüft.

Im Juli 2025 rügte das Amtsgericht Köln einen Rechtsanwalt, der in einer Familiensache einen Schriftsatz eingereicht hatte, in dem ab Seite acht fast alles frei erfunden war. Die zitierten Urteile? Gab es nicht. Der Kommentar „Brons, Kindeswohl und Elternverantwortung, 2013"? Existierte nicht. Ein Autor wurde einem Münchener Kommentar zugeschrieben, obwohl er in Wahrheit einen ganz anderen Kommentar verfasst hatte, und es standen Randnummern drin, die es schlicht nicht gab. Das Gericht stellte trocken fest: „offenbar mittels künstlicher Intelligenz generiert und frei erfunden" — und sah darin einen Verstoß gegen die anwaltliche Sorgfaltspflicht (Az. 312 F 130/25). Dieser Fall ist inzwischen das deutsche Lehrbuchbeispiel für eine KI-Halluzination.

Eine KI-Halluzination ist, wenn ein KI-Modell Informationen erzeugt, die falsch, frei erfunden oder unbelegt sind, und sie so präsentiert, als wären sie wahr. Im Klartext: Die KI denkt sich selbstbewusst etwas aus. Das ist kein seltener Aussetzer und kein Zeichen dafür, dass das Werkzeug kaputt ist — es ist eine eingebaute Nebenwirkung davon, wie heutige Chatbots wie ChatGPT, Claude und Gemini Text überhaupt erzeugen. Dieser Ratgeber erklärt, was eine KI-Halluzination ist, warum sie passiert, wie sie in der Praxis aussieht und — den Teil lassen die meisten Erklärungen weg — wie du dich in deinem Beruf konkret dagegen wehrst.

KI-Halluzination, sauber definiert

Eine KI-Halluzination ist, wenn ein großes Sprachmodell eine Ausgabe produziert, die faktisch falsch oder komplett erfunden ist, dabei aber vollkommen selbstsicher und flüssig klingt. Der Begriff umfasst erfundene Fundstellen, erfundene Statistiken, erfundene Zitate, nicht existierende Produktfunktionen, falsche Daten und „Fakten" über Personen oder Ereignisse, die es nie gab. Die Ausgabe ist meist grammatikalisch sauber, plausibel und im selben autoritativen Ton geliefert, den das Modell auch benutzt, wenn es recht hat — und genau das macht eine KI-Halluzination so gefährlich.

Das Wort ist aus der Psychologie geborgt, wo eine Halluzination das Wahrnehmen von etwas ist, das nicht da ist. Bei KI trifft es das Wort Konfabulation oft besser: eine Lücke selbstbewusst mit einer flüssigen Erfindung zu füllen, statt „Ich weiß es nicht" zuzugeben. Die Wissenschaftlichen Dienste des Deutschen Bundestages beschreiben das Phänomen in einem Sachstandspapier nüchtern als strukturellen Bestandteil dieser Modelle — es entsteht nicht durch einen klassischen Fehler, sondern aus dem Funktionsprinzip selbst. Der Kern ist die Diskrepanz zwischen dem Selbstbewusstsein des Modells und seiner Genauigkeit. Ein Mensch, der unsicher ist, klingt normalerweise unsicher. Ein halluzinierendes Modell klingt exakt so überzeugt wie ein Modell, das richtig liegt.

Es hilft, die zwei Arten zu trennen, in denen eine KI-Halluzination auftaucht:

• Faktische Halluzination — die Ausgabe widerspricht der echten Welt. „Der Kölner Dom wurde 1848 fertiggestellt." (Es war 1880.)
• Treue-Halluzination (im Fachjargon faithfulness) — die Ausgabe widerspricht der Quelle, die du gegeben hast. Du fügst einen Vertrag ein, fragst nach der Kündigungsklausel, und das Modell fasst eine Klausel zusammen, die in deinem Dokument gar nicht steht.

Warum eine KI-Halluzination 2026 zählt

KI-Halluzinationen zählen, weil inzwischen hunderte Millionen Menschen KI für echte Arbeit nutzen — juristische Recherche, medizinische Fragen, Finanzanalysen, Marketingtexte — und die Fehlerquote ist noch weit von null entfernt. Die größte Untersuchung dazu kommt aus Europa: Die European Broadcasting Union (EBU) und die BBC ließen 2025 professionelle Journalistinnen über 3.000 Antworten von ChatGPT, Copilot, Gemini und Perplexity prüfen — quer über 18 Länder und mehrere Sprachen. Das Ergebnis: 45 % der Antworten hatten mindestens ein ernstes Problem, 31 % gravierende Quellenprobleme und 20 % größere Genauigkeitsfehler, darunter halluzinierte Details. Gemini schnitt am schlechtesten ab, mit Problemen in 76 % der Antworten. Die Kernaussage der Studie: KI-Assistenten sind „noch kein verlässlicher Weg, um Nachrichten zu konsumieren".

In Feldern mit hohem Einsatz sind die Zahlen schlimmer, und die Folgen sind real: Rügen, Klagen, verlorenes Vertrauen.

Die harten Daten, nach Bereich:

• Juristische Recherche: Eine Studie des Stanford RegLab / HAI („Large Legal Fictions", 2024) fand bei fact-spezifischen Rechtsfragen alarmierende Halluzinationsraten — je nach Modell zwischen rund 58 % und 88 %. Und selbst kommerzielle, angeblich „halluzinationsfreie" Recherche-Tools mit RAG-Technik halluzinierten in Folgestudien weiter, samt erfundener Fundstellen.
• Nachrichten und Quellen: die EBU/BBC-Studie mit ihren 45 % — konsistent über Sprachen und Länder hinweg, also nicht nur ein englisches Problem.
• Medizin: Fachbenchmarks (etwa Med-HALT) zeigen, dass selbst starke, instruktionsoptimierte Modelle in einem bedeutsamen Anteil der Fälle medizinisch falsche oder unbelegte Aussagen erzeugen — besonders bei seltenem Wissen. Für die Versorgung ein Bereich, den keine Fachkraft ignorieren kann.
• Allgemeinwissen: Auf Wissens-Benchmarks liefern Spitzenmodelle zwar mehr richtige Antworten als früher, raten aber, wenn sie unsicher sind, statt es zuzugeben — genau die Falle, in die der Kölner Anwalt getappt ist.

Die Lehre ist nicht „KI ist nutzlos". Die Lehre ist: Eine KI-Halluzination ist ein bekanntes, messbares Fehlermuster, um das man planen kann — und die Berufstätigen, die drumherum planen, kriegen den Nutzen ohne die Katastrophen.

Wie eine KI-Halluzination tatsächlich entsteht

Eine KI-Halluzination entsteht, weil ein Sprachmodell keine Fakten abruft — es sagt Text vorher. Wenn du eine Frage stellst, öffnet das Modell keine Datenbank und schlägt die Antwort nach. Es erzeugt eine Antwort Stück für Stück (Token für Token) und wählt jedes Mal das statistisch wahrscheinlichste nächste Wort auf Basis von allem davor. Es ist eine spektakulär gute Autovervollständigung. Sitzt die wahre Antwort in seinen Trainingsmustern, landet diese Vorhersage auf einem Fakt. Sitzt sie nicht drin, produziert dieselbe Mechanik eine selbstbewusste, flüssige Erfindung — weil unter der Haube kein separater „Weiß ich das eigentlich wirklich?"-Check mitläuft.

Hier der Ablauf im Klartext. Du fragst nach einer Quelle für eine Nischenbehauptung. Das Modell hat Millionen echter Fundstellen gesehen, kennt also die Form — Autor, Jahr, Zeitschrift, Seitenzahlen. Es erzeugt Text, der zu dieser Form passt. Das Ergebnis liest sich wie eine perfekte Referenz, aber dahinter steckt kein Dokument. Das Modell hat sich nie „entschieden zu lügen". Es hat genau das getan, was es immer tut: wahrscheinlich aussehenden Text produzieren.

Die tiefere Ursache ist nicht nur die Architektur — es sind die Anreize. In einem Aufsatz von 2025 mit dem Titel „Why Language Models Hallucinate" argumentieren OpenAI-Forscher, dass Halluzinationen natürliche statistische Fehler sind, die daraus entstehen, wie Modelle trainiert und — entscheidend — bewertet werden. Die meisten KI-Benchmarks benoten wie ein Multiple-Choice-Test: Punkte für eine richtige Antwort, null für eine leere. Unter dieser Bewertung schlägt Raten immer das Zugeben von Unsicherheit — Modelle werden also faktisch darauf trainiert, immer zu antworten, auch wenn die ehrliche Antwort „Ich weiß es nicht" wäre. Ein verwandtes Ergebnis aus der Forschung („Calibrated Language Models Must Hallucinate") zeigt sogar: Für eine ganze Klasse von Fakten, bei denen die Datenlage dünn ist, muss ein Modell, das antworten soll statt zu passen, mit einer Rate über null halluzinieren. Solange Benchmarks Bluffen belohnen, werden Modelle fürs Bluffen belohnt.

Deshalb schießt eine KI-Halluzination auch in vorhersehbaren Situationen nach oben: bei Fragen zu obskuren oder sehr aktuellen Themen (dünne Trainingsdaten), bei der Bitte um konkrete Zahlen, Daten oder Fundstellen (hohe Präzision, leicht zu fälschen) und in Gesprächen, die das Kontextfenster des Modells überlaufen lassen, sodass frühere Fakten rausfallen und neu erfunden werden.

Echte Beispiele für KI-Halluzinationen

Echte Beispiele machen das Abstrakte greifbar: ein erfundenes Gerichtsurteil, eine erfundene Firmenrichtlinie, eine nicht existierende Studie. Die lehrreichsten Fälle sind nicht die lustigen — es sind die, die echtes Geld und echten Ruf gekostet haben. Und Deutschland hat 2025 und 2026 gleich mehrere davon geliefert.

Der Kölner Fall ist der, den jede Berufstätige kennen sollte. Der Anwalt hat den KI-Text offenbar ungeprüft übernommen, und ab Seite acht kippte fast alles ins Erfundene. Das Gericht warnte ausdrücklich vor der Schädigung des Ansehens der Anwaltschaft und des Rechtsstaats. Die Fälle beim LG München I und OLG Hamm (beide 2026) ziehen die Gefahr in die Wirtschaft: Ein Unternehmen ist rechtlich verantwortlich für das, was seine KI Kundinnen und Kunden erzählt — auch wenn der Bot sich eine Richtlinie oder eine Verbindung schlicht ausdenkt.

Und die Community sieht das genauso pragmatisch. Auf X kursiert unter Berufstätigen der halb-genervte, halb-warnende Ton. Ein Nutzer berichtete, ChatGPT habe ihm nicht nur eine Quelle erfunden, sondern gleich noch einen kompletten Lebenslauf samt Foto für einen nicht existierenden Professor. Ein anderer, selbst Volljurist, fasste es so zusammen: „Jeder Anwalt, der mal ChatGPT hat Urteile recherchieren lassen, weiß, dass da mehr Halluzination passiert als beim Burning Man." Übertrieben? Vielleicht. Aber der Ton trifft die Stimmung ganz gut.

Was eine KI-Halluzination für deinen Beruf bedeutet

Das ist der Teil, der am meisten zählt, denn eine KI-Halluzination ist kein generisches Problem — sie zeigt sich in jedem Job anders, und die Verteidigung ist auch jedes Mal eine andere. Eine KI-Übersicht kann dir sagen, was Halluzination ist; sie kann dich nicht durch die konkrete Prüf-Gewohnheit führen, die eine Pflegekraft, ein Steuerberater oder eine Marketing-Managerin aufbauen muss. Unten stehen sechs Berufe, die genaue Art, wie Halluzination jeden trifft, und der konkrete Schritt, der schützt. Über alle hinweg gilt dasselbe Prinzip: KI entwirft, ein Mensch prüft — aber was du prüfst, hängt vom Fach ab.

Was das für Anwälte heißt

Für Anwältinnen und Anwälte ist eine KI-Halluzination ein berufsrechtliches Risiko, keine Produktivitätsmarotte. Jede erfundene Fundstelle sieht aus wie eine echte, und der Kölner Beschluss hat klargemacht: „Die KI war’s" ist keine Entschuldigung — die unterzeichnende Anwältin trägt die Verantwortung für jede Fundstelle im Schriftsatz. Die Verteidigung ist ein nicht verhandelbarer Prüfschritt: Jedes Urteil, jede Norm, jedes Zitat, das eine KI ausspuckt, wird in einer Primärquelle (der amtlichen Sammlung, der offiziellen Datenbank) nachgeschlagen und gelesen, bevor es überhaupt in die Nähe eines Schriftsatzes kommt. Nutz KI zum Formulieren von Argumenten und zum Zusammenfassen von Dokumenten, die du selbst lieferst; nie als Rechtsquelle.

Die ehrliche Grenze: KI kann Recherche und Entwürfe enorm beschleunigen, aber sie kann nicht die letzte Instanz dafür sein, was das Recht sagt. Dafür muss weiterhin ein Mensch die echten Urteile lesen.

Der nächste Schritt: Der Kurs KI für Anwälte zeigt sanktionsfeste Arbeitsabläufe, und unser Beitrag ChatGPT als Anwalt sicher nutzen geht die Fake-Fundstellen-Falle im Detail durch — mit dem Kölner Fall als Warnschuss.

Was das für Ärzte und Pflegekräfte heißt

Für Ärztinnen, Pflegekräfte und medizinische Fachangestellte ist eine KI-Halluzination eine Frage der Patientensicherheit, Punkt. Ein Modell, das eine Wechselwirkung, eine Dosierung oder eine Kontraindikation erfindet, kann direkten Schaden anrichten — und Fachbenchmarks zeigen, dass genau das in einem relevanten Anteil der Fälle passiert. Die Verteidigung ist harte Abgrenzung: KI ist zum Entwerfen und Strukturieren da — Doku, Patienten-Aufklärung in Klartext, Zusammenfassen von Material, das du lieferst — und nie für klinische Fakten, Dosen oder Wechselwirkungen, die immer aus einer freigegebenen klinischen Quelle kommen. Eine selbstbewusste Antwort aus einem Chatbot ist keine klinische Quelle.

Die ehrliche Grenze: KI spart bei Dokumentation und Kommunikation echt Zeit, aber keine klinische Entscheidung sollte je auf einer ungeprüften Modell-Ausgabe ruhen. Protokoll und Primärquellen gewinnen jedes Mal. Und ab August 2026 greifen ohnehin die Transparenzpflichten der EU-KI-Verordnung — KI-Interaktionen müssen als solche erkennbar sein.

Der nächste Schritt: Der Kurs KI für Pflegekräfte lehrt sichere Abläufe ohne Patientendaten, die KI in ihrer Spur halten.

Was das für Buchhalter und Steuerberater heißt

Für Buchhalterinnen und Steuerberater bedroht eine KI-Halluzination das Eine, worauf der Beruf gebaut ist: Zahlen, die man verteidigen kann. Ein Modell nennt selbstbewusst eine falsche Steuergrenze, erfindet eine Vorschrift oder „stimmt" Zahlen ab, die in Wahrheit nicht aufgehen — und das in flüssiger, professioneller Sprache. Die Verteidigung ist Quellen-Verankerung: Füg die echten Zahlen, die echte Vorschrift, den echten Bescheid ein und weise das Modell an, nur das zu benutzen, nie sein Allgemeinwissen. Dann verfolg jede Zahl, die es zurückgibt, zurück zu deinem Ausgangsdokument, bevor sie ein Mandats-Dokument berührt.

Die ehrliche Grenze: KI ist stark im Entwerfen von Erläuterungen, im Erklären von Konzepten und im Erkennen von Mustern in Daten, die du lieferst — aber sie ist kein System of Record und kann für die Richtigkeit einer Zahl nicht bürgen. Deine Abstimmung muss weiterhin auf die altmodische Art aufgehen.

Der nächste Schritt: Der Kurs KI für Buchhalter baut einen Arbeitsablauf mit eingebauter Prüfung, und unser Beitrag Mandant, falsche ChatGPT-Steuerauskunft zeigt genau, warum du KI nie eine Steuerauskunft erfinden lässt.

Was das für Marketing und Content-Teams heißt

Für Marketing-Leute ist eine KI-Halluzination ein Risiko für Markenglaubwürdigkeit und für rechtssichere Werbeaussagen. Ein Modell erfindet gern eine Statistik für deine Headline, schreibt ein Zitat einer Expertin zu, die es nie gesagt hat, oder erzeugt eine „klinisch belegte" Aussage, die du nicht untermauern kannst — und das zu veröffentlichen bedeutet im besten Fall eine Richtigstellung, im schlechtesten den Wettbewerbsverband oder eine Abmahnung. Die Verteidigung ist ein Claims-Check: Jede Statistik, jedes Zitat, jede Studie und jeder Superlativ in KI-entworfenem Text wird gegen eine echte Quelle geprüft, bevor er rausgeht — und was du nicht belegen kannst, fliegt raus.

Die ehrliche Grenze: KI ist eine fantastische Maschine für den ersten Entwurf und für Ideen, aber sie ist kein Faktenchecker und kennt deine Compliance-Regeln nicht. Ein Mensch trägt weiterhin die Verantwortung für jede veröffentlichte Aussage.

Der nächste Schritt: Der Kurs KI im Marketing und der Grundlagenkurs KI-Grundlagen zeigen Prompts, die die Ausgabe in deinem echten Material verankern, statt sie erfinden zu lassen.

Was das für Kleinunternehmer heißt

Für Selbstständige und kleine Unternehmen ist eine KI-Halluzination eine Haftung, die man vielleicht gar nicht auf dem Schirm hat — besonders, wenn ein Chatbot auf der Website sitzt. Die deutschen Urteile von 2026 (LG München I, OLG Hamm) haben festgezurrt: Ein Unternehmen ist verantwortlich für das, was seine KI Kundinnen erzählt, auch wenn der Bot sich eine Richtlinie ausdenkt. Die Verteidigung ist zweifach: Veranker jede kundenseitige KI in deinen echten Richtlinien und FAQ (nicht in ihrem Allgemeinwissen), und prüf alles, was eine KI dir über Verträge, Vorschriften oder rechtliche Bedeutung erzählt, persönlich nach, bevor du danach handelst.

Die ehrliche Grenze: KI kann viel von deinem Backoffice und deiner Kundenkommunikation übernehmen, aber sie kann für dich keinen Vertrag und kein Gesetz auslegen. Bei allem mit rechtlichem Gewicht muss weiterhin ein Mensch — oft ein Profi — bestätigen.

Der nächste Schritt: Der Kurs KI für kleine Unternehmen gibt jedem Selbstständigen das mentale Modell, um KI sicher einzusetzen, und Kritisches Denken mit KI trainiert genau den Reflex, KI-Ausgaben nicht blind zu glauben.

Was das für Lehrkräfte heißt

Für Lehrerinnen und Lehrer ist eine KI-Halluzination ein Glaubwürdigkeits- und ein didaktisches Problem zugleich. Ein Modell erfindet eine historische „Tatsache", zitiert ein Buch, das es nicht gibt, oder rechnet ein Beispiel falsch — und wenn das ungeprüft ins Arbeitsblatt wandert, lernen 25 Kinder etwas Falsches. Die Verteidigung: KI ist zum Strukturieren, Differenzieren und Formulieren da, und jeder Fakt, jede Jahreszahl und jede Quelle in KI-erstelltem Material wird gegengeprüft, bevor er in den Unterricht geht. Nebenbei lässt sich Halluzination sogar zum Lernthema machen — Schülerinnen beizubringen, KI-Ausgaben zu hinterfragen, ist Medienkompetenz pur.

Die ehrliche Grenze: KI nimmt dir bei Vorbereitung und Material echt Arbeit ab, aber die fachliche Richtigkeit verantwortest weiterhin du.

Der nächste Schritt: Der Kurs KI für Lehrkräfte zeigt geprüfte Abläufe für den Schulalltag.

Verbreitete Irrtümer über KI-Halluzinationen

Eine KI-Halluzination wird oft missverstanden, und genau die Missverständnisse bringen Leute in Schwierigkeiten. Die drei Überzeugungen unten klingen vernünftig, sind aber falsch — und jede Richtigstellung ist darin verankert, wie Modelle sich tatsächlich verhalten. Die geradezubiegen ist der Unterschied zwischen selbstbewusstem und leichtsinnigem KI-Einsatz.

„Neuere, schlauere Modelle halluzinieren doch nicht mehr."

Halb wahr — und die falsche Hälfte ist die gefährliche. Die Raten sind gesunken, keine Frage. Aber „schlauer" kann es in einer Hinsicht sogar schlimmer machen: Die fähigsten Modelle halluzinieren oft selbstbewusster und flüssiger, was die Fehler schwerer erkennbar macht. Ein besseres Modell ist ein besserer Blender, kein ehrlicheres. Verlass dich also nicht darauf, dass das nächste Update das Problem löst.

„Wenn ich nur einen besseren Prompt schreibe, hört es auf zu halluzinieren."

Größtenteils falsch. Gutes Prompten hilft — dem Modell sagen, dass es „Ich weiß es nicht" sagen darf, es auf gelieferte Dokumente beschränken, um wörtliche Zitate bitten — und genau das empfiehlt auch Anthropic. Aber Anthropic schreibt in der eigenen Doku genauso klar, dass diese Techniken Halluzinationen „nicht vollständig beseitigen". Kein Prompt macht aus einem Text-Vorhersager einen Faktenchecker. Prompten senkt die Rate; es macht das Prüfen nicht überflüssig.

„Halluzination heißt, die KI ist kaputt oder lügt."

Auf beiden Ebenen falsch. Das Modell tut genau das, wofür es gebaut wurde — wahrscheinlichen Text vorhersagen — und es hat keine Absicht, kann also nicht lügen. Wie OpenAIs Forschung von 2025 es rahmt: Halluzination ist eine statistische Eigenschaft des Systems, kein Defekt. Das ist eigentlich eine gute Nachricht: Ein vorhersehbares, messbares Fehlermuster ist eines, um das man Verteidigungen bauen kann — und genau darum geht es, KI als fähigen Entwerfer zu behandeln statt als Orakel.

Verwandte Konzepte

Eine KI-Halluzination steht nicht für sich allein — sie hängt mit einem ganzen Bündel an Ideen zusammen, über die jede KI-Nutzerin irgendwann stolpert. Manche erklären, warum Halluzination passiert, manche beschreiben Situationen, die sie verschlimmern, und manche sind die strukturellen Verteidigungen, die die Rate senken. Weil dies die erste Seite unseres deutschen KI-Glossars ist, verlinken wir hier vorerst auf passende Beiträge — die weiteren Glossar-Begriffe kommen Stück für Stück dazu.

• Konsistente KI-Ergebnisse — warum dieselbe Frage mal so, mal so beantwortet wird, und was das Kontextfenster damit zu tun hat
• Von KI geschrieben? So erkennst du es — die Kehrseite: erkennen, wann ein Text aus der Maschine kommt
• ChatGPT vs. Claude vs. Gemini — welches Modell wann halluziniert, im ehrlichen Vergleich
• Prompt Engineering — der Kurs, der dir Prompts beibringt, die Ausgaben in echten Quellen verankern

Das Fazit

Eine KI-Halluzination ist kein Bug, den das nächste Modell behebt — es ist der Preis dafür, ein Werkzeug zu nutzen, das Text vorhersagt, statt Fakten nachzuschlagen. Die Berufstätigen, die 2026 mit KI gewinnen, sind nicht die, die ein halluzinationsfreies Modell gefunden haben; es sind die, die jede KI-Ausgabe als selbstbewussten Entwurf einer brillanten Praktikantin behandeln, die sich manchmal was ausdenkt. Nutz KI zum Entwerfen, Strukturieren und Beschleunigen. Prüf jeden Fakt, jede Zahl, jedes Zitat und jede Fundstelle selbst. Diese eine Gewohnheit trennt die, die gerügt werden, von denen, die vorankommen. Oder, wie man’s in deutschen Communitys hört: lieber zehn Minuten mehr prüfen als eine Blamage vor Gericht, Kunden oder Patienten.

Siehe auch

Wenn du bei KI-Halluzinationen tiefer einsteigen willst — und lernen, wie du dich in deinem konkreten Beruf wehrst — sind die Kurse und Beiträge unten die naheliegenden nächsten Schritte.

Kurse zu KI-Zuverlässigkeit und deinem Beruf

• KI-Grundlagen — das mentale Modell, um KI von Tag eins an sicher zu nutzen
• Prompt Engineering — Prompts, die die Ausgabe in deinem echten Material verankern
• KI für Anwälte — sanktionsfester KI-Einsatz, von vorn bis hinten
• KI für Buchhalter — ein Arbeitsablauf, der jede Zahl zurückverfolgt
• KI für Pflegekräfte — sichere Doku ohne Patientendaten
• KI im Marketing — Aussagen belegen, statt sie erfinden zu lassen
• KI für kleine Unternehmen — das Fundament, um KI im Betrieb sicher einzusetzen
• KI für Lehrkräfte — geprüfte Abläufe für den Schulalltag
• Kritisches Denken mit KI — den Reflex trainieren, Ausgaben nicht blind zu glauben

Passende Blog-Beiträge

• ChatGPT als Anwalt sicher nutzen — die Fake-Fundstellen-Falle, im Detail
• Mandant, falsche ChatGPT-Steuerauskunft — nie eine Steuerauskunft erfinden lassen
• Konsistente KI-Ergebnisse — warum dieselbe Frage verschiedene Antworten liefert
• Von KI geschrieben? So erkennst du es — die Kehrseite der Halluzination

Passende Skills (Prompt-Vorlagen)

• Kritisches-Denken-Navigator — Behauptungen strukturiert hinterfragen statt glauben
• Recherche-Assistent — mit Quellenprüfung recherchieren

Häufige Fragen

Was ist eine KI-Halluzination einfach erklärt? Eine KI-Halluzination ist, wenn ein KI-Modell sich etwas ausdenkt und es als Fakt hinstellt. Es erfindet vielleicht eine Studie, zitiert ein Gerichtsurteil, das es nie gab, oder nennt eine Zahl, die aus dem Nichts kommt. Das Modell lügt nicht absichtlich und ist auch nicht kaputt. Es erzeugt Text, indem es die wahrscheinlichsten nächsten Wörter vorhersagt — kennt es die Antwort also nicht, produziert es oft eine selbstbewusste, flüssige, plausibel klingende Vermutung, statt die Lücke zuzugeben.

Warum halluziniert KI? KI-Halluzinationen entstehen dadurch, wie Sprachmodelle funktionieren und wie sie bewertet werden. Ein Modell schlägt Fakten nicht in einer Datenbank nach — es sagt Text Token für Token anhand von Mustern vorher. OpenAIs Aufsatz „Why Language Models Hallucinate" (2025) argumentiert, die tiefere Ursache sei ein Training und eine Bewertung, die das Raten belohnen statt das Zugeben von Unsicherheit — so wie ein Multiple-Choice-Test eine Vermutung höher bewertet als eine leere Antwort. Modelle lernen dadurch, immer eine Antwort zu liefern, notfalls eben eine erfundene.

Kann man KI-Halluzinationen abstellen? Man kann KI-Halluzinationen stark reduzieren, aber nicht vollständig beseitigen. Ein Modell in echten Dokumenten zu verankern (Retrieval) senkt die Halluzinationsrate deutlich, und dem Modell ausdrücklich zu erlauben, „Ich weiß es nicht" zu sagen, hilft ebenfalls. Anthropic schreibt in der eigenen Doku aber klar, dass diese Techniken Halluzinationen „nicht vollständig beseitigen". Bis dahin braucht jede wichtige KI-Ausgabe einen Menschen, der die Fakten prüft.

Wie bringe ich ChatGPT dazu, nicht mehr zu halluzinieren? Ganz abstellen kannst du es nicht, aber deutlich eindämmen. Sag ChatGPT, dass es „Ich weiß es nicht" sagen soll, wenn es unsicher ist. Füg das Quellmaterial ein und weise es an, nur das zu benutzen, nicht sein Allgemeinwissen. Lass es die genaue Stelle zitieren, die jede Aussage belegt. Und vertrau keinem Zitat, keiner Statistik und keinem Urteil, das es liefert, ohne die Originalquelle selbst zu prüfen — dieser letzte Schritt ist bei allem Wichtigen nicht verhandelbar.

Warum erfindet KI Quellen und Fundstellen? KI erfindet Quellen, weil eine Fundstelle bloß ein Textmuster ist — Autor, Jahr, Titel, Aktenzeichen — und das Modell im Erzeugen passender Muster richtig gut ist. Es hat Millionen echter Fundstellen gesehen und kann deshalb eine produzieren, die völlig echt aussieht, ohne dass ein reales Dokument dahintersteht. Genau deshalb hat das Amtsgericht Köln 2025 einen Anwalt gerügt, dessen Schriftsatz voller Urteile und Kommentarstellen stand, die es nie gab.

Quellen

1. beck-aktuell, „AG Köln: KI-Schriftsatz, Anwalt, Halluzinationen, Berufsrecht (Az. 312 F 130/25)", abgerufen am 06.07.2026. https://www.beck-aktuell.de/rechtsbranche/anwaltschaft/ag-koeln-312f13025-ki-schriftsatz-anwalt-halluzinationen-berufsrecht-2025-07-08
2. Legal Tribune Online, „AG Köln, Familiengericht, 312 F 130/25 — Schriftsatz mit KI-Fehlern, Berufspflichten", abgerufen am 06.07.2026. https://www.lto.de/recht/juristen/b/ag-koeln-familiengericht-312f130-25-schriftsatz-ki-anwalt-berufspflichten
3. Library of Congress, „Germany: Court Rules Chatbot Operators Are Liable for AI Hallucinations", abgerufen am 06.07.2026. https://www.loc.gov/item/global-legal-monitor/2026-06-09/germany-court-rules-chatbot-operators-are-liable-for-ai-hallucinations/
4. European Broadcasting Union, „Largest study of its kind shows AI assistants misrepresent news content 45% of the time", abgerufen am 06.07.2026. https://www.ebu.ch/news/2025/10/ai-s-systemic-distortion-of-news-is-consistent-across-languages-and-territories-international-study-by-public-service-broadcaste
5. heise online, „European Broadcasting Union: AI Systems Often Misrepresent News Content", abgerufen am 06.07.2026. https://www.heise.de/en/news/European-Broadcasting-Union-AI-Systems-Often-Misrepresent-News-Content-10798062.html
6. Wissenschaftliche Dienste des Deutschen Bundestages, „Bias und Halluzinationen von KI-Systemen" (WD 5 - 082/25), abgerufen am 06.07.2026. https://www.bundestag.de/resource/blob/1146086/WD-5-082-25.pdf
7. OpenAI, „Why Language Models Hallucinate", abgerufen am 06.07.2026. https://openai.com/index/why-language-models-hallucinate/
8. Anthropic, „Reduce hallucinations" (Claude-Doku), abgerufen am 06.07.2026. https://docs.claude.com/en/docs/test-and-evaluate/strengthen-guardrails/reduce-hallucinations
9. Stanford RegLab / HAI, „Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models" (arXiv 2401.01301), abgerufen am 06.07.2026. https://arxiv.org/abs/2401.01301
10. anwalt.de, „KI-Inhalte: Neue Transparenzpflichten durch EU AI Act", abgerufen am 06.07.2026. https://www.anwalt.de/rechtstipps/ki-inhalte-neue-transparenzpflichten-durch-eu-ai-act-269265.html
11. Wikipedia, „Halluzination (Künstliche Intelligenz)", abgerufen am 06.07.2026. https://de.wikipedia.org/wiki/Halluzination_(K%C3%BCnstliche_Intelligenz)