Halluzinationen bei KI: Wie man sie in der Praxis reduziert

Was ist eine KI-Halluzination, und lassen sie sich beseitigen?

Eine KI-Halluzination ist eine falsche Antwort, die ein Sprachmodell selbstsicher formuliert und die eine Tatsache, eine Quelle oder eine Zahl erfindet [34]. Meist signalisiert nichts im Tonfall den Fehler. Manche Definitionen sind weiter gefasst: Sie umfassen jedes unrichtige, irreführende oder inkohärente Ergebnis [37] oder jede falsche Information, die ein generatives KI-Modell erzeugt [18].

Lassen sie sich beseitigen?

Nein: Bis heute ist eine vollständige Beseitigung nicht möglich [33]. Mehrere Punkte sprechen dafür:

• Ein theoretischer Befund. Laut einem Artikel von Monde Numérique kommen theoretische Arbeiten zu dem Schluss, dass diese Halluzinationen unvermeidbar sind und sich unabhängig von Architektur oder Trainingsdaten nicht vollständig eliminieren lassen [40].
• Eine Ursache in der Funktionsweise. Die Fähigkeit, die Modelle erfinderisch macht, führt auch manchmal zu einer Vermischung von Fakten und Erfindungen. Es handelt sich deshalb nicht um bloße Bugs [24].
• Keine einzelne Technik reicht aus. Laut Databricks, einem Anbieter von Datenplattformen, beseitigt keine einzelne Technik die Halluzinationen [31].

Was kann man stattdessen tun?

Man kann sie stark reduzieren [40]. Dafür sorgt ein Bündel aus Schutzmaßnahmen statt einer einzigen Lösung: solide Datenpraktiken, klare Systemgrenzen, kontinuierliches Testen und menschliche Aufsicht [31]. Ein anderer Leitfaden nennt sieben Techniken: RAG (retrieval-augmented generation, also Generierung mit Abruf), erzwungene Quellenangaben, das Prompt „laut X“, die Zerlegung von Fragen, eine niedrige Temperatur, Chain-of-Verification und die menschliche Validierung. Er stellt klar, dass keine dieser Techniken das Risiko vollständig beseitigt und dass die menschliche Überprüfung notwendig bleibt [32].

Die folgenden Abschnitte beschreiben diese Schutzmaßnahmen, von der Vorbereitung der Frage bis zur Überprüfung der Antwort.

Warum erfindet eine KI Antworten?

Eine KI erfindet, weil sie plausiblen Text erzeugt, statt Fakten zu prüfen, und mehrere Faktoren erhöhen dieses Risiko. Fünf typische Ursachen sind dokumentiert: fehlender Kontext, veraltete Daten, unscharfe Prompts, Trainingsverzerrungen und übermäßiges Vertrauen des Modells [16].

Auch die Daten spielen eine Rolle: Halluzinationen treten auf, wenn der KI strukturierte, verlässliche und verwertbare Daten fehlen [21]. Ein Leitfaden für IT-Leiter weist darauf hin, dass ein widersprüchliches oder veraltetes Dokument, das als Quelle dient, eine nahezu sichere Fehlerursache ist, da die Antwort nicht besser sein kann als die Qualität dessen, was man ihr vorgibt [28].

Warum Erfindungsreichtum und Fehler zusammenhängen

Halluzinationen sind keine bloßen Bugs. Die Fähigkeit, die Modelle erfinderisch macht, ist dieselbe, die gelegentlich eine Vermischung von Fakten und Erfindungen hervorruft [24]. Diese Feststellung betrifft weit verbreitete Werkzeuge, darunter ChatGPT und Gemini [24]. Die Behebung einer einzelnen der oben genannten Ursachen reicht daher nicht aus, um das Phänomen verschwinden zu lassen.

Ein Vorbehalt zu diesen Quellen

Diese Ursachen stammen überwiegend aus Webseiten, die oft von Akteuren verfasst wurden, die eigene Lösungen anbieten, und nicht aus von Fachkollegen begutachteten Studien. Sie beschreiben häufig genannte Faktoren, ohne deren Gewicht zu messen.

Wie lassen sich Halluzinationen schon vor der Frage verringern?

Vier Hebel wirken im Vorfeld, vom wirksamsten zum einfachsten: das Modell in Ihren Dokumenten verankern, die Quellen pflegen, den Prompt strukturieren, die Temperatur senken. Sie verringern das Risiko, ohne es zu beseitigen: Keine einzelne Technik eliminiert Halluzinationen [31][32].

Das Modell in Ihren Dokumenten verankern (RAG). Am wirksamsten ist es, den Spielraum der KI zum „Raten“ zu begrenzen, indem Sie Ihre eigenen Dokumente als Grundlage bereitstellen [13]. RAG (retrieval-augmented generation, also Generierung mit Abruf) verbindet das Modell mit verlässlichen Quellen, bevor es seine Antwort erzeugt [30]. Die Technik gehört zu den von mehreren Leitfäden empfohlenen Verfahren [10][11][25][32]. Eine Fachseite geht davon aus, dass sich der Anteil sachlicher Fehler bei gut konfiguriertem RAG typischerweise zwischen 1 % und 3 % bewegen würde [28]. Diesen Wert übernimmt sie aus einem Drittartikel, ohne ihn selbst gemessen zu haben: Er ist ein Anhaltspunkt, keine Garantie.

Qualität und Aktualität der Quellen pflegen. Ein widersprüchliches oder veraltetes Dokument ist eine nahezu sichere Quelle für Halluzinationen, und die Antwort kann nicht besser sein als das, was man ihr liefert [28]. Strukturierte, verlässliche und verwertbare Daten begrenzen Fehler [21].

Den Prompt strukturieren. Ein gut aufgebauter Prompt senkt die Risiken [30]. Genannt werden schrittweises Denken, der Prompt „laut X“ und die Zerlegung der Frage in Teilfragen [32]. Eine Anweisung kann so etwa verlangen, Schritt für Schritt zu überlegen und verlässliche Quellen zu bevorzugen [39]. Prompts, die Unsicherheit berücksichtigen, zählen ebenfalls zu den vorgeschlagenen Ansätzen [23].

Die Temperatur senken, wenn das Werkzeug es erlaubt. Bei API-Zugriff verringert eine Temperatur von 0,1 bis 0,3 kreative Antworten und damit Halluzinationen [27]. Diese Einstellung gilt als Grundlage der Minderungsstrategien [11]. Viele Chat-Oberflächen legen sie nicht offen.

Warum nach zitierten Quellen fragen, und was sind sie wert?

Zitierte Quellen machen eine KI-Antwort überprüfbar: Statt einer Behauptung, die man glauben muss, erhält man Elemente, die man am Original gegenprüfen kann. Bei Anwendungen, in denen sachliche Genauigkeit entscheidend ist, lässt sich das Modell zwingen, seine Quellen präzise anzugeben: Dokumentname, Seite, URL [10]. Erzwungene Quellenangaben gehören zu den sieben praktischen Techniken gegen Halluzinationen [32]. Die für eine Antwort verwendeten Quellen anzuzeigen, ist außerdem eine einfache Praxis, die das Vertrauen stärkt [28].

Eine zitierte Quelle ist keine überprüfte Quelle

Auch ein Zitat kann erfunden sein: Ein Modell kann eine Tatsache, eine Zahl oder eine Referenz fabrizieren [34]. Laut einer Quelle sollen 30 % der von Chatbots erzeugten Zitate halluziniert sein [32]. Deshalb sollten Sie jeden Link und jede genannte Referenz öffnen, denn dort finden sich erfundene Quellen [38]. Konkret heißt das:

• prüfen, ob der Link funktioniert und zum angekündigten Dokument führt;
• den genauen Titel einer Studie oder eines Artikels suchen und bei wissenschaftlichen Publikationen auf Google Scholar oder Semantic Scholar kontrollieren [32];
• die betreffende Passage lesen, um zu bestätigen, dass sie tatsächlich sagt, was die Antwort ihr zuschreibt;
• riskante Fakten mit einer verlässlichen Primärquelle abgleichen [38].

Auch mit Zitaten beseitigt keine Lösung Halluzinationen vollständig: Die menschliche Überprüfung bleibt notwendig [32].

Ein Grundsatz, der für alle Werkzeuge gilt

Oupi nennt in der Tiefenrecherche seine Quellen, was diese Kontrolle erleichtert (siehe den Chat mit Dokumenten und die Recherche). Doch die Anforderung gilt für jedes Werkzeug: Fordern Sie Referenzen an und prüfen Sie diese einzeln.

Wie überprüft man eine KI-Antwort Schritt für Schritt?

Die Methode umfasst vier Handgriffe: riskante Fakten erkennen, sie mit einer Primärquelle abgleichen, jeden zitierten Link öffnen und schließlich vor jeder Veröffentlichung manuell validieren. Sie gilt für jedes Werkzeug, denn eine Halluzination kann eine Tatsache, eine Quelle oder eine Zahl betreffen [34].

1. Riskante Fakten erkennen. Je präziser eine Information ist (Datum, Zahl, Zitat), desto stärker muss sie überprüft werden [27]. Markieren Sie diese Elemente in der Antwort, bevor Sie sie übernehmen.
2. Mit einer Primärquelle abgleichen. Vergleichen Sie jeden riskanten Fakt mit einer verlässlichen Primärquelle: amtlicher Text, Institution, Forschungspublikation [38]. Menschliche Prüfer, die Ergebnisse mit verlässlichen Quellen vergleichen, können Fehler so erkennen und korrigieren [26].
3. Jeden Link und jede Referenz öffnen. Genau dort stecken erfundene Quellen [38]. Wenn ein Link ins Leere führt oder die Behauptung nicht bestätigt, verwerfen Sie sie.
4. Den genauen Titel einer zitierten Quelle suchen. Kopieren Sie ihn in eine Suchmaschine: Existiert er nicht, handelt es sich um eine Halluzination [27].

Veröffentlichen Sie nach diesen Prüfungen niemals eine Zahl oder ein Zitat ohne manuelle Kontrolle [27]. Keine Technik beseitigt Halluzinationen vollständig, und die menschliche Überprüfung bleibt notwendig [32].

Diese Methode geht schneller, wenn das Werkzeug Quellen liefert. In der Tiefenrecherche nennt Oupi seine eigenen Quellen, sodass Sie Links öffnen und Referenzen kontrollieren können (siehe die Recherche in Ihren Dokumenten). Diese Angaben bleiben ein Ausgangspunkt: Erst das Öffnen der Quelle bestätigt die Antwort.

Wie organisiert man die Verlässlichkeit von KI in einem Team?

Im Team gilt eine einfache Grundregel: Die KI schreibt einen Entwurf, der Mensch prüft, korrigiert und zeichnet verantwortlich. Jeder Inhalt, der das Unternehmen verlässt (Kundenmail, Bericht, Angebot, Veröffentlichung), muss von einer kompetenten Person gegengelesen werden [13].

Mehrere Schutzschichten übereinanderlegen. Keine einzelne Technik beseitigt Halluzinationen. Man muss gute Datenpraktiken, klare Systemgrenzen, kontinuierliche Tests und menschliche Aufsicht kombinieren [31]. Vorbeugen ist besser als nachträglich erkennen, mit mehreren Verteidigungsebenen für Daten, Modelle und Governance [12]. Das Feedback der Prüfer dient anschließend dazu, Prompts, Dokumentenabruf und interne Richtlinien zu verfeinern. Dieser Kreislauf senkt die Fehlerquote mit der Zeit [12]. Auf der Werkzeugseite heißt das: verlässliche Plattformen wählen, RAG einsetzen, präzise Anweisungen formulieren und menschliche Aufsicht vorsehen [25].

Anwender schulen und ausstatten. Zur Abwehr im Unternehmen gehört, die Teams zu schulen, eine erfundene Antwort zu erkennen [34]. Für fachliche Dokumentation empfiehlt eine wissenschaftliche Quelle, Regeln guter Praxis einzuführen und die Anwender zu sensibilisieren [5]. Eine andere veröffentlicht Empfehlungen für den sicheren und kritischen Einsatz generativer KI [1].

Kritisches Denken pflegen. Laut einer Forschungsarbeit lässt sich kritisches Denken nicht verordnen: Es erfordert eine bewusste Übung [9]. In der Praxis bedeutet das, die Überprüfung zu einer regelmäßigen Routine zu machen und nicht zu einer Ausnahmekontrolle.

Hinweis zu den Quellen: Die verfügbaren Auszüge von [1], [5] und [9] sind kurz und gekürzt; sie geben Orientierung statt einer vollständigen Methode. Die übrigen Referenzen stammen von Verlags- und Dienstleisterseiten, die an diesen Themen ein kommerzielles Interesse haben.