KI-Halluzinationen: Wenn eine Antwort Ihr Unternehmen falsch beschreibt

Was sind KI-Halluzinationen – und was wissen Sie damit noch nicht?

Eine Antwort kann grammatisch sauber und sehr bestimmt formuliert sein, obwohl eine Aussage nicht stimmt. Das NIST-Profil für generative KI behandelt solche falschen oder irreführenden Ausgaben unter dem Begriff Confabulation. Eine überzeugende Formulierung ersetzt keinen Beleg.

Für Ihre Website-Arbeit genügt es zunächst, die Aussage prüfbar zu machen. „Die KI liegt falsch“ ist zu allgemein. „Die Antwort nennt unbegrenzte Projekte, während die aktuelle Produktseite ein bestimmtes Projektlimit nennt“ ist ein nachvollziehbarer Befund.

Behaupten Sie nicht vorschnell, eine falsche Information stehe im Modelltraining oder sei allein durch Ihre Website verursacht worden. Vielleicht wurde eine alte Drittseite verwendet, vielleicht ein gleichnamiger Anbieter verwechselt, vielleicht fehlt Ihnen die relevante Quelle. Ohne entsprechenden Nachweis bleibt die Erklärung offen.

Drei Beispiele, die unterschiedliche Prüfungen brauchen

Alle folgenden Fälle sind erfundene Erklärbeispiele, keine beobachteten Nalqerio-Antworten. Sie zeigen, warum eine einzige Kategorie für alle Fehler zu grob wäre.

Der erste Fall kann eine unbelegte Erzeugung sein. Im zweiten Fall ist eine veraltete Quelle sichtbar. Im dritten geht es um Zuordnung. Diese Einordnung ist bereits hilfreicher als ein gemeinsamer „Halluzinationsscore“. Der Entity-SEO-Leitfaden vertieft Namensverwechslungen; Grounding behandelt die Verbindung zwischen Aussage und Quelle.

Was sollten Sie bei einer falschen Antwort festhalten?

Speichern Sie zuerst den unveränderten Wortlaut. Notieren Sie Frage, Sprache, System, Zeitpunkt und die verfügbaren Quellenlinks. Wenn Sie nur eine Zusammenfassung aufschreiben, kann später unklar sein, welche Einschränkung oder welcher Nebensatz ursprünglich enthalten war.

Ergänzen Sie daneben die eigene maßgebliche Referenz: konkrete URL, relevante Passage und Stand der Information. Beurteilen Sie die Aussage als bestätigt, widersprochen oder derzeit unklar. Ein fehlender Quellenlink bedeutet nicht automatisch, dass Sie die Ursache kennen.

Ihre Befundnotiz könnte so aussehen: „Die Antwort behauptet X. Die Produktdokumentation Y beschreibt für den genannten Tarif Z. Quelle A stützt X nicht; eine weitere Quelle liegt nicht vor.“ Halten Sie eine Vermutung ausdrücklich im Feld „mögliche Erklärung“ fest.

Eine Markennennung und ihre inhaltliche Richtigkeit sind verschiedene Beobachtungen. Zählen Sie eine Nennung deshalb nicht automatisch als Empfehlung. Der Reporting-Leitfaden hilft, solche Grenzen im Bericht verständlich zu erklären.

Wie prüfen Sie die angegebene Quelle?

Öffnen Sie den tatsächlich angezeigten Link. Suchen Sie die betreffende Passage und lesen Sie ihren Zusammenhang. Gehört sie zum richtigen Produkt, Tarif, Land und Zeitpunkt? Eine Quelle über eine frühere Version kann historisch korrekt sein und trotzdem eine aktuelle Kaufentscheidung falsch unterstützen.

Fehlt die Aussage auf der Zielseite, notieren Sie das. Ein Link auf dieselbe Domain ist kein Ersatz für eine tragende Passage. Ebenso dürfen Sie eine Quelle, die nur einen allgemeinen Begriff erklärt, nicht als Beleg für Ihre konkrete Funktion behandeln.

Wenn eine fremde Seite nachweislich veraltet ist, halten Sie die genaue Fundstelle und den aktuellen Originalbeleg bereit. Die weitere Klärung mit dem Herausgeber ist ein eigener Vorgang. Sie ist weder eine automatische Nalqerio-Funktion noch eine Garantie, dass das Suchsystem anschließend anders antwortet.

Prüfen Sie auch Ihre eigenen Altseiten. Die Anleitung zu Inhaltsinventar und Aktualisierung hilft, widersprüchliche Angaben innerhalb der Website zu finden.

KI-Halluzinationen vermeiden: Was können Websitebetreiber beeinflussen?

Sie können nicht jede Ausgabe eines fremden Systems kontrollieren. Beeinflussbar sind dagegen die Informationen, für die Sie selbst verantwortlich sind. Beschreiben Sie Produktnamen, Leistungsumfang, Voraussetzungen und Grenzen eindeutig auf den zuständigen öffentlichen Seiten.

Platzieren Sie eine wichtige Einschränkung direkt neben der Aussage, die sie begrenzt. „Unbegrenzt“ ohne den tatsächlich geltenden Gegenstand ist besonders missverständlich. Pflegen Sie widersprüchliche frühere Fassungen und verlinken Sie die aktuelle Referenz aus passenden Hilfetexten.

Bei einem eigenen KI-Arbeitsablauf helfen Originalquellen und eine fachliche Prüfung vor der Weitergabe. Auch abgerufene Quellen machen die erzeugte Antwort nicht automatisch richtig. Rechnen Sie damit, dass ein Ergebnis unklar bleibt, und geben Sie es nicht als gesicherten Fakt aus.

Der Briefing-Leitfaden macht den Belegbedarf vor dem Schreiben sichtbar. Klare Antwortabschnitte helfen beim Formulieren. Beide Maßnahmen verbessern die Nachvollziehbarkeit, versprechen aber keine fehlerfreie KI-Ausgabe.

Nach einer Änderung: denselben Befund erneut prüfen

Dokumentieren Sie die tatsächliche Änderung und den veröffentlichten Stand. Prüfen Sie später unter vergleichbaren Bedingungen erneut. Halten Sie die ursprüngliche Frage dabei möglichst konstant; eine andere Frage mit einem freundlicheren Ergebnis belegt keine Korrektur des ersten Falls.

Ein später korrektes Ergebnis beweist umgekehrt nicht sicher, dass gerade Ihre Änderung die Ursache war. Antwortsysteme, abgerufene Informationen und Verfügbarkeit können sich ebenfalls verändert haben. Schreiben Sie deshalb zunächst: „Bei dieser Nachprüfung wurde die Angabe korrekt wiedergegeben.“

Nalqerio kann ausgewählte autorisierte API-Antworten und verfügbare Quellen in einem Projekt dokumentieren. Die Originalantwort bleibt wichtig für Ihre eigene Prüfung; das Tool ist kein hier zugesagter automatischer Faktenprüfer und korrigiert keine fremden KI-Systeme. Sehen Sie sich die Produktbereiche und die Messanleitung an, bevor Sie daraus einen eigenen Kontrollablauf bauen.