6 min read
Sie bitten ChatGPT, einen kurzen Blogbeitrag über die Pflege von Lederstiefeln für Ihre Schuhreparaturwerkstatt zu schreiben. Der Text kommt geschliffen und selbstbewusst zurück, inklusive einer ordentlichen Statistik: „Laut einer Branchenstudie aus dem Jahr 2023 werden 68 % aller Stiefelschäden durch falsches Trocknen verursacht.“ Klingt großartig. Fast hätten Sie auf Veröffentlichen geklickt. Dann fragt eine leise Stimme: Welche Studie?
Gut möglich, dass es diese Studie gar nicht gibt. Wenn ein KI-Tool etwas behauptet, das wahr klingt, aber erfunden ist, nennt man das eine KI-Halluzination, und sie zu erkennen ist eine der wertvollsten Fähigkeiten, die sich Inhaber kleiner Unternehmen aneignen können. Die gute Nachricht: Dafür braucht es keinerlei technisches Wissen. Dieser Einsteigerleitfaden erklärt, was Halluzinationen sind, warum sie entstehen, wo sie echten Schaden anrichten und mit welcher einfachen Fünf-Minuten-Routine Sie sie abfangen.
Was eine KI-Halluzination eigentlich ist
Eine KI-Halluzination ist eine Antwort, die als Tatsache präsentiert wird, aber falsch oder erfunden ist. Das kann eine falsche Statistik sein, ein Zitat, das niemand gesagt hat, ein Buch, das nie geschrieben wurde, ein Gesetz, das nicht besagt, was die KI behauptet, oder eine Produktfunktion, die es nicht gibt. Das Tückische daran: Halluzinationen sehen genauso aus wie richtige Antworten. Derselbe selbstsichere Ton, dieselbe saubere Formatierung.
Der Begriff ist in der ganzen Branche verbreitet; der Wikipedia-Eintrag zur KI-Halluzination bietet einen guten, verständlichen Überblick, falls Sie Hintergrund möchten. Die Definition müssen Sie nicht auswendig lernen. Merken Sie sich nur eines: Eine KI-Antwort kann flüssig und gleichzeitig falsch sein.
Warum KI-Tools Dinge erfinden
Chat-Tools wie ChatGPT, Claude und Gemini basieren auf sogenannten großen Sprachmodellen, dem Fachbegriff für Software, die mit riesigen Textmengen trainiert wurde, um vorherzusagen, welche Wörter als Nächstes kommen. Sie sind extrem gut darin, Text zu erzeugen, der richtig klingt. Fakten schlagen sie nicht in einer verlässlichen Datenbank nach, es sei denn, sie durchsuchen gezielt das Web oder lesen ein Dokument, das Sie ihnen gegeben haben.
OpenAI hat einen Teil der Gründe in seinem Beitrag darüber erklärt, warum Sprachmodelle halluzinieren: Die Art, wie diese Modelle trainiert und getestet werden, belohnt eher eine selbstbewusste Vermutung als ein ehrliches „Ich weiß es nicht“. Wenn das Modell also keine solide Antwort hat, füllt es die Lücke oft mit etwas Plausiblem.
Neuere Modelle halluzinieren weniger als ältere, und Tools, die im Web suchen oder mit Ihren eigenen Dokumenten arbeiten, sind besser in Fakten verankert. Aber kein aktuelles KI-Tool ist frei von Halluzinationen, und das wird wohl noch eine Weile so bleiben.
Wo Halluzinationen kleinen Unternehmen am meisten schaden
Eine erfundene Tatsache beim Brainstorming kostet Sie nichts. Eine erfundene Tatsache, die bei einem Kunden landet, kann Sie Geld und Vertrauen kosten. Das sind die Gefahrenzonen:
- Zahlen und Statistiken in Blogbeiträgen, Anzeigen und Verkaufsseiten.
- Richtlinien und Versprechen in Kundenantworten, etwa Rückerstattungsbedingungen, Lieferzeiten oder Garantieleistungen.
- Rechts-, Steuer- und Genehmigungsfragen, bei denen eine selbstsichere falsche Antwort dazu führen kann, dass Sie eine echte Pflicht übersehen.
- Details zu Produkten und Tools, etwa Preise, Funktionen oder Kompatibilität, besonders bei allem, was erst kürzlich erschienen ist.
- Namen, Zitate und Quellen, einschließlich gefälschter Quellenangaben, die wie echte Artikel aussehen.
Für die zweite Kategorie gibt es ein bekanntes reales Beispiel. 2024 entschied ein kanadisches Tribunal gegen Air Canada, nachdem der Chatbot auf der Website der Airline einem Reisenden falsche Auskünfte zu Trauerfalltarifen gegeben hatte, und die Fluggesellschaft wurde für die Aussagen ihres Chatbots haftbar gemacht. Die Berichterstattung der BBC über den Fall lohnt sich. Die Lehre für Selbstständige ist einfach: Wenn Ihre KI es einem Kunden sagt, haben Sie es gesagt.
Die Fünf-Minuten-Prüfroutine
Sie müssen der KI nicht misstrauen. Sie brauchen nur eine Routine, die die riskanten Stellen abfängt, bevor sie Ihre Hände verlassen. Hier ist eine, die etwa fünf Minuten pro Inhalt dauert.
Schritt 1: Markieren Sie jede „überprüfbare“ Behauptung
Lesen Sie den KI-Entwurf einmal durch und markieren Sie alles, was eine Zahl, ein Datum, ein Name, ein Zitat, ein Preis, eine Regel oder ein „Studien zeigen“ ist. Alles andere (Tonfall, Aufbau, allgemeine Ratschläge) ist wenig riskant. Meist müssen nur eine Handvoll Sätze geprüft werden.
Schritt 2: Fragen Sie die KI, woher jede Behauptung stammt
Fragen Sie: „Nenne mir für jede Statistik und jede Tatsachenbehauptung in deiner Antwort die Quelle und einen Link. Wenn du dir bei einer Quelle nicht sicher bist, sag es.“ Ein gutes Tool gibt oft zu, dass es keine Quelle nennen kann. Dieses Eingeständnis ist Ihr Signal, die Behauptung zu streichen oder zu ersetzen.
Schritt 3: Öffnen Sie den Link selbst
Auch wenn die KI einen Link liefert: Klicken Sie darauf. Prüfen Sie, ob die Seite existiert und ob dort wirklich steht, was die KI behauptet. Gefälschte oder unpassende Quellenangaben gehören zu den häufigsten Halluzinationen.
Schritt 4: Ersetzen, abschwächen oder löschen
Wenn Sie eine echte Quelle finden, verwenden Sie sie. Wenn nicht, schwächen Sie die Behauptung zu etwas ab, von dem Sie wissen, dass es stimmt („viele Stiefelbesitzer trocknen ihre Stiefel zu schnell“), oder löschen Sie sie. Ein vagerer, wahrer Satz schlägt jedes Mal einen präzisen, falschen.
Schritt 5: Halten Sie Ihre eigenen Fakten griffbereit
Die meisten Halluzinationen in Kundenantworten entstehen, weil die KI über Ihr Unternehmen geraten hat. Schreiben Sie ein einseitiges „Faktenblatt“ mit Ihren Preisen, Richtlinien, Öffnungszeiten und Ihrem Einsatzgebiet, und fügen Sie es ein (oder speichern Sie es als Anweisungen in Ihrem KI-Tool), wann immer Sie kundenbezogene Texte entwerfen. Wenn die KI Ihre Fakten vor sich hat, hat sie viel weniger Grund, welche zu erfinden.
Einfache Wege zu weniger Halluzinationen von Anfang an
- Geben Sie ihr das Ausgangsmaterial. Bitten Sie die KI, mit einem Dokument, einer Webseite oder Notizen zu arbeiten, die Sie bereitstellen, statt aus dem Gedächtnis.
- Sagen Sie ihr, dass „Ich weiß es nicht“ erlaubt ist. Ergänzen Sie eine Zeile wie „Wenn du dir nicht sicher bist, sag es, statt zu raten.“
- Nutzen Sie Modi mit Websuche für aktuelle Fakten. Bei allem rund um Preise, neue Produkte oder aktuelle Nachrichten verwenden Sie einen Modus, der im Web sucht, und prüfen Sie trotzdem die Links.
- Lassen Sie den letzten Schritt beim Menschen. Die KI entwirft, Sie geben frei. Das ist besonders wichtig bei Bewertungen, Richtlinien und allem Übersetzten, wie wir in unserem Leitfaden erklärt haben, KI-Übersetzungen nie ungeprüft zu veröffentlichen.
Ihr erster Schritt heute
Wählen Sie einen KI-geschriebenen Inhalt, den Sie bereits veröffentlicht oder verschickt haben: einen Blogbeitrag, eine Produktbeschreibung oder eine gespeicherte Kundenantwort. Wenden Sie die Fünf-Minuten-Prüfung darauf an. Die meisten Inhaber finden mindestens eine Behauptung, die sie nicht belegen können, und sie jetzt zu korrigieren ist weit günstiger, als sie später einem Kunden erklären zu müssen.
Machen Sie es dann zur Routine. Halluzinationen sind kein Grund, auf KI zu verzichten; sie sind ein Grund, sie so zu nutzen wie eine schnelle, eifrige neue Assistenz: dankbar für den Entwurf, sorgfältig bei den Fakten. Haben Sie schon einmal ein KI-Tool beim Erfinden ertappt? Erzählen Sie in den Kommentaren, was es sich ausgedacht hat; das hilft anderen Lesern zu wissen, worauf sie achten sollten.
Weiterführende Artikel
- KI-Übersetzung reicht für den ersten Entwurf Ihrer Website. Veröffentlichen Sie sie nie ungeprüft
- So beantworten Sie jede Google-Bewertung in fünf Minuten pro Woche mit KI (ohne wie ein Roboter zu klingen)
- Können Kunden Ihre ChatGPT-Texte jetzt erkennen? 5 Mythen über das neue Text-Wasserzeichen von OpenAI
- Was bedeuten die neuen KI-Gesetze der US-Bundesstaaten für Ein-Personen-Unternehmen? Ein verständlicher Einstiegsleitfaden
