„Was, wenn die KI einem Kunden etwas Falsches zusagt?“
Wir suchen die Stellen, an denen eine erfundene Antwort wirklich teuer wird, und bauen dort Beleg und Prüfung ein — statt überall gleich viel Kontrolle zu verteilen.
Falschauskünfte der KI im Griff behalten
- Ergebnis
- Prüfpunkte an den Risikostellen
- Für
- Kundenkontakt & Fachbereiche
- Dauer
- 6–10 Wochen
Expert:in
Jan Philipp verspricht keine fehlerfreie KI — er sorgt dafür, dass Fehler auffallen, bevor sie Schaden anrichten. Rechtliche Bewertungen überlässt er eurer Rechtsberatung und baut die Prüfpunkte und Protokolle, mit denen deren Vorgaben umsetzbar werden.
Herausforderung
Sprachmodelle antworten immer, auch wenn sie es nicht wissen. Das Ergebnis klingt dann genauso souverän wie eine richtige Antwort — das ist der eigentliche Ärger, nicht der Fehler selbst. Auffallen würde er nur jemandem, der die Antwort ohnehin schon kennt.
In den meisten Fällen ist das harmlos. In einigen nicht: eine zugesagte Lieferzeit, eine Preisauskunft, eine Aussage zu einer Garantie. Was gegenüber einem Kunden gesagt wurde, lässt sich schwer wieder einfangen.
Die Reaktion darauf ist meistens eine von zwei falschen. Entweder wird alles kontrolliert, dann ist der Zeitgewinn weg und niemand nutzt das System. Oder es wird nichts kontrolliert, weil bisher nichts passiert ist — bis etwas passiert.
Barriere-Triade
- WollenKaum im Weg
- Kontrolle will hier jeder — die Frage ist nur, wie viel davon und an welcher Stelle.
- KönnenBremst spürbar mit
- Die wirklich kritischen Stellen zu erkennen, gelingt aus dem Alltag heraus schwer.
- DürfenHier hakt es
- Ohne Festlegung, welche Auskunft die KI geben darf, lässt niemand sie in den Kundenkontakt.
Lösung
Wir sortieren die Anwendungsfälle nach Schaden, nicht nach Häufigkeit. Eine falsche Zusammenfassung eines internen Protokolls kostet Minuten. Eine falsche Auskunft zur Gewährleistung kann teuer werden. Diese Trennung entscheidet, wohin Aufwand gehört — und sie ist in den meisten Häusern noch nie gemacht worden.
An den kritischen Stellen greift dann ein Prinzip: Antworten müssen belegbar sein. Das System nennt die Quelle, aus der es schöpft, und wo es keine gibt, sagt es das, statt zu formulieren. Eine Antwort ohne Beleg ist an diesen Stellen kein Ergebnis, sondern eine Vermutung.
Dazu kommt der Mensch — gezielt, nicht überall. Freigabe vor dem Versand an Kunden, Stichproben im Innenverhältnis, gar keine Prüfung bei harmlosen Auskünften. Diese Abstufung ist der ganze Trick: Gleichmäßig verteilte Kontrolle ist teuer und schützt trotzdem nicht dort, wo es zählt.
Zum Schluss schreiben wir auf, was gilt: welche Auskünfte die KI geben darf, welche nicht, und wie im Zweifelsfall verfahren wird. Rechtliche Bewertungen gehören zu eurer Rechtsberatung — wir sorgen dafür, dass ihre Vorgaben umsetzbar sind und sich hinterher nachvollziehen lässt, was das System wann auf welcher Grundlage gesagt hat. Ohne dieses Protokoll bleibt im Streitfall nur die Erinnerung.
Sag uns, wo bei euch eine KI-Antwort direkt beim Kunden landet. Genau dort schauen wir zuerst hin.