Du übernimmst, was gut klingt

Die Zusammenfassung kommt zurück, und sie ist gut. Vollständig, gegliedert, im richtigen Ton, mit den drei Punkten, die man erwartet hätte, und einem vierten, an den man selbst nicht gedacht hat. Sie geht so raus, wie sie ist. Zwei Wochen später fragt jemand in der Runde nach der Zahl auf Seite zwei, und niemand weiß mehr, woher sie kam.

So sieht der teuerste Fehler der ersten KI-Anwendungen aus. Er ist nicht das offensichtlich falsche Ergebnis, das jeder sofort erkennt und wegwirft. Er ist das gute, das durchrutscht, weil nichts daran auffällt. Ein schlechtes Ergebnis kostet dich fünf Minuten. Ein plausibles falsches Ergebnis kostet dich das Vertrauen des Empfängers, und du erfährst davon erst, wenn es zu spät ist.

Der Grund liegt in der Bauart. Ein großes Sprachmodell, kurz LLM, sagt immer das statistisch wahrscheinlichste nächste Wortstück voraus. Es ähnelt einem Papagei, der Sprache überzeugend nachahmt, ohne ihre Bedeutung zu verstehen. Deshalb klingt jede Antwort professionell, auch die erfundene. Plausibel und richtig fallen oft zusammen, sind aber nicht dasselbe, und das Modell selbst kennt den Unterschied nicht.

Dazu kommt eine Eigenschaft, die in keiner Bedienungsanleitung steht: Ein Modell sagt nie „weiß ich nicht". Es füllt die Lücke. Wo dir ein Kollege sagen würde, dass er den Vertrag nicht kennt, liefert das Modell einen Absatz über den Vertrag, und dieser Absatz sieht aus wie alle anderen. Genau darum ist die Prüfung hier keine Vorsichtsmaßnahme, sondern der zweite Teil der Arbeit.

Woran du merkst, dass bei euch ungeprüft übernommen wird

Der erste Test ist der Blick auf die Uhr. Frag jemanden, der viel mit KI arbeitet, wie lange er für eine Aufgabe braucht, und wie sich diese Zeit auf drei Teile verteilt: Kontext sammeln, ausführen lassen, Ergebnis prüfen. Kommt eine Antwort, in der der mittlere Teil fast alles ist, wird bei euch nicht geprüft, sondern nur schneller ausgeführt.

Das zweite Anzeichen ist ein Satz, den du im Flur hörst: „Das hat die KI so ausgegeben." Er wird meistens erklärend gemeint und ist in Wahrheit eine Übergabe der Verantwortung an etwas, das keine tragen kann. Wer eine Ausgabe weitergibt, verantwortet sie, egal wer sie formuliert hat. Solange dieser Satz im Haus als Begründung durchgeht, gibt es keine Prüfinstanz, sondern nur eine Weiterleitung.

Das dritte Anzeichen sind die Texte selbst. Sie werden länger, glatter und ähnlicher. Alle drei Angebote lesen sich wie dasselbe Angebot, alle vier Protokolle haben dieselbe Struktur, und in keinem steht mehr etwas, das nur aus eurem Haus kommen könnte. Für dieses Ergebnis gibt es einen Namen: AI Slop, also glatt formulierter Text ohne Substanz. Er entsteht nicht durch schlechte Modelle, sondern dadurch, dass Vorbereitung und Nachbereitung weggekürzt wurden.

Das vierte Anzeichen ist das leiseste. Fehler tauchen spät auf, in einem Nebensatz, bei einem Dritten, oft Wochen später. Halluzinationen, also frei erfundene Fakten, fallen ohne aktive Prüfung erst dann auf, wenn jemand von außen nachfragt. Bis dahin sind sie mehrfach kopiert worden, weil ein einmal durchgereichtes Teilergebnis von da an als wahr behandelt wird.

Warum die Prüfung genau dann wegfällt, wenn sie nötig wäre

Der Reflex, den fast alle haben, ist verständlich: KI soll Zeit sparen, also spart man an dem Teil, der sich am leichtesten streichen lässt. Nur wandert die Zeit bei guter KI-Arbeit gar nicht aus dem Prozess heraus, sie wechselt den Ort. Sie geht weg von der Ausführung und hin zu Vorbereitung und Nachbereitung. Wer die Ausführung beschleunigt und beides wegkürzt, hat nichts gespart, sondern nur den Anteil geprüfter Arbeit gesenkt.

Je größer der Auftrag, desto teurer die Abkürzung. Es hilft, vier Arten der KI-Arbeit auseinanderzuhalten: eine Frage stellen, ein Thema erkunden, im Wechselspiel mit der KI etwas erarbeiten und eine ganze Aufgabe abgeben. Je weiter du nach hinten rückst, desto mehr Kontext musst du vorher geben und desto genauer musst du hinterher prüfen. Der häufigste Fehler ist, eine ganze Aufgabe abzugeben und sie zu prüfen, als wäre es eine Frage gewesen.

Das Modell bestätigt sich selbst, wenn du es fragst. Modelle sind darauf ausgelegt zu gefallen. Fragst du im selben Gespräch, ob das Ergebnis stimmt, bekommst du eine Bestätigung, und dieselbe Frage aus einem anderen Winkel gestellt bringt eine andere Antwort. In derselben Sitzung hält ein Modell die eigene Arbeit für richtig und übersieht die eigenen Fehler. Eine Prüfung, die im gleichen Fenster stattfindet, ist deshalb keine Prüfung, sondern eine Wiederholung.

Ohne Messung merkt niemand, wie oft es danebengeht. Ein Eindruck von Qualität ersetzt keine Zahl. Wie klein die Ursache eines großen Fehlers sein kann, zeigt ein reales Beispiel aus einem Kundenservice-Agenten: Ein einziges Wort an einer bestimmten Stelle in der Anweisung erzeugte siebzig Prozent der überflüssigen Kommentare. So etwas findet man nur, wenn man misst, und niemals im Vorbeilesen.

Fünf Schritte, mit denen die Prüfung nicht als Erstes wegfällt

Die Reihenfolge zählt. Der Kontext kommt vor der Ausführung, weil du hinterher nicht mehr prüfen kannst, was du vorher nicht mitgegeben hast.

Was du wirklich beschleunigst

Die Rechnung, die im Kopf vieler steht, lautet: Die Aufgabe hat vorher einen halben Tag gedauert, jetzt geht sie in einem Bruchteil davon. Die ehrliche Rechnung zählt alle drei Teile. Die Ausführung wird tatsächlich kürzer, der Kontext davor und die Prüfung danach kommen dazu, und netto gewinnst du kaum Stunden, weil die Zeit nur den Ort wechselt. Was du gewinnst, ist nicht in erster Linie Zeit, sondern Qualität. Wer nur die erste Rechnung aufmacht, wundert sich später, warum die gesparten Stunden in keiner Bilanz auftauchen.

Der zweite Gewinn ist der, über den kaum jemand redet. Wer Ergebnisse ungeprüft übernimmt, verliert genau die Kompetenz, die er gerade abgibt. Wer erst selbst denkt und die KI danach als Sparringspartner benutzt, lernt schneller und tiefer als vorher. Der Unterschied liegt in einer einzigen Entscheidung, nämlich ob du das Modell als Tutor einsetzt oder als Ghostwriter, und diese Entscheidung trifft der Mensch, nicht das Werkzeug.

Deshalb ist die Prüfung auch keine Bremse, sondern der Teil, der aus einer Spielerei einen Prozess macht. Ein Ergebnis, das niemand geprüft hat, ist kein Ergebnis, sondern ein Vorschlag mit gutem Auftritt. Ein geprüftes Ergebnis kannst du wiederholen, weitergeben und jemandem in die Hand drücken, der die Verantwortung dafür trägt. Erst ab dort fängt der Nutzen an, sich zu addieren.

Wenn du wissen willst, wo dein Unternehmen dabei gerade steht, mach den KIRA-Check. Er verortet dich über sechs Stufen und fünf Achsen, und eine dieser Achsen heißt Governance und Verlässlichkeit, also genau die Frage, wie ihr aus einem guten Eindruck einen geprüften Stand macht. Du bekommst dein Profil und die zwei Engpässe, die dich aktuell bremsen. Zehn Minuten, keine Note am Ende.