KAllgemein

KI-Notfallplan (AI Incident Playbook)

Vorgehen bei Datenpanne, falschen Antworten, Tool-Ausfall oder Missbrauch.

Ein KI-Notfallplan (AI Incident Playbook) ist ein klarer, schriftlicher Ablaufplan, wie Ihr Unternehmen reagiert, wenn ein KI-Tool Probleme verursacht – z. B. eine Datenpanne, falsche Antworten, ein Tool-Ausfall oder Missbrauch. Ziel ist, Schäden schnell zu begrenzen, Verantwortlichkeiten zu klären und den Betrieb sicher fortzuführen – auch ohne eigene IT-Abteilung.

Was gehört typischerweise in einen KI-Notfallplan?

  • Incident-Typen: Datenabfluss (z. B. personenbezogene Daten), falsche/gefährliche Antworten (z. B. im Kundenservice), Tool-Ausfall (Provider down), Missbrauch (z. B. Prompt Injection oder unautorisierte Nutzung).
  • Rollen & Zuständigkeiten: Wer entscheidet über Abschaltung? Wer kommuniziert intern/extern? Wer dokumentiert? (z. B. Geschäftsführung, Datenschutz-Ansprechpartner, Fachbereich-Verantwortliche, externer IT-/Security-Dienstleister).
  • Kontaktliste: Tool-Provider-Support, externer IT-Partner, Rechtsberatung, Datenschutzkontakt, wichtige Kunden/Partner.
  • Sofortmaßnahmen (Stop the bleeding): Zugänge sperren, API-Keys rotieren, Automationen pausieren (z. B. in n8n), betroffene Workflows deaktivieren, Veröffentlichung stoppen.
  • Prüf- und Entscheidungslogik: Wann reicht „Korrektur“ – und wann muss abgeschaltet werden? Welche Schwellenwerte gelten (z. B. „rechtlich riskante Antwort an Kunden“ = sofortiger Stopp)?
  • Kommunikationsbausteine: Vorlagen für interne Info, Kundenmeldung, Partner-Info – damit in Stresssituationen nichts improvisiert wird.
  • Dokumentation & Nachbereitung: Was ist passiert, wann, wer war beteiligt, welche Daten/Prozesse betroffen, welche Maßnahmen wurden ergriffen (wichtig für Nachvollziehbarkeit und ggf. Datenschutz (DSGVO/GDPR) & KI).

Wie funktioniert ein KI-Notfallplan in der Praxis? (Ablauf in 5 Schritten)

  • 1) Erkennen & Einstufen: Vorfall melden (z. B. Mitarbeiter, Kunde, Monitoring). Einstufen: Datenrisiko, finanzielles Risiko, Reputationsrisiko, Betriebsunterbrechung.
  • 2) Eindämmen: Betroffene KI-Funktion stoppen (z. B. Chatbot offline), Zugriffe sperren, Secrets Management (Schlüsselverwaltung) prüfen, Logs sichern (z. B. Prompt-Response Logging (LLM-Logging))
  • 3) Analysieren: Ursache klären: Halluzinationen (siehe Halluzinationen (Hallucinations)), falsche Datenquelle (z. B. RAG-Content), Prompt-Manipulation, Provider-Störung, fehlerhafte Automatisierung.
  • 4) Beheben & Wiederanlauf: Korrekturmaßnahmen umsetzen (z. B. Guardrails nachschärfen, Freigabeprozess einführen, Fallback aktivieren – siehe Fallback Strategy (Fallback-Strategie)). Danach kontrollierter Neustart mit Tests.
  • 5) Lernen & absichern: Kurz-Review („Was ändern wir ab morgen?“), Verantwortlichkeiten nachschärfen, Schulung, Checklisten aktualisieren. Das ist der Schritt, der Wiederholungen verhindert.

Beispiele aus KMU-Sicht

Beispiel 1: Falsche Antwort an Kunden. Ein Support-Chatbot (auf Basis von ChatGPT bzw. einem Large Language Model (LLM)) nennt falsche Rückgabefristen. Playbook-Reaktion: Bot sofort auf „Nur Ticket anlegen“ umstellen, betroffene Chats exportieren, Standard-Entschuldigung + Korrektur an Kunden senden, Wissensbasis prüfen, Freigabeprozess für rechtliche Aussagen einführen.

Beispiel 2: Datenpanne durch Copy-Paste. Ein Mitarbeiter gibt Kundendaten in ein KI-Tool ein. Playbook: Meldung an Verantwortliche, Zugriff/Account prüfen, ggf. Provider-Einstellungen (z. B. Datenaufbewahrung) klären, interne Richtlinie schärfen, künftig PII automatisch schwärzen (siehe PII Redaction (PII-Schwärzung)).

Beispiel 3: Tool-Ausfall. Ihre Angebots-Erstellung hängt an einer KI-Automation. Playbook: Fallback-Prozess (manuelle Vorlage), Priorisierung der wichtigsten Kundenfälle, Kommunikation an Vertrieb, später Ursachenanalyse und Multi-Provider-Option prüfen.

Ein KI-Notfallplan ist damit kein „Technik-Dokument“, sondern ein Führungs- und Betriebswerkzeug: Er sorgt dafür, dass Ihr Team in kritischen Situationen schnell, rechtssicher und kundenorientiert handelt.