Warum ein KI-Verbot deine Firmendaten unsicherer macht

Der Satz fällt meistens nebenbei, am Ende eines Tagesordnungspunkts, in dem es eigentlich um etwas anderes ging. „KI haben wir bei uns erst mal untersagt, bis der Datenschutz geklärt ist." Alle nicken, niemand widerspricht, die Runde geht zum nächsten Punkt. Es fühlt sich an wie eine getroffene Entscheidung, und für die Dauer der Sitzung ist es auch eine.

Zwei Stockwerke tiefer sitzt an diesem Nachmittag jemand aus dem Vertrieb an einem Angebot, das noch heute raus soll. Er kopiert den Entwurf in ChatGPT, lässt ihn glätten, kopiert das Ergebnis zurück und ist deutlich schneller fertig als sonst. Das läuft über sein privates Konto auf dem eigenen Handy, weil das Firmengerät den Zugang blockiert. Im Entwurf standen der Name des Kunden, die Vertragslaufzeit und der Preis.

Beides ist gleichzeitig wahr: Das Verbot gilt, und die Nutzung läuft. Geändert hat sich nichts daran, ob in deinem Haus mit KI gearbeitet wird. Geändert hat sich nur der Ort. Vorher wäre der Angebotstext vielleicht durch ein Firmenkonto gelaufen, für das jemand einen Vertrag geprüft hat. Jetzt läuft er über ein kostenloses Konto, das deinem Unternehmen nicht gehört, dessen Anbieter mit euch keine Vereinbarung hat und dessen Verlauf niemand aus deinem Haus je zu sehen bekommt.

Das ist die unbequeme Mechanik hinter dem Verbot. Es entscheidet nicht darüber, ob KI benutzt wird, sondern nur darüber, wo sie benutzt wird. Und der Ort, an den es die Nutzung schiebt, ist der unsicherste von allen: Über 90 Prozent der Sicherheitsvorfälle mit Sprachmodellen entstehen dort, wo jemand echte Firmendaten in eine kostenlose Version tippt.

Woran du merkst, dass bei euch längst mit KI gearbeitet wird

Der ehrlichste Test ist eine einzige Frage: Kann in deinem Haus jemand sagen, wer welches KI-Werkzeug mit welchen Daten benutzt? Nicht ungefähr, sondern mit Namen, Werkzeug und Datenart. Bleibt die Antwort ein Schulterzucken, arbeitet ihr mit Schatten-KI, also mit KI-Nutzung, die im Unternehmen stattfindet, aber von niemandem geplant, freigegeben oder protokolliert wurde.

Die Anzeichen sind unauffällig, weil sie unauffällig sein sollen. Texte, die plötzlich anders klingen als das, was dieselbe Person ein halbes Jahr vorher geschrieben hat. Eine Auswertung, die spürbar schneller fertig ist als sonst, ohne dass jemand erklärt, woran das lag. Eine ausweichende Antwort auf die freundlich gemeinte Frage, wie jemand das so schnell hinbekommen hat. Keines dieser Anzeichen ist ein Beweis, aber zusammen ergeben sie ein Muster.

Das zweite Anzeichen steht im Browser und nicht im Chatfenster. Browser-Erweiterungen und Agenten-Werkzeuge, also kleine Zusatzprogramme, die mitlesen, was im Browser passiert, und teilweise selbst klicken und tippen, installiert sich jeder in zwei Minuten selbst. Rund um ein einziges dieser Agenten-Werkzeuge wurden 400 bösartige Erweiterungen gefunden. Ein Verbot, das sich in den Köpfen auf ChatGPT bezieht, erfasst diese Werkzeugklasse überhaupt nicht, weil kaum jemand eine Browser-Erweiterung als KI-Nutzung wahrnimmt.

Das dritte Anzeichen ist das leiseste, und es kostet dich am meisten: Niemand erzählt, was funktioniert hat. Wenn jemand eine lästige Aufgabe mit einem Werkzeug gelöst hat, wandert dieses Wissen nirgendwohin. Es bleibt in einem privaten Chatverlauf, zu dem außer dieser einen Person niemand Zugang hat. In deiner Organisation wird also gelernt, aber die Organisation lernt nichts.

Warum das Verbot das Risiko vergrößert

Der Reflex ist nachvollziehbar. Solange niemand die rechtliche Lage geklärt hat, wirkt das Untersagen wie die vorsichtige Variante. Es ist die Maßnahme, die sich in fünf Minuten beschließen lässt und die im Protokoll gut aussieht. Nur wirkt sie in drei Richtungen genau andersherum als beabsichtigt.

Sie nimmt dir die Sicht. Absichern kannst du nur, was du siehst. Ein Verbot ist die einzige Art von Regel, die dir den Blick auf ihre eigene Einhaltung verstellt: Wer sie bricht, hat jeden Grund, das für sich zu behalten. Nach einem halben Jahr Verbot weißt du weniger über die KI-Nutzung in deinem Haus als vorher, nicht mehr.

Sie entfernt den Vertrag aus der Verarbeitung. Ein Unternehmenskonto ist nicht deshalb sicherer als ein privates Gratis-Konto, weil es Geld kostet. Es ist sicherer, weil zwei Dinge daran hängen. Erstens ein Auftragsverarbeitungsvertrag, also die schriftliche Vereinbarung darüber, unter welchen Bedingungen ein Anbieter Daten in deinem Auftrag verarbeitet. Zweitens die vertragliche Zusage, dass der Anbieter mit euren Eingaben keine Modelle trainiert. Am privaten Konto hängt keines von beidem. Ohne beides ist die DSGVO in deinem Haus ein Blindflug, und ein Audit ist nicht möglich, weil es nichts gibt, was du vorlegen könntest. Dass die Daten dabei nicht einmal im Konto bleiben müssen, hat sich schon gezeigt: Geteilte ChatGPT-Chats waren über eine Google-Suche auffindbar.

Sie dreht das Ziel deiner Leute um. Solange die Regel „nicht benutzen" lautet, optimiert jeder, der sie trotzdem bricht, auf das Verstecken statt auf ein gutes Ergebnis. Niemand fragt die IT, ob eine bestimmte Datei hochgeladen werden darf, weil die Frage schon das Geständnis wäre. Niemand meldet, dass ein Werkzeug etwas Merkwürdiges getan hat. Und niemand teilt einen guten Fund, weil Teilen bedeuten würde, sich zu erkennen zu geben. Das Verbot erzeugt damit genau die Kultur, die eine Sicherheitsabteilung am wenigsten gebrauchen kann.

Fünf Schritte, die die Nutzung ans Licht holen

Die Reihenfolge ist wichtiger als die einzelne Maßnahme. Die Bestandsaufnahme kommt vor dem Regelwerk, weil du sonst Regeln für eine Realität schreibst, die du nicht kennst.

Was du wirklich entscheidest

Das Verbot war nie eine Sicherheitsmaßnahme. Es war eine aufgeschobene Entscheidung, die sich als Sicherheitsmaßnahme angefühlt hat. Die Frage lautet nämlich nicht, ob deine Leute mit KI arbeiten sollen. Diese Frage ist längst beantwortet, nur eben ohne dich. Die Frage lautet, über welchen Weg sie es tun und ob du diesen Weg kennst.

Deshalb steckt der Rahmen am Ende nicht in der Richtlinie, sondern im Zugang selbst. Eine Regel, die jeder im Kopf behalten muss, hält bis zum nächsten Termindruck. Ein Zugang, der die Prüfung selbst übernimmt, hält auch danach. Wer den sicheren Weg zugleich zum bequemsten macht, muss die Regel hinterher nicht mehr kontrollieren, und das ist der ganze Unterschied.

Wenn du wissen willst, wo dein Unternehmen dabei gerade steht, mach den KIRA-Check. Er verortet dich über sechs Stufen und fünf Achsen, und eine dieser Achsen heißt Governance und Verlässlichkeit, also genau der Rahmen, um den es hier ging. Du bekommst dein Profil und die zwei Engpässe, die dich aktuell bremsen. Zehn Minuten, keine Note am Ende.