Die Verantwortung wandert nicht mit der Automatisierung

Wer eine Aufgabe an eine Maschine übergibt, gibt die Verantwortung nicht mit ab: Verantwortlich bleibt das Unternehmen, gleich ob ein Beschäftigter oder ein Agent gehandelt hat. Neben Bußgeldern steht die zivilrechtliche Haftung, und die Geschäftsführung kann bei Schäden persönlich haften. Daraus folgt eine Bauregel: Jeder automatisierte Ablauf braucht einen namentlichen Menschen, der zeichnet, und jede Aktion nach außen hängt an dessen Bestätigung. Wer eine E-Mail versendet, haftet dafür und drückt selbst auf senden.

Erzeugte Inhalte: Rechte am Ergebnis, Risiko im Ergebnis

Bei erzeugten Bildern und Texten fallen zwei Dinge auseinander. Die Nutzungsrechte am Ergebnis liegen beim Nutzer, das Risiko einer Urheberrechtsverletzung darin aber auch: Wer eine geschützte Figur im Bild hat, haftet selbst. Ein fremdes Modell nimmt dir das nicht ab, sein Ergebnis bleibt dein Risiko. Auf der Anbieterseite bewegt sich die Rechtslage parallel: Ein Landgericht verortete die Haftung für einen Musikgenerator beim Anbieter, ein Modellanbieter zahlte 1,5 Milliarden US-Dollar Vergleich für 482.000 illegal beschaffte Bücher. Praktisch heißt das: Leg fest, welche Werkzeuge für Kundenmaterial freigegeben sind, und wer vor der Veröffentlichung auf fremde Marken und Figuren prüft. Das gilt auch für zugelieferte Bilder: Ein Verlag hat bereits versehentlich ein KI-erzeugtes Pressebild veröffentlicht.

Die Grenze der automatisierten Einzelentscheidung

Artikel 22 der Datenschutz-Grundverordnung regelt die automatisierte Einzelentscheidung, also den Fall, dass eine Maschine allein über einen Menschen entscheidet. Der Grundsatz: KI soll zuarbeiten, nicht die menschliche Entscheidung ersetzen. Für handelnde Agenten verläuft diese Grenze mitten durch übliche Abläufe. Beispiel Bewerbungsscreening: Sortiert die KI vor und sagt sie automatisch ab, liest am Ende kein Mensch mehr. Die Regel verlangt ein Korrektiv, praktisch einen Menschen vor der ablehnenden Entscheidung. Wie weit sie im konkreten Ablauf greift, ist im Einzelfall zu klären.

Zahlungen: eine feste Regel schlägt jedes Bauchgefühl

Ein Deepfake ist eine täuschend echt wirkende Fälschung von Bild, Video oder Stimme. In einem dokumentierten Fall erhielt eine Managerin einen gefälschten Videocall ihrer Geschäftsführung mit einer Zahlungsaufforderung; auffällig wurde er nur durch die geänderte Kleidung, geklärt hat ihn ein Rückruf. Auf Erkennen am Bild kannst du nicht mehr bauen, auch manipulierte Rechnungen wirken echt. Jedes dritte Unternehmen nennt Deepfakes und Fehlinformation als eine der größten Herausforderungen bei der KI-Einführung. Die wirksame Antwort ist organisatorisch: keine Zahlung und keine Änderung von Bankdaten ohne Rückruf über eine hinterlegte Nummer, nie über den Kanal der Anfrage.

Anforderungen, die über deine Kunden eintreffen

Regeln treffen dich nicht nur direkt. Das Muster kennst du aus den Nachhaltigkeitsdaten in der Kreditvergabe: Nur rund 2 Prozent der deutschen Unternehmen sind selbst berichtspflichtig, aber neun von zehn Kreditinstituten erfassen die Angaben bereits bei Mittelständlern oder planen es. Banken haben schon auf Geschäft verzichtet, weil die Datengrundlage zu dünn war. Die Anforderungen verschiedener Häuser decken sich zu 70 bis 80 Prozent, ein einmal sauber gebautes Antwortpaket trägt über viele Anfragen. Für KI-Fragebögen in Lieferantenprüfungen ist das die naheliegende Analogie; belegt ist das Muster an den Nachhaltigkeitsdaten.

Das kleine Einmaleins des Datenschutzes

Der Satz „bei uns geht das nicht wegen Datenschutz" ist meist Halbwissen oder ein Totschlagargument. Drei Punkte klären die meisten Fälle. Erstens ein Auftragsverarbeitungsvertrag: Ein Dienstleister verarbeitet die Daten weisungsgebunden in deinem Auftrag, verantwortlich bleibst du. Zweitens die Zusage, dass der Anbieter nicht auf euren Daten trainiert; die Geschäftsprodukte der großen Anbieter bieten Vertrag und Zusage, die kostenlosen Zugänge nicht. Drittens ein Rollen- und Rechte-Konzept, das ein KI-System nicht aushebeln darf: Die Anfrage zeigt nur, was der Fragende ohnehin sehen dürfte. Wer private Zugänge verbietet, ohne einen sauberen Weg anzubieten, erzeugt Schatten-KI, also Nutzung an der IT vorbei.

Nachweise entstehen im Betrieb

Niemand erwartet, dass du jeden Prompt vorab kontrollierst. Erwartet wird, dass du im Ernstfall belegst, was geregelt war und wer geprüft hat. In belegpflichtigen Verfahren gilt ein zweistufiges Muster: Die KI sichtet zuerst, ein Mensch prüft nach, jede Prüfung wird dokumentiert. Ohne diese Spur ist ein Ergebnis nicht gerichtsfest. 67 Prozent der Unternehmen fehlen bislang klare Richtlinien für KI.