KI und DSGVO: Wie Sie KI-Tools DSGVO-konform einsetzen

Die Suche nach einer Liste zulässiger Werkzeuge ist verständlich und führt trotzdem in die Irre. Die DSGVO knüpft an die Verarbeitung personenbezogener Daten an — an Zweck, Datenart, Betroffenenkreis und Umstände. Derselbe Sprachassistent ist bei der Formulierung eines Werbetexts ohne Personenbezug unproblematisch und bei der Vorsortierung von Bewerbungen eine Verarbeitung mit erheblichem Risiko.

Daraus folgt die Reihenfolge, die diese Seite vorschlägt: erst den Anwendungsfall, dann das Werkzeug. Anbieter liefern Bausteine — Verträge, Verarbeitungsorte, Sicherheitsnachweise, Einstellungen. Ob daraus eine zulässige Verarbeitung wird, entscheiden Sie als Verantwortlicher.

Was ein Anbieter dagegen sehr wohl kann, ist Ihnen die Prüfung leicht oder schwer machen. Ein Anbieter ohne Vertrag zur Auftragsverarbeitung, ohne Angabe des Verarbeitungsorts und ohne Liste seiner Unterauftragsverarbeiter macht sie unmöglich — und das ist ein Prüfergebnis, kein fehlendes.

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage aus Artikel 6 Absatz 1 DSGVO. In der Praxis kommen im KI-Kontext vor allem drei in Betracht: die Erfüllung eines Vertrags, eine rechtliche Verpflichtung und das berechtigte Interesse. Die Einwilligung ist im Beschäftigungsverhältnis wegen der Frage der Freiwilligkeit ein schwieriges Instrument und im Kundenkontakt oft unpraktisch, weil sie jederzeit widerrufen werden kann.

Zwei Punkte werden dabei regelmäßig übersehen. Erstens die Zweckbindung nach Artikel 5 Absatz 1 Buchstabe b: Daten, die für einen Zweck erhoben wurden, dürfen nicht ohne Weiteres für einen anderen verwendet werden — und die Auswertung durch ein KI-System ist regelmäßig ein anderer Zweck als die ursprüngliche Erhebung. Zweitens Artikel 9: Gesundheits-, Gewerkschafts- oder biometrische Daten stehen unter einem grundsätzlichen Verarbeitungsverbot mit engen Ausnahmen. Wer sie in ein Sprachmodell gibt, braucht mehr als ein berechtigtes Interesse.

Und wenn ein System Entscheidungen über Menschen vorbereitet, gehört Artikel 22 dazu: Automatisierte Entscheidungen im Einzelfall einschließlich Profiling, die rechtliche Wirkung entfalten oder in ähnlicher Weise erheblich beeinträchtigen, sind nur unter engen Voraussetzungen zulässig. Eine menschliche Letztentscheidung, die nur formal existiert und dem Vorschlag der Maschine immer folgt, ist keine.

Wer ein externes KI-Werkzeug mit personenbezogenen Daten füttert, lässt in aller Regel in seinem Auftrag verarbeiten. Dafür verlangt Artikel 28 DSGVO einen Vertrag mit festgelegtem Inhalt: Gegenstand und Dauer, Art und Zweck, Datenarten und Betroffenenkategorien, Weisungsbindung, Vertraulichkeit, technische und organisatorische Maßnahmen, Regelungen zu Unterauftragsverarbeitern, Unterstützungspflichten bei Betroffenenrechten sowie Löschung oder Rückgabe am Ende.

Der eigentliche Fallstrick liegt aber vor dem Vertrag, bei der Rolle. Auftragsverarbeiter ist nur, wer ausschließlich nach dokumentierter Weisung des Verantwortlichen handelt. Verfolgt der Anbieter mit denselben Daten einen eigenen Zweck — etwa die Verbesserung seiner Modelle —, bestimmt er insoweit selbst über Zwecke und Mittel und ist für diesen Teil eigener Verantwortlicher. Ein unterschriebener Vertrag zur Auftragsverarbeitung ändert daran nichts; maßgeblich ist die tatsächliche Handhabung, nicht die Überschrift des Dokuments.

Prüfen Sie deshalb beides: dass ein Vertrag vorliegt — und dass die Leistungsbeschreibung nicht an anderer Stelle eine eigene Nutzung der Daten vorsieht, die dem Vertrag widerspricht.

Die Frage, die im Mittelstand am häufigsten falsch beantwortet wird, lautet nicht, wo die Daten liegen, sondern was mit ihnen geschieht. Drei Dinge gehören dazu geklärt und schriftlich festgehalten:

• Training. Werden Eingaben zur Verbesserung der Modelle des Anbieters verwendet? Bei vielen Diensten unterscheidet sich die Voreinstellung zwischen privatem Konto und Geschäftstarif. Eine Voreinstellung ist keine Zusage — maßgeblich ist die vertragliche Regelung.
• Speicherdauer. Wie lange werden Eingaben und Ausgaben vorgehalten, etwa zur Missbrauchserkennung, und wer hat in dieser Zeit Zugriff?
• Unterauftragsverarbeiter. Wer verarbeitet mit — Hosting, Modellbetrieb, Support? Diese Liste ist Voraussetzung dafür, den Transferweg überhaupt beurteilen zu können.

Für Systeme, die zusätzlich auf eigene Dokumentenbestände zugreifen, hat die Datenschutzkonferenz 2025 eine eigene Orientierungshilfe zur RAG-Methode veröffentlicht. Der praktische Kern daraus: Ein Modell, das auf einen Dokumentenspeicher zugreift, macht die Berechtigungen dieses Speichers zu Datenschutzfragen. Wo bisher niemand nachgesehen hat, wer Zugriff auf ein altes Laufwerk hat, tut es jetzt die Suche.

Die meisten verbreiteten generativen KI-Dienste werden von US-Anbietern betrieben. Damit ist Kapitel V der DSGVO eröffnet, und es gibt im Kern zwei Wege.

Angemessenheitsbeschluss. Die Kommission hat mit dem Durchführungsbeschluss (EU) 2023/1795 vom 10. Juli 2023 ein angemessenes Schutzniveau für Übermittlungen an US-Unternehmen festgestellt, die unter dem EU-US Data Privacy Framework zertifiziert sind. Zwei Dinge sind dabei zu prüfen: ob der konkrete Anbieter zertifiziert ist — die Zertifizierung ist unternehmens- und nicht produktbezogen — und für welche Datenkategorien die Zertifizierung gilt.

Standardvertragsklauseln. Wo keine Zertifizierung vorliegt, kommen die Standardvertragsklauseln nach Artikel 46 in Betracht, verbunden mit einer Prüfung, ob das Recht des Ziellandes ihre Wirksamkeit in der Praxis beeinträchtigt.

Ein Hinweis zur Haltbarkeit dieses Abschnitts: Beschlüsse über ein angemessenes Schutzniveau in den USA sind zweimal vom Gerichtshof der Europäischen Union aufgehoben worden — Safe Harbor 2015, Privacy Shield 2020. Wer seine Verarbeitung heute allein auf den geltenden Beschluss stützt, sollte deshalb dokumentiert haben, worauf er sich stützt. Diese Notiz ist der Unterschied zwischen einer geordneten Umstellung und einer Suche im Nebel, sollte sich die Grundlage erneut ändern.

Der Umkehrschluss gilt übrigens nicht: Ein Anbieter mit EU-Rechenzentrum ist damit nicht automatisch unbedenklich. Auch dort bleiben Rechtsgrundlage, Zweckbindung, Trainingsnutzung und Betroffenenrechte zu klären — der Verarbeitungsort ist eine von mehreren Fragen, nicht die Antwort auf alle.

Artikel 35 DSGVO verlangt eine Datenschutz-Folgenabschätzung, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat — insbesondere bei neuen Technologien. Absatz 3 nennt drei Regelbeispiele, von denen zwei im KI-Kontext häufig einschlägig sind: die systematische und umfassende Bewertung persönlicher Aspekte einschließlich Profiling als Grundlage von Entscheidungen und die umfangreiche Verarbeitung besonderer Datenkategorien. Ergänzend führen die deutschen Aufsichtsbehörden nach Absatz 4 Listen von Verarbeitungen, für die sie stets erforderlich ist.

Zwei praktische Hinweise. Erstens ist die DSFA vor der Verarbeitung durchzuführen, nicht nachträglich zur Absicherung. Zweitens gehört auch das negative Ergebnis dokumentiert: Die Feststellung, dass kein hohes Risiko vorliegt, ist selbst ein Nachweis — und die erste Unterlage, nach der eine Aufsichtsbehörde fragt.

Für Betreiber bestimmter Hochrisiko-KI-Systeme kommt eine zusätzliche Pflicht der KI-Verordnung hinzu, die auf die DSFA aufsetzt. Sie liegt im Block der Hochrisiko-Anforderungen, dessen Geltungsbeginn im Juli 2026 verschoben wurde; den Stand dazu halten wir auf der Seite Fristen der EU-KI-Verordnung.

Sobald KI im Betrieb Beschäftigte betrifft, kommen zwei zusätzliche Ebenen dazu. Die erste ist die Rechtsgrundlage für Beschäftigtendaten: Neben Artikel 6 DSGVO steht § 26 BDSG, dessen Vereinbarkeit mit dem Unionsrecht allerdings umstritten ist, seit der Gerichtshof der Europäischen Union eine wortgleiche Landesnorm beanstandet hat (Urteil vom 30. März 2023, C-34/21). Wer eine Verarbeitung heute allein darauf stützt, sollte die Alternativbegründung mitschreiben.

Die zweite ist die betriebliche Mitbestimmung. Wo ein Betriebsrat besteht, sind Mitbestimmungsrechte zu prüfen — insbesondere bei technischen Einrichtungen, die dazu geeignet sind, Verhalten oder Leistung zu überwachen. Auf die Absicht kommt es dabei nicht an, sondern auf die Eignung. Das ist eine arbeitsrechtliche Frage, die vor der Einführung zu klären ist und nicht danach — dieselbe Reihenfolge, die auch für die KI-Richtlinie gilt.

Diese acht Punkte lassen sich für jedes Werkzeug beantworten — für Dienste wie ChatGPT, Copilot oder Gemini ebenso wie für die KI-Funktion, die ein bestehender Fachanbieter still in sein Produkt eingebaut hat. Der letzte Fall ist der gefährlichere, weil ihn niemand beschafft hat.

1. Anwendungsfall und Datenarten. Was genau wird verarbeitet, von wem, zu welchem Zweck? Ohne diese Angabe ist keine der folgenden Fragen beantwortbar.
2. Personenbezug. Sind personenbezogene Daten betroffen, und fallen darunter besondere Kategorien nach Artikel 9?
3. Rechtsgrundlage. Welche aus Artikel 6, und warum trägt sie den konkreten Zweck?
4. Vertrag zur Auftragsverarbeitung. Liegt er vor, wie alt ist er, und deckt er die tatsächliche Nutzung?
5. Verarbeitungsort und Unterauftragsverarbeiter. Wo wird verarbeitet, wer verarbeitet mit, und auf welchen Transferweg stützt sich das?
6. Trainingsnutzung und Speicherdauer. Vertraglich geregelt oder nur eingestellt?
7. DSFA erforderlich? Antwort mit Begründung, auch wenn sie nein lautet.
8. Eintrag im Verzeichnis nach Artikel 30 und Aufnahme ins KI-Inventar, damit die Prüfung wiederauffindbar ist.

Der Aufwand je Werkzeug ist überschaubar. Was ihn im Mittelstand teuer macht, ist nicht die Prüfung selbst, sondern dass sie ein Jahr später niemand mehr findet — und deshalb noch einmal gemacht wird.

In den meisten Betrieben scheitert der Datenschutz beim KI-Einsatz nicht an einer falsch beurteilten Rechtsgrundlage, sondern daran, dass niemand von der Verarbeitung weiß. Ein privates Konto, ein Browser-Zusatz, eine Protokollfunktion in einem Videokonferenz-Werkzeug: Die Verarbeitung läuft, die Verantwortung liegt trotzdem beim Betrieb.

Dagegen hilft keine Technik allein, sondern die Reihenfolge aus drei Schritten, die auch die KI-Verordnung nahelegt: erfassen, regeln, bekannt machen. Das KI-Inventar hält fest, was tatsächlich im Einsatz ist — einschließlich der Werkzeuge, die niemand beschafft hat. Die KI-Richtlinie legt fest, welche Daten in welches System dürfen und wohin die Anfrage geht, wenn jemand etwas Neues einsetzen will. Die Schulung nach Artikel 4 sorgt dafür, dass beides die Menschen erreicht, die es angeht.

Der wirksamste einzelne Schritt ist dabei unspektakulär: ein genannter, unkomplizierter Weg, ein neues Werkzeug freigeben zu lassen. Wo dieser Weg fehlt oder zu lang ist, entsteht Schatten-KI nicht aus Nachlässigkeit, sondern aus Arbeitsdruck.