Jedes fünfte deutsche Unternehmen setzt inzwischen Künstliche Intelligenz ein – 20 Prozent im Jahr 2024 nach 15 Prozent im Vorjahr und erst 9 Prozent 2022. Die Kurve zeigt steil nach oben. Doch dieselbe Bitkom-Erhebung unter 602 Unternehmen legt offen, was die Geschwindigkeit drückt: nicht die Technik, sondern das Recht. 82 Prozent der Unternehmen sorgen sich vor künftigen rechtlichen Beschränkungen, 73 Prozent fühlen sich durch Datenschutzanforderungen ausgebremst, 68 Prozent sind durch rechtliche Unklarheiten verunsichert. Die rechtliche Lage ist damit das mit Abstand größte Hemmnis – noch vor Kosten und fehlendem Personal.
Für Geschäftsführer im Mittelstand ist das eine unbequeme Lage. ChatGPT, Microsoft Copilot oder Claude liegen einen Klick entfernt, die Belegschaft nutzt sie längst – oft an der IT vorbei. Wer den Einsatz als Verantwortlicher aber sauber aufsetzen will, steht vor zwei Fragen: Was genau verlangt die DSGVO? Und was kommt mit dem EU AI Act dazu? Dieser Leitfaden beantwortet beides konkret – ohne juristisches Geschwurbel, dafür mit den Pflichten, die im Ernstfall vor einer Aufsichtsbehörde zählen. Und mit dem Stand, der nach dem Brüsseler „Digital Omnibus” vom Frühjahr 2026 wirklich gilt.
Warum KI-Assistenten ein Datenschutzthema sind
Ein KI-Assistent wird datenschutzrelevant in dem Moment, in dem ein Mitarbeiter personenbezogene Daten in das Eingabefeld tippt – eine Kundenanfrage mit Namen, eine Bewerbung, einen Vertragsentwurf, eine Krankmeldung. Genau das passiert in der Praxis ständig. Das Phänomen hat einen Namen: „Schatten-KI”. Beschäftigte greifen zu privaten, kostenlosen Tools, weil das Unternehmen keine freigegebene Lösung bereitstellt. Jede dieser Eingaben ist eine Datenverarbeitung im Sinne der DSGVO – und verantwortlich dafür ist nicht der einzelne Mitarbeiter, sondern das Unternehmen als „Verantwortlicher” nach Art. 4 Nr. 7 DSGVO.
Dass die Aufsichtsbehörden hier nicht tatenlos zusehen, zeigt der prominenteste Fall der Branche: Am 20. Dezember 2024 verhängte die italienische Datenschutzbehörde Garante ein Bußgeld von 15 Millionen Euro gegen OpenAI. Die drei tragenden Vorwürfe waren die Verarbeitung personenbezogener Daten zum Training ohne ausreichende Rechtsgrundlage, eine nicht ordnungsgemäß gemeldete Datenpanne aus dem März 2023 und Verstöße gegen die Transparenzpflichten. On top musste OpenAI eine sechsmonatige Aufklärungskampagne in italienischen Medien schalten. Diese drei Vorwürfe sind eine präzise Blaupause dessen, was beim KI-Einsatz schiefgehen kann – und der entscheidende Punkt: Dieselben Pflichten treffen nicht nur den Anbieter, sondern jedes Unternehmen, das ein solches Tool produktiv einsetzt.
Die fünf DSGVO-Pflichten, die wirklich zählen
Der datenschutzkonforme Einsatz eines KI-Assistenten lässt sich auf eine überschaubare Zahl konkreter Pflichten herunterbrechen. Die folgende Übersicht zeigt sie mit dem jeweiligen Rechtsgrund und der konkreten Handlung.
| Pflicht | Rechtsgrundlage | Was konkret zu tun ist |
|---|---|---|
| Auftragsverarbeitungsvertrag (AVV) | Art. 28 DSGVO | Schriftlichen AVV mit dem KI-Anbieter abschließen |
| Rechtsgrundlage festlegen | Art. 6 (ggf. Art. 9) DSGVO | Für jeden Anwendungsfall den Erlaubnistatbestand bestimmen |
| Drittlandtransfer absichern | Art. 44 ff. DSGVO | EU-Datenresidenz oder Standardvertragsklauseln + Risikoprüfung |
| Technische Maßnahmen (TOM) | Art. 32 DSGVO | Verschlüsselung, Zugriffskontrolle, MFA, Zertifizierungen prüfen |
| Datenschutz-Folgenabschätzung (DSFA) | Art. 35 DSGVO | Bei hohem Risiko vor Inbetriebnahme durchführen |
1. Der Auftragsverarbeitungsvertrag ist Pflicht – und der häufigste Fehler
Sobald ein KI-Anbieter in Ihrem Auftrag personenbezogene Daten verarbeitet, liegt eine Auftragsverarbeitung nach Art. 28 DSGVO vor. Ohne unterzeichneten AVV ist die Verarbeitung schlicht unzulässig – und zwar unabhängig davon, wie gut das Tool im Übrigen geschützt ist. Hier liegt der teuerste Anfängerfehler: Die kostenlosen und privaten Standardversionen der gängigen Chatbots stellen keinen AVV bereit und scheiden für betriebliche Personendaten damit von vornherein aus. Es ist juristisch unerheblich, ob der Mitarbeiter „nur kurz etwas ausprobieren” wollte.
Einen belastbaren AVV erhalten Sie ausschließlich in den Business- oder Enterprise-Tarifen – etwa bei OpenAI (ChatGPT Enterprise/Team und API), Microsoft Azure OpenAI Service, Google Vertex AI oder Anthropic über die Claude-Geschäftstarife. Diese Tarife bringen in der Regel zugleich das mit, was im selben Atemzug zu prüfen ist: einen vertraglichen Ausschluss des Modelltrainings auf Ihren Eingaben sowie dokumentierte Sicherheitsmaßnahmen. Prüfen Sie außerdem die im AVV benannten Sub-Auftragsverarbeiter – also die Dienstleister, die der Anbieter seinerseits einsetzt –, denn auch deren Standorte entscheiden über das Drittlandrisiko.
2. Rechtsgrundlage: für jeden Anwendungsfall einzeln
Eine pauschale Erlaubnis zum KI-Einsatz gibt es nicht. Für jede Verarbeitung brauchen Sie einen Erlaubnistatbestand nach Art. 6 DSGVO – im betrieblichen Kontext meist das berechtigte Interesse (lit. f) oder die Vertragserfüllung (lit. b). Der Knackpunkt aus dem Garante-Fall: Werden Eingaben zum Training des Modells weiterverwendet, ist das ein eigener Verarbeitungszweck, der eine eigene Rechtsgrundlage benötigt. Genau deshalb ist der vertragliche Trainingsausschluss in den Enterprise-Tarifen so zentral – er nimmt diesen zweiten Zweck von vornherein aus der Gleichung.
Eine besondere Hürde gilt für die besonderen Kategorien personenbezogener Daten nach Art. 9 DSGVO – Gesundheitsdaten, religiöse oder gewerkschaftliche Zugehörigkeit, biometrische Daten. Für sie reicht Art. 6 nicht aus; es braucht zusätzlich einen Ausnahmetatbestand nach Art. 9 Abs. 2, etwa eine ausdrückliche Einwilligung. Praktischer Rat: Solche Daten gehören grundsätzlich nicht in ein allgemeines KI-Tool. Wer etwa Personalakten oder Patientendaten verarbeiten will, braucht eine dedizierte, vertraglich und technisch dafür ausgelegte Lösung – nicht den allgemeinen Büro-Chatbot.
3. Drittlandtransfer: der USA-Faktor
Die meisten leistungsfähigen Modelle stammen von US-Anbietern. Damit greift das Transferregime der Art. 44 ff. DSGVO. Hier hat sich die Lage zuletzt spürbar entspannt: OpenAI bietet seit Februar 2025 EU-Datenresidenz (Speicherung im EWR plus Schweiz) und seit dem Update vom Januar 2026 zusätzlich In-Region-Inferenz für Europa an – die eigentliche Verarbeitung der Anfrage bleibt also ebenfalls im EU-Raum. Vergleichbare Optionen existieren bei Microsoft und Google in deren europäischen Rechenzentren.
Zwei Einschränkungen sollten Sie kennen. Erstens routen einzelne Steuerungsfunktionen – typischerweise die Authentifizierung – mitunter weiterhin über die USA; eine EU-Region eliminiert den Transfer also nicht zu 100 Prozent, reduziert ihn aber drastisch. Zweitens stützt sich der verbleibende Transfer in die USA derzeit auf das EU-US Data Privacy Framework beziehungsweise auf Standardvertragsklauseln samt dokumentierter Risikoabwägung (Transfer Impact Assessment). Die Botschaft für die Praxis bleibt eindeutig: Wählen Sie, wo immer möglich, eine EU-Region – das adressiert das Transferrisiko an der Wurzel, statt es nachträglich vertraglich reparieren zu müssen.
4. Technische und organisatorische Maßnahmen
Art. 32 DSGVO verlangt einen dem Risiko angemessenen Schutz. Konkret heißt das: verschlüsselte Übertragung und Speicherung, strenge und rollenbasierte Zugriffsrechte, verpflichtende Mehr-Faktor-Authentifizierung und der Nachweis anerkannter Standards. SOC 2 Type II ist international verbreitet; europäische Unternehmen sollten zusätzlich auf eine ISO/IEC-27001-Zertifizierung achten, perspektivisch auch auf die KI-spezifische ISO/IEC 42001. Die Datenschutzkonferenz (DSK) – das Gremium der deutschen Aufsichtsbehörden – hat im Juni 2025 eine eigene Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei KI-Systemen veröffentlicht. Sie richtet sich primär an Entwickler und Betreiber, liefert aber auch anwendenden Unternehmen einen brauchbaren Prüfraster über den gesamten Lebenszyklus eines KI-Systems.
5. Datenschutz-Folgenabschätzung bei hohem Risiko
Eine DSFA nach Art. 35 DSGVO wird zur Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten Betroffener mit sich bringt. Das ist insbesondere der Fall bei systematischem Profiling, bei automatisierten Entscheidungen mit rechtlicher Wirkung (Art. 22 DSGVO) oder bei der umfangreichen Verarbeitung sensibler Daten. Ein KI-Assistent, der Bewerbungen vorsortiert, Kreditwürdigkeit einschätzt oder Kunden bewertet, fällt schnell darunter – die DSFA muss dann nachweislich vor dem Produktivstart vorliegen, nicht erst, wenn die Behörde fragt. Hilfreich: Die Aufsichtsbehörden führen Listen mit Verarbeitungen, die zwingend eine DSFA erfordern; ein Abgleich mit dieser „Muss-Liste” des eigenen Bundeslandes ist der schnellste Weg zur Klarheit.
Was der EU AI Act zusätzlich verlangt – und was sich 2026 verschoben hat
Die DSGVO regelt den Umgang mit personenbezogenen Daten – der EU AI Act regelt die KI selbst und kommt als zweite Pflichtenebene obendrauf. Wichtig für jede Planung: Über den „Digital Omnibus” haben sich Rat und Parlament im Frühjahr 2026 auf eine Verschiebung der besonders aufwändigen Hochrisiko-Pflichten verständigt. Der Zeitplan sieht damit aktuell so aus:
| Datum | Was gilt |
|---|---|
| seit Februar 2025 | Verbotene KI-Praktiken (Art. 5) und Pflicht zur KI-Kompetenz der Beschäftigten (Art. 4) |
| seit August 2025 | Pflichten für Anbieter von KI-Basismodellen (GPAI, Art. 51 ff.) |
| 2. August 2026 | Durchsetzung der GPAI-Pflichten; Transparenzpflichten für KI-Inhalte (Art. 50) mit Schonfrist bis 2. Dezember 2026 |
| 2. Dezember 2027 | Hochrisiko-Systeme nach Anhang III (eigenständige Systeme) – verschoben |
| 2. August 2028 | Hochrisiko-Systeme nach Anhang I (in Produkte eingebettet) – verschoben |
Diese Verschiebung ist eine Atempause, kein Freibrief. Die EU-Gesetzgeber haben ausdrücklich betont, dass die Vorbereitung längst laufen sollte. Für den anwendenden Mittelstand sind dabei zwei Punkte schon heute scharf gestellt.
Erstens die KI-Kompetenzpflicht nach Art. 4: Unternehmen müssen sicherstellen, dass Mitarbeiter, die KI-Systeme einsetzen, über ein ausreichendes Verständnis dafür verfügen. Diese Pflicht gilt bereits seit Februar 2025. Der Omnibus formuliert sie etwas pragmatischer – Unternehmen müssen den Kompetenzaufbau aktiv unterstützen, statt für jeden Einzelnen ein bestimmtes Ergebnis zu garantieren –, abgeschafft ist sie aber nicht. Eine dokumentierte Schulung bleibt Pflichtprogramm.
Zweitens die Dokumentation pro Anwendungsfall: Risikoeinstufung, eingesetzte Datenkategorien und Mechanismen menschlicher Aufsicht sollten festgehalten werden. Und die Sanktionen sind kein Papiertiger: Bei Verstößen gegen die meisten Pflichten – darunter die GPAI- und Deployer-Pflichten – drohen Geldbußen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes; bei verbotenen Praktiken sind es sogar bis zu 35 Millionen Euro oder 7 Prozent.
Die praktische Umsetzung in fünf Schritten
Aus Pflichten wird erst dann Sicherheit, wenn sie in Prozessen verankert sind. Der folgende Weg hat sich im Mittelstand bewährt:
- Bestandsaufnahme statt Verbot. Erfassen Sie zuerst, welche KI-Tools im Haus tatsächlich genutzt werden – auch die privaten. Ein pauschales Verbot treibt die Schatten-KI nur tiefer in den Untergrund; eine freigegebene, sichere Alternative löst das Problem dauerhaft.
- Einen geprüften Geschäftstarif auswählen. Mit AVV, EU-Datenresidenz und vertraglichem Trainingsausschluss. Diese drei Kriterien sind nicht verhandelbar – sie sind die Eintrittskarte, nicht die Kür.
- Eine KI-Richtlinie aufsetzen. Klare Regeln, welche Daten eingegeben werden dürfen und welche nicht, wer freigibt und wie Ergebnisse zu prüfen sind – kurz, verständlich, durchsetzbar. Eine Seite, die gelesen wird, schlägt zehn Seiten, die niemand öffnet.
- Mitarbeiter schulen. Das erfüllt zugleich die KI-Kompetenzpflicht des AI Act und ist die wirksamste einzelne Maßnahme gegen Datenpannen. Dokumentieren Sie die Schulung – im Zweifel zählt der Nachweis.
- Dokumentieren und im Verzeichnis führen. Verarbeitungstätigkeit ins Verzeichnis nach Art. 30 eintragen, bei hohem Risiko die DSFA durchführen, AI-Act-Dokumentation pro Anwendungsfall pflegen.
Die ältere DSK-Orientierungshilfe vom Mai 2024 strukturiert genau diesen Prozess entlang dreier Phasen – Konzeption und Auswahl, Implementierung, Nutzung – mit Schwerpunkt auf LLMs und Chatbots. Sie ist als praktische Checkliste für den hier beschriebenen Weg gut geeignet und wird laut DSK fortlaufend an neue technische Entwicklungen angepasst.
Fazit
DSGVO-konformer KI-Einsatz ist im Mittelstand machbar – er ist eine Frage sauberer Hausaufgaben, nicht des Verzichts. Der entscheidende Hebel liegt in der Anbieterauswahl: Ein Geschäftstarif mit AVV, EU-Datenresidenz und Trainingsausschluss nimmt einen Großteil des rechtlichen Risikos vorweg. Der Rest – Rechtsgrundlage, TOM, Schulung, Dokumentation – ist Routine, sobald die Strukturen einmal stehen. Die jüngste Verschiebung der Hochrisiko-Pflichten auf 2027/2028 verschafft zusätzlich Luft, ändert aber nichts an den bereits geltenden Pflichten. Wer jetzt handelt, macht aus genau jener rechtlichen Verunsicherung, die heute über 80 Prozent der Unternehmen bremst, einen Wettbewerbsvorteil – und ist startklar, während andere noch zögern.
Sie wollen KI-Assistenten in Ihrem Unternehmen rechtssicher und mit echtem Geschäftsnutzen einführen? In einem kostenlosen Erstgespräch ordnen wir Ihren konkreten Anwendungsfall datenschutzrechtlich ein und zeigen, welche Lösung zu Ihren Anforderungen passt. Jetzt kostenloses Erstgespräch vereinbaren.
Häufige Fragen (FAQ)
Darf ich die kostenlose Version von ChatGPT im Unternehmen nutzen?
Für personenbezogene oder vertrauliche Geschäftsdaten nicht. Den kostenlosen und privaten Versionen fehlt der nach Art. 28 DSGVO zwingend erforderliche Auftragsverarbeitungsvertrag, und Eingaben können zum Training des Modells verwendet werden. Für den betrieblichen Einsatz ist ein Enterprise-, Team- oder API-Tarif mit AVV und Trainingsausschluss erforderlich.
Was ist der wichtigste erste Schritt für ein KMU?
Die Auswahl eines geprüften Geschäftstarifs mit drei Eigenschaften: abgeschlossener AVV, EU-Datenresidenz und vertraglicher Ausschluss des Modelltrainings auf Ihren Daten. Damit ist der Großteil der rechtlichen Risiken bereits an der Wurzel adressiert, bevor es an interne Richtlinien und Schulung geht.
Brauche ich für jeden KI-Assistenten eine Datenschutz-Folgenabschätzung?
Nein, nur bei voraussichtlich hohem Risiko nach Art. 35 DSGVO – etwa bei Profiling, automatisierten Entscheidungen mit Wirkung auf Personen oder umfangreicher Verarbeitung sensibler Daten. Ein KI-Assistent zur reinen Textunterstützung ohne Personenbezug löst die DSFA-Pflicht in der Regel nicht aus. Ein Abgleich mit der „Muss-Liste” Ihrer zuständigen Aufsichtsbehörde schafft im Zweifel schnell Klarheit.
Gilt der EU AI Act auch für kleine Unternehmen, die KI nur nutzen?
Ja. Auch reine Anwender unterliegen Pflichten, allen voran der seit Februar 2025 geltenden KI-Kompetenzpflicht nach Art. 4 – Mitarbeiter müssen für den Umgang mit KI ausreichend geschult sein. Die besonders aufwändigen Hochrisiko-Pflichten wurden über den „Digital Omnibus” auf Dezember 2027 beziehungsweise August 2028 verschoben; ab dem 2. August 2026 greift jedoch bereits die Durchsetzung der GPAI- und Transparenzpflichten. Bußgelder reichen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes.