Stellen Sie sich vor, Ihr Vertriebsmitarbeiter sitzt am Montag morgen am Schreibtisch und will schnell ein Angebot für einen Kunden formulieren. Er öffnet ChatGPT, tippt: "Schreib mir ein Angebot für Müller GmbH, Ansprechpartner Thomas Müller, für die Lieferung von 500 Einheiten…" — und drückt Enter.
Was in diesem Moment passiert, ist technisch banal. Was es rechtlich bedeutet, ist alles andere als das.
Was technisch passiert: der Weg Ihrer Daten
Sobald der Mitarbeiter Enter drückt, verlässt der Text Ihren Browser. Er wird verschlüsselt über das öffentliche Internet an Server von OpenAI übertragen — Server, die ausschließlich in den USA stehen. Konkret: Microsoft Azure-Rechenzentren in der Region East US oder West US. Die Antwort läuft denselben Weg zurück.
Der Name "Müller GmbH", die Kontaktperson "Thomas Müller", der Auftragsumfang — all das sind personenbezogene Daten im Sinne von DSGVO Art. 4 Nr. 1. Und sie liegen jetzt auf einem US-Server, unter der Kontrolle eines US-Unternehmens, das US-Recht unterworfen ist.
Technische Realität: OpenAI betreibt seine Infrastruktur über Microsoft Azure. Selbst wenn Sie ein "Enterprise"-Abo haben und OpenAI Ihnen verspricht, Ihre Daten nicht für Training zu nutzen — der physische Standort bleibt die USA. Das ist keine Frage von Vertrauen, sondern von Rechtsordnung.
Das allein wäre noch handhabbar, wenn es ein angemessenes Schutzniveau in den USA gäbe. Gibt es aber nicht — und genau darum dreht sich der entscheidende Rechtsstreit der letzten Jahre.
Schrems II: warum Standardvertragsklauseln nicht ausreichen
Im Juli 2020 hat der Europäische Gerichtshof (EuGH) in der Rechtssache C-311/18 (Schrems II) das Privacy Shield zwischen der EU und den USA für ungültig erklärt. Die Kernaussage war eindeutig: Die US-Geheimdienste — insbesondere unter dem Foreign Intelligence Surveillance Act (FISA Section 702) — haben weitreichende Zugriffsrechte auf Daten, die auf US-Servern gespeichert sind oder durch US-Unternehmen verarbeitet werden. Dagegen hilft kein europäisches Recht.
Seitdem versuchen viele Unternehmen, sich mit Standardvertragsklauseln (SCCs) zu behelfen. Das sind von der EU-Kommission vorformulierte Vertragsklauseln, die Datentransfers in Drittstaaten absichern sollen. OpenAI und Microsoft bieten SCCs an. Viele Unternehmen unterschreiben sie und glauben damit auf der sicheren Seite zu sein.
Ein Irrtum.
Der EuGH hat in Schrems II ausdrücklich festgestellt: SCCs können einen Datentransfer in die USA nur dann legitimieren, wenn das Schutzniveau im Empfängerland dem europäischen tatsächlich entspricht. Da US-Nachrichtendienste durch FISA 702 und den Cloud Act weiterhin auf Daten zugreifen können, erfüllen die USA diese Voraussetzung nicht. SCCs mit US-Unternehmen bieten damit nur dann echten Schutz, wenn zusätzliche technische Maßnahmen — etwa Ende-zu-Ende-Verschlüsselung mit Schlüsseln, zu denen der US-Anbieter keinen Zugang hat — implementiert sind. Das ist bei ChatGPT und Claude.ai nicht der Fall.
EuGH, Urteil vom 16. Juli 2020, C-311/18 — "Schrems II": "Die Klauseln des Beschlusses 2010/87 können keine Sicherheitsgarantien bieten, die über das hinausgehen, was das Recht des betreffenden Drittlandes Unternehmen auferlegt." — Bezogen auf FISA 702 und US Cloud Act bedeutet das: Kein Vertrag übertrumpft US-Geheimdienstrecht.
Konkrete Risiken: wofür Sie als Geschäftsführer haften
Schauen wir uns an, was ein solcher Vorfall konkret auslöst. Die DSGVO unterscheidet zwei Bußgeldrahmen nach Art. 83:
- Art. 83 Abs. 4 DSGVO: Bis zu 10 Millionen Euro oder 2 % des weltweiten Jahresumsatzes — für Verstöße gegen grundlegende Pflichten wie die Pflicht zur Rechtsgrundlage der Verarbeitung oder zur Auftragsverarbeitungsvertrag-Pflicht.
- Art. 83 Abs. 5 DSGVO: Bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes — für Verstöße gegen die Grundsätze der Verarbeitung, etwa unzulässige Drittlandübermittlungen.
Ein ungesicherter Datentransfer in die USA fällt in der Regel unter Art. 83 Abs. 5 — also den höheren Rahmen. Die Aufsichtsbehörden schauen nicht nur auf den Schaden, sondern auf den Vorsatz. Wer wissentlich ein Tool nutzt, das Daten in die USA überträgt, ohne die rechtlichen Voraussetzungen zu erfüllen, handelt zumindest fahrlässig.
Haftung der Geschäftsführung: Als Geschäftsführer sind Sie persönlich verantwortlich dafür, dass datenschutzkonforme Prozesse im Unternehmen implementiert sind. Die Aufsichtsbehörden können Bußgelder nicht nur gegen das Unternehmen, sondern in bestimmten Konstellationen auch gegen natürliche Personen verhängen. Unwissenheit schützt dabei nicht vor Strafe — zumal die DSGVO seit 2018 in Kraft ist und regelmäßig kommunizierte Anforderungen stellt.
Hinzu kommt das zivilrechtliche Risiko: Werden Kundendaten in die USA übertragen und kommt es zu einem Datenleck oder zu einer behördlichen Offenlegung, können betroffene Kunden Schadensersatz nach Art. 82 DSGVO verlangen. Bei Geschäftsdaten, die Wettbewerbsvorteile offenbaren, kommen weitere Ansprüche aus dem Geschäftsgeheimnisgesetz (GeschGehG) hinzu.
Das Alltagsproblem: Mitarbeiter handeln ohne böse Absicht
Der größte Fehler wäre zu glauben, das Problem betrifft nur "sorglosen Mitarbeiter". Die Realität ist: Mitarbeiter nutzen ChatGPT, weil es funktioniert. Es spart Zeit, liefert brauchbare Ergebnisse und kein internes Tool schlägt es derzeit in der Benutzerfreundlichkeit. Die Frage ist nicht, ob Ihre Mitarbeiter KI nutzen — die Frage ist, ob Sie wissen, welche Daten dabei das Unternehmen verlassen.
Typische Szenarien aus dem Alltag, die rechtlich heikel sind:
- HR-Mitarbeiter lässt Bewerbungsunterlagen von ChatGPT zusammenfassen — Bewerberdaten sind besonders schützenswert
- Buchhalter bittet ChatGPT um Hilfe bei einer Zahlungsübersicht mit Kundennamen und Beträgen
- Projektmanager nutzt ChatGPT zum Protokollieren einer Besprechung, in der Kundenprojekte besprochen wurden
- Vertrieb lässt Angebotstexte mit Kundenspezifika formulieren
In all diesen Fällen verlassen personenbezogene oder vertrauliche Daten das Unternehmen in Richtung USA — ohne dass ein gültiger Rechtsrahmen für diesen Transfer vorliegt.
Was Unternehmen konkret tun können
Der pragmatische Weg ist nicht, KI zu verbieten. Das funktioniert nicht und kostet Sie Produktivität. Der richtige Weg ist, KI auf einer rechtlich sauberen Basis verfügbar zu machen.
Konkret bedeutet das:
- EU-Serverstandort: Die KI-Infrastruktur muss physisch in der EU betrieben werden. AWS Frankfurt (eu-central-1) gilt als angemessener Standort, sofern keine US-Konzernmutter mit Zugriffsrecht besteht — wobei hier das AWS-Konzernrecht genau zu prüfen ist. Entscheidend ist, wer tatsächlich die Kontrolle über die Daten hat.
- Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO: Jeder Anbieter, der personenbezogene Daten in Ihrem Auftrag verarbeitet, braucht einen AVV. Ohne AVV sind Sie bereits im Verstoß — unabhängig von der Serverfrage.
- Kein unkontrollierter direkter Nutzer-Zugang zu US-Diensten: Das bedeutet in der Praxis: keine direkten ChatGPT- oder Claude.ai-Accounts für Mitarbeiter, sondern eine eigene, kontrollierte Infrastruktur.
- Dokumentation und Datenschutz-Folgenabschätzung: Für bestimmte Verarbeitungen — etwa wenn sensitive Kategorien von Daten betroffen sind — ist eine DSFA nach Art. 35 DSGVO Pflicht.
Das klingt nach einem IT-Projekt. Muss es aber nicht sein. Es gibt inzwischen Anbieter, die genau diesen Rechtsrahmen fertig aufgebaut haben — mit AVV, EU-Server und einem KI-Modell, das dem von ChatGPT in der Leistungsfähigkeit nichts nachsteht.
Der Punkt ist folgender: Jedes Mal, wenn ein Mitarbeiter Kundendaten in ein US-KI-Tool eingibt, entsteht eine potenzielle Datenpanne. Nicht weil das Tool schlecht ist. Sondern weil der rechtliche Rahmen fehlt. Die DSGVO kennt kein "haben wir nicht gewusst" — und Aufsichtsbehörden wie die bayerische Datenschutzaufsicht (BayLDA) oder die Berliner Beauftragte für Datenschutz prüfen KI-Nutzung in Unternehmen zunehmend aktiv.
Die gute Nachricht: Das Problem ist lösbar. Und zwar ohne monatelange IT-Projekte oder hunderttausend Euro Anwaltskosten.