Zum Inhalt springen

KI im Unternehmen: Was darf ich hineingeben?

18. November 2026 durch
KI im Unternehmen: Was darf ich hineingeben?
Verwaltung

Darf ich Kundendaten in eine KI eingeben? Für fast jeden, der KI im Unternehmen einsetzt, ist das die erste Frage. Sie klingt nach einem Ja oder Nein, hat aber eine längere Antwort: vielleicht ja, unter Bedingungen. In diesem Artikel schauen wir uns die Rechtsgrundlage genauer an. Das Video erklärt, worauf man achten muss. Hier stehen die Klickwege, die Formulierungen und die Quellen zum Nachprüfen.

Das Wichtigste in Kürze

  • Es kommt darauf an, was du hineingibst. Alles fällt in einen von drei Körben, und jeder Korb hat ein eigenes Regelwerk: freie Inhalte, Betriebsgeheimnisse, personenbezogene Daten.
  • Ein Auftragsverarbeiter ist kein Dritter. Artikel 4 Nummer 10 DSGVO nimmt ihn von dieser Definition aus. Du brauchst deshalb keine neue Rechtsgrundlage, sondern die, die für den Vorgang ohnehin gilt.1
  • Außerhalb der EU ist nicht dasselbe wie verboten. Steht der Anbieter auf der amtlichen Liste des Data Privacy Framework, entfällt die eigene Prüfung. Steht er nicht darauf, liegt die Arbeit bei dir. Hier kann die Unterstützung einer Kanzlei nötig werden.3
  • Die Drittlandanalyse ist entscheidend. Fällt sie negativ aus, lautet das Ergebnis nicht Dokumentation, sondern Unterlassen.6
  • Das größte Risiko ist nicht die Firmen-KI, sondern das private Konto, das jemand benutzt, weil es kein erlaubtes Werkzeug gibt.
  • Eine Pflicht trifft jeden: Artikel 4 der KI-Verordnung verlangt von jedem Unternehmen, das KI einsetzt, ein ausreichendes Maß an KI-Kompetenz der Belegschaft. Unabhängig von Größe und Zweck.12

Was dieser Artikel ist und was nicht

Dies ist keine Rechtsberatung. Wir haben selbst recherchiert und fassen zusammen, was wir gefunden haben. Das reicht für einen Überblick, nicht für eine Entscheidung.

Vieles ist rechtlich nicht abschließend geklärt. An diesen Stellen sagen wir es dazu. Deinen eigenen Fall klärst du am sichersten mit einem Anwalt.

Alle Quellen stehen am Ende, mit Datum. Wir haben sie selbst gelesen und nicht aus Vergleichsportalen übernommen.


1. Drei Körbe: was du überhaupt hineingeben willst

Meist wird gefragt, ob KI im Unternehmen erlaubt sei. Diese Frage betrachtet das Werkzeug und führt deshalb in die Irre. Es kommt auf den Inhalt an: Was genau will ich hineingeben? Jede Antwort darauf fällt in einen von drei Körben, und jeder Korb unterliegt einem anderen Regelwerk.

Korb 1: freie Inhalte

Hierzu zählt alles, in dem weder Kundendaten noch Geschäftsinformationen enthalten sind. Das bedeutet: Allgemeine Fragen, Erklärungen von Fachbegriffen, Entwürfe ohne Bezug zu einem konkreten Vorgang, Recherche in öffentlichen Quellen, Einarbeitung, Zahlen, aus denen keine Person hervorgeht etc. 
Für diesen Korb gilt kein besonderes Regelwerk. Du kannst ihn heute nutzen, ohne Vertrag und ohne Verfahren.

Zwei Einschränkungen gehören dazu: 

  1. Prüfe alle Ergebnisse.
  2. Es dürfen wirklich keine Kunden- oder Geschäftsdaten verarbeitet werden.

Korb 2: Betriebsgeheimnisse

Hierzu zählen alle Informationen, die eure Firma oder eine Abteilung nicht verlassen sollte.

Das bedeutet: Baupläne, Konstruktionszeichnungen, Kalkulationen, Quelltexte, Rezepturen, Preisstrategien, Lieferantenkonditionen etc. 

In diesem Korb steht kein einziger personenbezogener Datensatz. Das Datenschutzrecht befasst sich damit nicht. Zuständig ist das Geschäftsgeheimnisgesetz. Mehr dazu in Abschnitt 3.

Zu diesem Korb gehören auch Daten der eigenen Belegschaft: wer welche Zeichnung bearbeitet und wer welchen Fehler gefunden hat. Sobald ein Betriebsrat existiert, entscheidet er darüber mit.

Korb 3: personenbezogene Daten

Hier sind wir nun beim Datenschutz gelandet. Betroffen sind alle personenbezogenen Daten.
Das bedeutet: Kundennamen und Anschriften, Ansprechpartner, Reklamationen mit Namen, Bewerbungen, Personalakten etc. Alles, woraus eine bestimmte Person hervorgeht. 

Regelwerk ist die Datenschutz-Grundverordnung. Hierzu werden die häufigsten Fragen gestellt.

Warum die Frage überhaupt aufkommt

KI kann auch ohne Kundendaten verwendet werden. Der Bitkom hat Anfang 2026 604 Unternehmen ab 20 Beschäftigten befragt. Der mit Abstand häufigste Einsatzbereich ist der Kundenkontakt mit 88 Prozent, gefolgt von Marketing und Kommunikation mit 57 Prozent. Die eigene IT liegt mit 2 Prozent am Ende.13 Dort, wo KI am häufigsten eingesetzt wird, fallen personenbezogene Daten systematisch an.

Eine Auswertung von OpenAI und Harvard über mehr als eine Million Gespräche zeigt dasselbe aus einer anderen Richtung: Schreiben ist mit rund 40 Prozent die häufigste berufliche Anwendung, und zwei Drittel dieser Anfragen erzeugen keinen neuen Text, sondern arbeiten einen mitgebrachten Text um.14 Einen Text mitbringen heißt im Unternehmen: ein Angebot, eine Reklamation, eine Rechnung, eine Kundenmail, ein Prüfprotokoll.

Deswegen gehen wir der Frage nach dem Datenschutz nun auf den Grund.


2. Die Reise deiner Daten: alle neun Stationen

Bevor wir über den Datenschutz sprechen, müssen wir verstehen, wo Daten verarbeitet und gespeichert werden. In dieser Übersicht findest du die neun Stationen der Reise.

Die neun Stationen einer einzelnen Anfrage
#StationWas dort passiert
1Dein GerätDer Text verlässt das Haus verschlüsselt, unterwegs per TLS, im Ruhezustand mit AES 256. Bei allen geprüften Anbietern Standard.
2Was losgeschickt wirdSystemanweisung, der gesamte bisherige Verlauf, hochgeladene Dateien, Werkzeugbeschreibungen. Bei jeder Frage neu.
3Beim AnbieterEntschlüsselung, davor eine automatische Eingangskontrolle.
4Der RechenortHier wird ausgewertet. Nicht dasselbe wie der Speicherort. Ablage in Frankfurt bei gleichzeitiger Berechnung in Virginia ist möglich.
5Das ModellArbeitsgedächtnis, kein Archiv. Es behält nichts, sofern nicht mit den Eingaben trainiert wird.
6Die Antwort zurückLäuft erneut durch Filter und wird wieder verschlüsselt.
7Der SpeicherortHier bleibt der Gesprächsverlauf liegen. Wie lange, bestimmt der Tarif.
8Die ProtokolleHier liegen die Betriebsprotokolle des Anbieters, bei vielen Diensten einschließlich der Inhalte. Eigener Speicher, eigene Frist. Üblich ist etwa ein Jahr.
9Wer hineinsehen darfDer Anbieter, ein Gericht und der eigene Administrator.

Station 2: warum dieselbe Rechnung mehrfach verschickt wird

Ein Gespräch ist kein Faden, sondern wie ein Papierstapel. Mit jeder Frage geht der gesamte bisherige Verlauf erneut an den Anbieter, deine neue Angabe legt nur ein Blatt obenauf. Wer vor zwanzig Minuten eine Rechnung eingefügt hat und jetzt im selben Chat nach dem Wetterbericht fragt, verschickt diese Rechnung ein zweites Mal.

Anthropic bezeichnet das Kontextfenster in der Entwicklerdokumentation als Arbeitsgedächtnis und unterscheidet es von den Daten, mit denen das Modell trainiert wurde.15

Die Folge für die Dokumentation: Ein langes Gespräch mit einem einmal eingefügten Kundendatensatz ist keine einmalige Übermittlung. Es sind so viele Übermittlungen, wie das Gespräch Fragen hat.

Station 3: die Eingangskontrolle

OpenAI behält sich für die Geschäftstarife vor, alle übermittelten geschäftlichen Daten durch automatisierte Inhaltsklassifizierer und Sicherheitswerkzeuge laufen zu lassen.22 Das ist keine menschliche Durchsicht, aber es ist eine Verarbeitung, die im Verzeichnis nicht fehlen sollte.

Station 4: Speicherort ist nicht Rechenort

Diese Unterscheidung entscheidet später eine ganze Spalte der Anbietertabelle. Ein Anbieter kann deine Daten in Frankfurt ablegen und trotzdem in Virginia rechnen lassen. Beides muss also geprüft werden. Bei Microsoft Copilot bleibt der Verkehr aus der EU innerhalb der EU-Datengrenze.19

Station 7 und 8: was wie lange liegen bleibt

Bei OpenAI werden gelöschte Unterhaltungen innerhalb von 30 Tagen aus den Systemen entfernt, sofern keine gesetzliche Pflicht entgegensteht.22 Bei einer Modellklasse, die Microsoft zuschalten kann, werden die meisten Ein- und Ausgaben bis zu 30 Tage aufbewahrt. Schlagen die Sicherheitsfilter an, liegen Inhalte bis zu zwei Jahre und die Bewertungen dazu bis zu sieben Jahre.20

Daneben entstehen technische Protokolle, bei vielen Diensten einschließlich der Inhalte. Üblich ist etwa ein Jahr, abweichende Fristen lassen sich vertraglich vereinbaren.

Station 9: der eigene Administrator

Die letzte Gruppe sitzt im eigenen Haus.

Bei Microsoft werden Eingaben und Antworten im einheitlichen Prüfprotokoll erfasst. Für die Beweissicherung gilt laut Dokumentation, dass Eingaben und Antworten der Nutzer für KI-Anwendungen im Postfach des Nutzers gespeichert und damit durchsuchbar und exportierbar sind.19 Bei OpenAI haben Administratoren eines Arbeitsbereichs über eine eigene Schnittstelle Zugriff auf ein Prüfprotokoll mit den Gesprächen.22

Diese Protokolle sind gewollt, und für die Rechenschaftspflicht aus Artikel 5 Absatz 2 DSGVO brauchst du sie sogar. Das bedeutet allerdings auch: Was Beschäftigte in die Firmen-KI tippen, ist im Haus lesbar. Diese Station ist zugleich der Grund, warum der Betriebsrat mitbestimmt. Dazu weiter unten.


3. Die Rechtslage: Datenschutz, Geheimnisschutz, Mitbestimmung

Korb 2: Geheimnisschutz kehrt die Beweislast um

Ein Geschäftsgeheimnis ist nicht geschützt, weil es geheim ist. Es ist nach § 2 Nummer 1 Buchstabe b GeschGehG nur geschützt, wenn es Gegenstand den Umständen nach angemessener Geheimhaltungsmaßnahmen ist.9 

Entscheidend ist die Folge daraus: Die Darlegungs- und Beweislast trägt der Geheimnisinhaber. Im Streitfall musst du beweisen, dass du dein Geschäftsgeheimnis ausreichend geschützt hast.

Das Oberlandesgericht Stuttgart hat in seinem Urteil vom 19. November 2020 drei Arten von Maßnahmen benannt:10

ArtBeispiele
TechnischPasswortschutz, Verschlüsselung, verschlossene Räume
OrganisatorischZugang nach dem Grundsatz der Erforderlichkeit, Kennzeichnung, Richtlinien
VertraglichVerschwiegenheitsverpflichtungen mit dokumentiertem Kenntnisnachweis

Zu den Bewertungsfaktoren zählt ausdrücklich die Unternehmensgröße. Von einem Unternehmen mit 28 Beschäftigten verlangt das Gericht nicht dasselbe wie von einem Konzern, und äußerste Sicherheit verlangt es ohnehin nicht. Es nennt allerdings einen Punkt, an dem der Schutz kippt: Ein in Kauf genommenes Datenleck kann dazu führen, dass kein angemessenes Schutzniveau mehr vorliegt.

Unsere Lesart: Wer weiß, dass Beschäftigte Konstruktionsdetails in private KI-Konten eingeben, und nichts unternimmt, nimmt ein solches Leck in Kauf. Die Gegenmaßnahme ist billig: Ein erlaubtes Werkzeug bereitstellen und eine Regel aufschreiben. Beides zusammen ist eine organisatorische Maßnahme im Sinne des Urteils. Das ist Schritt 8 weiter unten, und er erledigt Datenschutz und Geheimnisschutz in einem Vorgang.

Der Betriebsrat: unterrichten reicht nicht immer

Dieser Abschnitt betrifft nur Betriebe mit Betriebsrat. Bei 28 Beschäftigten ist das die Ausnahme, bei größeren Betrieben die Regel. 

Wer keinen hat, springt zum nächsten Abschnitt.

Erste Stufe: Unterrichtung und Beratung. Wenn ihr KI einführt, müsst ihr den Betriebsrat unterrichten. Seit einigen Jahren steht das wörtlich im Gesetz. § 90 Absatz 1 Nummer 3 BetrVG nennt die Planung von Arbeitsverfahren und Arbeitsabläufen einschließlich des Einsatzes von Künstlicher Intelligenz.11 Unterrichten heißt rechtzeitig und unter Vorlage der erforderlichen Unterlagen. Absatz 2 verlangt zusätzlich eine Beratung, und zwar so rechtzeitig, dass Vorschläge und Bedenken noch in die Planung einfließen können.

Zweite Stufe: Mitbestimmung. Bei technischen Einrichtungen, die dazu bestimmt sind, das Verhalten oder die Leistung der Beschäftigten zu überwachen, muss der Betriebsrat nach § 87 Absatz 1 Nummer 6 BetrVG mitbestimmen. Mitbestimmen heißt nicht anhören, sondern zustimmen.

Künstliche Intelligenz kommt in § 87 BetrVG an keiner Stelle vor. Ausschlaggebend ist die Eignung zur Überwachung. Ob dabei überhaupt Mitarbeiterdaten verarbeitet werden, spielt keine Rolle. Hier schlägt Station 9 durch: Wenn Eingaben und Antworten im Prüfprotokoll und im Postfach landen und Administratoren die Gespräche einsehen können, ist das Werkzeug zur Überwachung geeignet, unabhängig davon, ob das jemand beabsichtigt.

Was das praktisch bedeutet: Eine KI, die nur Zollanmeldungen vorbereitet und dabei ausschließlich Kundendaten sieht, verarbeitet keine Mitarbeiterdaten. Sie protokolliert aber, wer wann was eingegeben hat, und löst damit die Mitbestimmung aus.

Ein Kostenpunkt, der in den meisten Aufwandsschätzungen fehlt: Muss der Betriebsrat die Einführung oder Anwendung von Künstlicher Intelligenz beurteilen, gilt nach § 80 Absatz 3 Satz 2 BetrVG die Hinzuziehung eines Sachverständigen als erforderlich. Sonst muss der Betriebsrat die Erforderlichkeit begründen, bei KI gilt sie als gegeben. Bezahlt wird der Sachverständige vom Arbeitgeber.

Für die Personalauswahl kommt § 95 Absatz 2a BetrVG hinzu: Die Regeln über Auswahlrichtlinien gelten auch dann, wenn bei ihrer Aufstellung Künstliche Intelligenz zum Einsatz kommt.

Der Nebeneffekt, der die Arbeit lohnt: Die Betriebsvereinbarung, die am Ende dieses Weges steht, ist zugleich die organisatorische Maßnahme, die das Geschäftsgeheimnisgesetz verlangt. Ein Dokument, zwei Pflichten.

Offen geblieben

Ob die Rechtsprechung die objektive Eignung zur Überwachung genügen lässt oder eine Überwachungsabsicht verlangt, haben wir nicht abschließend belegen können. Nach unserem Verständnis genügt die Eignung. Wer darauf eine Entscheidung stützt, sollte das anwaltlich klären lassen.

KI-Kompetenz der Mitarbeiter

Artikel 4 der KI-Verordnung verlangt von Anbietern und Betreibern von KI-Systemen, Maßnahmen zu ergreifen, um nach besten Kräften ein ausreichendes Maß an KI-Kompetenz ihres Personals sicherzustellen. Berücksichtigt werden dabei Vorwissen, Erfahrung, Ausbildung und der Einsatzzusammenhang.12

Diese Vorschrift ist nicht auf Hochrisiko-Systeme begrenzt. Sie steht in Kapitel I und spricht ohne Einschränkung von KI-Systemen. 

Übersetzt heißt das: Wer seinen Leuten ein Werkzeug hinstellt, schuldet ihnen auch, dass sie damit umgehen können.

Die Grenze zum Hochrisiko-System verläuft nach Anhang III der Verordnung so: Eine KI, die Zollanmeldungen vorbereitet, fällt nicht darunter. Eine KI, die Bewerbungen vorsortiert, Bewerber bewertet oder Leistung und Verhalten von Beschäftigten überwacht, fällt darunter.12

Für Hochrisiko-Systeme am Arbeitsplatz kommt eine eigene Unterrichtungspflicht hinzu: Nach Artikel 26 Absatz 7 müssen Arbeitgeber die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren, bevor sie ein solches System in Betrieb nehmen. Das ist eine reine Unterrichtung und kein Zustimmungserfordernis. Für einen Schreib- oder Auswertungsassistenten im Büro greift die Vorschrift nicht. Die Betriebsratsrechte kommen aus dem Betriebsverfassungsgesetz, nicht aus der KI-Verordnung.

Zum Zeitplan: Die Geltungstermine der einzelnen Kapitel sind derzeit in Bewegung. Artikel 4 gilt bereits.

Korb 3: warum die Eingabe keine Weitergabe ist

Am Anfang des verbreitetsten Irrtums steht ein richtiger Satz: Personenbezogene Daten darf ich nicht einfach an Dritte weitergeben. Daraus scheint zu folgen, dass die Eingabe in eine KI eine solche Weitergabe ist und deshalb eine eigene Erlaubnis braucht. Das Gesetz sieht es anders.

Artikel 4 Nummer 10 DSGVO definiert, wer Dritter ist, und nimmt den Auftragsverarbeiter ausdrücklich aus.1 Ist dein Anbieter Auftragsverarbeiter, gibst du die Daten nicht weiter, sondern verarbeitest sie weiter, nur mit einem fremden Werkzeug. Es bleibt deine Verarbeitung, und damit gilt weiterhin die Rechtsgrundlage, auf der der Vorgang schon beruht.

Es ist derselbe Gedanke wie damals, als die Buchhaltung vom Papierordner auf ein Programm umgestiegen ist. Dafür hat niemand eine neue Erlaubnis gebraucht. Das Werkzeug hat sich geändert, nicht der Zweck.

Warum der Satz über das Training so wichtig ist

Der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Baden-Württemberg zieht eine klare Grenze. Eine bloße Auftragsverarbeitung liege nicht mehr vor, wenn die eingegebenen personenbezogenen Daten auch der Verbesserung der Anwendung zugutekommen. Die Verarbeitung diene dann nämlich auch den eigenen Zwecken des Anbieters.2

Daraus folgt: Wer mit deinen Eingaben trainiert, ist kein Dienstleister mehr, sondern verfolgt eigene Zwecke und ist damit selbst verantwortlich. Dann trägt der Auftragsverarbeitungsvertrag nicht mehr, und die Übermittlung bräuchte eine eigene Rechtsgrundlage, die es in aller Regel nicht gibt. Auf dem Satz, man trainiere nicht mit den Eingaben der Kunden, ruht deshalb die ganze Konstruktion.

Die Nachfrage muss deshalb der Voreinstellung gelten: Ist das Training ab Werk aus? Dass es sich abschalten lässt, genügt nicht. Wer erst abschalten muss, hat in jedem unbeaufsichtigten Konto ein Problem, bis es korrekt eingestellt wurde.

Vier Dinge, die trotzdem bleiben

  • Die Auswahl ist deine Pflicht. Du darfst nicht irgendeinen Auftragsverarbeiter nehmen. Artikel 28 DSGVO verlangt, dass er hinreichende Garantien bietet.
  • Er ist kein Dritter, aber Empfänger. Empfänger im Sinne von Artikel 4 Nummer 9 gehören ins Verzeichnis von Verarbeitungstätigkeiten.
  • Die Drittlandfrage ist eine zweite, eigene Schicht. Sie gilt auch dann, wenn alles andere stimmt.
  • Die Daten dürfen weiterhin nicht für das Training verwendet werden.

Drittland: außerhalb der EU ist nicht automatisch verboten

Eine Übermittlung in die USA ist zulässig, wenn es dafür eine Grundlage nach Artikel 44 ff. DSGVO gibt. Seit 2023 existiert ein Angemessenheitsbeschluss der Europäischen Kommission, das EU-US Data Privacy Framework.3 Ist ein Anbieter dort zertifiziert, brauchst du weder zusätzliche Vertragsklauseln noch ein eigenes Gutachten.

Zwei Punkte gehören dazu:

  • Die Nichtigkeitsklage von Latombe wurde am 3. September 2025 abgewiesen. Der Beschluss gilt.4
  • Das Rechtsmittel läuft beim Europäischen Gerichtshof.5 Unsere Einschätzung: Eine Kehrtwende ist möglich.

Außerdem ist Drittland nicht gleich Drittland. Die Schweiz und Großbritannien sind ebenfalls Drittländer, verfügen aber über einen vollen Angemessenheitsbeschluss. Dorthin darfst du übermitteln, ohne zusätzlich etwas zu tun.

Wo du nachsiehst: Ob ein Anbieter zertifiziert ist, steht in der amtlichen Liste des US-Handelsministeriums. Die Angabe auf seiner eigenen Website genügt nicht.28 Dort steht auch der Status. Die Angabe, dass eine Rezertifizierung geprüft wird, bedeutet, dass die jährliche Erneuerung läuft, nicht dass etwas beanstandet wurde. Bei unserer Prüfung hatte die Liste 3.664 Teilnehmer. Google und Microsoft stehen darin, OpenAI und Anthropic nicht, weder als aktive noch als ehemalige Teilnehmer. (Stand: 29.10.2026)

Beim Data Privacy Framework genügt die Zertifizierung des Anbieters. Bei Standardvertragsklauseln musst du selbst prüfen und dokumentieren, und die Arbeit liegt dann bei dir.


4. Die vier Risiken

Weg 1: ein Gericht

Ein amerikanisches Gericht hat OpenAI angewiesen, Inhalte unbefristet aufzubewahren, auch Unterhaltungen, die Nutzer selbst gelöscht hatten. Anlass war eine Urheberrechtsklage der New York Times. Betroffen waren die Tarife Free, Plus, Pro und Team sowie die Programmierschnittstelle ohne gesonderte Vereinbarung. Enterprise und Edu waren ausgenommen. Die Anordnung lief bis zum 26. September 2025.23

Vier Monate lang wurden gelöschte Unterhaltungen aufbewahrt, aufgrund eines Rechtsstreits einer amerikanischen Zeitung, mit dem kein einziger Kunde etwas zu tun hatte. Entschieden hat darüber der gebuchte Tarif, nicht der Vertrag und nicht eine Einstellung.

Weg 2: ein Angriff über den Inhalt selbst

Im Juni 2025 wurde eine Schwachstelle in Microsoft 365 Copilot veröffentlicht. Die amtliche Beschreibung spricht von einer KI-Befehlseinschleusung, die es einem unberechtigten Angreifer erlaubt, Informationen über das Netz offenzulegen.27 Nötig war dafür lediglich eine E-Mail. Copilot zieht beim Beantworten Inhalte aus Postfach, Dateiablage, SharePoint und Teams heran. Über eine im E-Mail Text versteckte Anweisung ließen sich Inhalte nach außen geben. Die Lücke ist mittlerweile geschlossen.

Damit verschiebt sich die Ausgangsfrage. Sie betrifft nicht den Anbieter, der etwas stehlen könnte, sondern das Werkzeug im eigenen Haus: Sobald es selbstständig auf deine Ablagen zugreift, wird jeder Text, den es liest, zu einer möglichen Anweisung. Eine Mail von außen, ein Lieferschein als PDF, ein Kommentar in einer Datei.

Drei Regeln für Agenten, und wie du sie einrichtest

Was die Regeln nicht leisten. Das OWASP-Projekt führt Prompt Injection als Risiko Nummer eins für Anwendungen mit Sprachmodellen und schreibt dazu, es sei unklar, ob es überhaupt narrensichere Verhinderungsmethoden gebe.26 Die folgenden Regeln dienen also der Vorbeugung, ohne eine Garantie zu liefern.

Regel 1: Gib nur die Zugriffe, die die Aufgabe wirklich braucht.

  • Entscheide für jede Anbindung einzeln statt pauschal freizugeben. Postfach, Dateiablage, Projektablage und Chat sind vier Entscheidungen, nicht eine.
  • Lass den Agenten innerhalb einer Ablage mit einem eigenen Konto arbeiten, das nur die benötigten Ordner sieht. Nicht mit dem Konto der Geschäftsführung.
  • Sieh einmal im Quartal nach, was inzwischen dazugekommen ist. Zugriffsrechte wachsen von allein, schrumpfen aber nicht ohne dein Zutun.

Regel 2: Lass einen Menschen bestätigen, bevor etwas das Haus verlässt.

  • Mail versenden, Datei teilen, Freigabe erteilen, Termin verschicken: Jede dieser vier Aktionen braucht eine Bestätigung.
  • Lesen darf der Agent allein, nach außen schreiben nicht.
  • Das ist unbequem und deshalb wirksam. Bei der Copilot-Lücke musste der Nutzer nichts anklicken, und darin lag das Problem.

Regel 3: fremde Inhalte sind Material, keine Arbeitsanweisung.

  • Grenze eingehende Texte in der Aufgabenstellung sichtbar ab, etwa als Zitatblock mit dem Hinweis, dass darin enthaltene Anweisungen nicht gelten.
  • Aufträge kommen von Menschen aus dem Unternehmen, nicht aus Dokumenten.
  • Besondere Vorsicht gilt bei allem, was von außen kommt und automatisch gelesen wird: Mails, PDF-Anhänge, Kommentare in Dateien, Kundentickets.

Und eine vierte Regel, die im Video keinen Platz hatte: Protokolliere, was der Agent nach außen gegeben hat, nicht nur, was er getan hat. Ohne dieses Protokoll kannst du nach einem Vorfall nicht sagen, was abgeflossen ist, und danach fragt die Aufsichtsbehörde innerhalb von 72 Stunden.

Weg 3: das private Konto

Dieser Weg braucht keinen Angreifer. Er entsteht, wenn Beschäftigte kein erlaubtes Werkzeug haben und deshalb ein privates Konto benutzen. Dort gilt kein Vertrag, keine Voreinstellung und keine Aufbewahrungsregel. Und du erfährst nie davon. Nach allem, was wir gesehen haben, ist das der häufigste Weg von allen.

Weg 4: eine Panne beim Anbieter

Die Daten liegen beim Anbieter verschlüsselt, im Ruhezustand und auf dem Transportweg. Das schützt gegen eine gestohlene Festplatte, aber nicht gegen einen Fehler im Programm, denn dort müssen die Daten offen vorliegen.

Im März 2023 hat OpenAI selbst berichtet, dass ein Fehler in einer fremden Programmbibliothek dazu führte, dass Nutzer die Gesprächsüberschriften anderer Nutzer sehen konnten. Bei rund einem Prozent der zahlenden Nutzer wurden zusätzlich Zahlungsdaten sichtbar.24 Bemerkenswert daran ist, dass es kein Angriff war, sondern ein Programmierfehler.

Dagegen hilft dreierlei, und alle drei Mittel kennst du schon aus der Reise: weniger hineingeben, kürzer speichern lassen, und dort, wo es möglich ist, gar nichts speichern lassen. Für die zweite Maßnahme brauchst du eine Fassung, in der du die Aufbewahrung selbst festlegen kannst.

Wenn doch etwas passiert: die Meldepflicht bleibt bei dir

Wenn beim Anbieter etwas passiert und eure Kundendaten betroffen sind, müsst ihr das der Aufsichtsbehörde melden, nicht der Anbieter. Artikel 33 DSGVO ist eindeutig: Der Verantwortliche meldet unverzüglich und möglichst binnen 72 Stunden, der Auftragsverarbeiter meldet unverzüglich an den Verantwortlichen.1

Daraus folgen zwei Dinge. In den Vertrag gehört, wie schnell und wie vollständig der Anbieter informiert. Und im Haus muss festgelegt sein, wer in diesen drei Tagen was tut. Das ist eine halbe Seite Notfallplan, und sie entsteht am besten gleich zusammen mit Schritt 8.


5. Der Durchlauf: acht Schritte

Jetzt spielen wir den Fall einmal vollständig durch. Wir selbst benutzen Claude von Anthropic im Tarif für Teams und haben deshalb diesen Anbieter als Beispiel genommen. Die Frage lautet: Was wäre zu tun, wenn wir ihn bis an die Grenze nutzen würden, also mit allen Vorgängen, echten Kundendaten und Konstruktionsunterlagen?

Der Ausgangsstand

MerkmalStand im Tarif für Teams
Training mit unseren Eingabenab Werk aus, nichts zu tun
Auftragsverarbeitungsvertragin die Bedingungen eingebaut, nichts zu beantragen
Data Privacy Frameworknein. Anthropic steht nicht auf der amtlichen Liste
Rechenzentrum in der EUnein. Die Berechnung läuft auf US-Infrastruktur
Die acht Schritte mit dem Aufwand, den wir dafür veranschlagen
#SchrittAufwand
1Rechtsgrundlage klären20 Minuten
2Vertrag ablegen und mit Datum versehen1 Stunde
3Voreinstellungen prüfen und belegen10 Minuten
4Drittlandanalyse1 bis 2 Tage, danach jährliche Wiedervorlage
5Eintrag ins Verzeichnis1 Stunde
6Absatz in die Datenschutzerklärung1 Stunde zuzüglich Freigabe
7Folgenabschätzung prüfenhalber Tag
8Die Regel auf einer Seitehalber Tag

Die Aufwandsangaben sind unsere eigene Schätzung aus diesem Durchlauf. Wer eine Drittlandanalyse zum ersten Mal und ohne Vorlage erstellt, sollte mehr einplanen, und bei Betriebsrat kommt der Sachverständige hinzu.

Schritt 1: Rechtsgrundlage nach Artikel 6 klären

Maßgeblich ist die Grundlage, auf der du diese Daten ohnehin verarbeitest. Die KI ändert das Werkzeug, nicht den Zweck.

  • Zoll und Ausfuhr: dürfte die rechtliche Verpflichtung sein, Artikel 6 Absatz 1 Buchstabe c
  • Rechnungen und Lieferscheine: dürfte die Vertragserfüllung sein, Artikel 6 Absatz 1 Buchstabe b

Die Einschränkung im Wortlaut ist gewollt: Die Zuordnung ist unsere Einschätzung, nicht die einer Behörde.

Schritt 2: den Vertrag ablegen, nicht nur haben

Bei manchen Anbietern gilt der Auftragsverarbeitungsvertrag automatisch, bei anderen erst nach einem Formular. In beiden Fällen gilt derselbe Handgriff: die geltende Fassung herunterladen, mit Datum ablegen, Wiedervorlage setzen.

Das ist mehr als Ordnungsliebe. Du musst im Zweifel sagen können, auf welche Fassung du dich verlassen hast. Die Auskunft, der Vertrag sei eingebaut gewesen, hilft dann nicht weiter.

Schritt 3: Voreinstellungen prüfen und den Zustand belegen

Sieh in den Kontoeinstellungen beim Datenschutz nach, dass das Training ausgeschaltet ist, mache einen Bildschirmabzug und lege ihn mit Datum ab.

Das dauert zehn Minuten und ist der Nachweis, den du nach Artikel 5 Absatz 2 DSGVO ohnehin schuldest.

Zu den Klickwegen in diesem Artikel

Die Benennung von Einstellungsseiten ändert sich gelegentlich. Wir beschreiben deshalb, was zu belegen ist, und nennen die Menüfolge nur dort, wo sie aus der Dokumentation des Anbieters stammt. Findest du etwas an anderer Stelle, schreib uns, wir tragen es nach.

Schritt 4: die Drittlandanalyse, das Transfer Impact Assessment


FallWas du festhältstWas zusätzlich zu tun ist
Anbieter ist zertifiziert (Data Privacy Framework)Zertifizierung mit Datum und Listeneintragnichts weiter
Anbieter ist nicht zertifiziertStandardvertragsklauseln nach Artikel 46die Analyse, also eine dokumentierte Risikobewertung

Die Prüfpflicht bei Standardvertragsklauseln folgt aus der Schrems-II-Rechtsprechung: Der Verantwortliche muss selbst prüfen, ob im Zielland ein gleichwertiges Schutzniveau besteht, und das dokumentieren.7

Wer sie macht: du. Die DSGVO kennt dafür weder eine Prüfstelle noch eine Freigabe. Niemand unterschreibt gegen. Ein Anwalt ist nicht vorgeschrieben. Du kannst sie selbst machen. Wenn du dich bei dem Thema jedoch nicht auskennst oder auf Nummer sicher gehen willst, hole dir rechtliche Unterstützung.

Die sechs Prüfschritte des Europäischen Datenschutzausschusses

Nicht zu verwechseln mit den acht Schritten dieses Abschnitts. Die Empfehlung 01/2020 nennt sie in dieser Reihenfolge:6

  1. die eigenen Übermittlungen kennen
  2. das verwendete Übermittlungsinstrument festhalten
  3. beurteilen, ob es im Zielland trägt
  4. zusätzliche Maßnahmen ergreifen, wenn es nicht reicht
  5. die formalen Schritte gehen
  6. in angemessenen Abständen neu bewerten

Der dritte Schritt ist der Aufwand. Die Schritte 1, 2, 5 und 6 sind an einem Nachmittag erledigt.

Was du wiederverwenden kannst

Bestandteilwiederverwendbar?
Die Rechtslage im Zielland, also Zugriffsrechte der Behörden und Rechtsschutzja. Für jeden Empfänger im selben Land identisch. Einmal schreiben
Der konkrete Empfänger und der konkrete Vorgangnein. Je Anbieter und je Verarbeitung neu

Die zweite Hälfte ist meistens die kleinere. Die Neubewertung nach Schritt 6 verlangt kein neues Gutachten. Es genügt ein Blick darauf, ob sich etwas geändert hat. Eine Wiedervorlage im Jahr genügt nach unserer Einschätzung, solange Anbieter und Vorgang gleich bleiben.

Frag den Anbieter, bevor du selbst recherchierst

Die Empfehlung nennt ausdrücklich Angaben des Datenimporteurs als zulässige Informationsquelle. Das entlastet den dritten Schritt erheblich.

Bei Anthropic steht die Zulieferung sogar im Vertrag. Der Auftragsverarbeitungszusatz sagt zu, auf Anfrage diejenigen Informationen bereitzustellen, die der Kunde vernünftigerweise benötigt, um ein Transfer Impact Assessment durchzuführen.16 Wer nicht fragt, verschenkt das.

Was du bekommst, ist ordentlich:

AngabeInhalt
ÜbermittlungsinstrumentStandardvertragsklauseln, Modul 2 und Modul 3
Anwendbares RechtRecht der Republik Irland
Unterauftragsverarbeiterallgemeine schriftliche Genehmigung, Liste einsehbar
Weitere RäumeZusätze für das Vereinigte Königreich und die Schweiz
NachweisePrüfberichte und Zertifikate auf schriftliche Anfrage
BehördenanfragenZusage, den Anfragenden zuerst an den Kunden zu verweisen17

Eine fertige Prüfung bekommst du nicht, und es kann sie auch nicht geben. Ein Transfer Impact Assessment bewertet deine Übermittlung: welche Daten, welche Personen, welcher Zweck, welches Instrument. Es ist kein Produktsiegel. Ein Anbieter kann deshalb nur die Bausteine liefern.

Dasselbe gilt für die Suche nach einer Freigabe durch eine Aufsichtsbehörde. Wir haben für Claude und ChatGPT keine gefunden. Sollte eine auftauchen, ändert sie die Lage sofort.

Die eine Auskunft, die fehlt

In den Vertragswerken und in der Richtlinie zu Behördenanfragen kommen die amerikanischen Überwachungsvorschriften an keiner Stelle vor. Einen Transparenzbericht mit Zahlen zu erhaltenen Behördenanfragen haben wir ebenfalls nicht gefunden.

Diese beiden Angaben verlangt die Empfehlung aber für den dritten Schritt: ob die Übermittlung praktisch in den Anwendungsbereich dieser Vorschriften fällt, und ob der Importeur in der Vergangenheit Anfragen erhalten hat. Du bekommst vom Anbieter also alles, was du für die Prüfung brauchst, außer der Antwort, an der die Prüfung hängt.

Die Zusage, Behörden zuerst an den Kunden zu verweisen, ist dabei etwas wert. Sie ersetzt die Auskunft jedoch nicht, und die Empfehlung hält fest, dass das Ausbleiben früherer Anfragen für sich genommen nie entscheidend sein darf.

Die Weiche, die diesen Schritt von einer Formalie unterscheidet

Anhang 2 der Empfehlung beschreibt unter Anwendungsfall 6 genau unsere Lage: Übermittlung an einen Auftragsverarbeiter, der die Daten im Klartext lesen muss. Trifft das zu und gehen die Zugriffsbefugnisse der Behörden im Empfängerland über das hinaus, was in einer demokratischen Gesellschaft notwendig und verhältnismäßig ist, sieht der Ausschuss nach heutigem Stand der Technik keine wirksame technische Maßnahme, die den Zugriff verhindern könnte.

Die naheliegende Gegenmaßnahme scheidet ausdrücklich aus: Transport- und Ruhezustandsverschlüsselung genügen nach der Empfehlung auch zusammen nicht, solange der Empfänger die Schlüssel besitzt. Bei einer KI muss er sie besitzen, denn das Modell muss den Klartext lesen.

Fällt die Prüfung im dritten Schritt negativ aus, darf die Übermittlung nicht stattfinden. Die Empfehlung verlangt dann, sie gar nicht erst zu beginnen oder eine laufende auszusetzen und zu beenden. Dokumentieren allein genügt an dieser Stelle nicht.

Automatisch negativ geht der dritte Schritt für die USA allerdings nicht aus. Bleibt offen, ob die eigene Übermittlung praktisch unter die Überwachungsvorschriften fällt, eröffnet der Ausschuss selbst einen dritten Weg: weitere objektive, verlässliche und nach Möglichkeit öffentlich zugängliche Informationen heranzuziehen. Dort endet, was du selbst herausfinden kannst.

Was daraus für dich folgt: Das Ergebnis hängt an deinem Fall, nicht am Produkt. Geht eine Lieferanschrift und der Name eines Ansprechpartners in einer Firma hinaus, ist die Begründung eine andere, als wenn eine Arztpraxis Gesundheitsdaten überträgt oder eine Personalabteilung Bewerbungen und Beurteilungen. Je empfindlicher die Daten und je mehr Menschen betroffen sind, desto weniger trägt dieselbe Begründung.

Deshalb können wir nicht sagen, ob ein bestimmter Anbieter für dich in Ordnung ist. Das kann niemand beurteilen, ohne dein Unternehmen und deinen Verwendungsfall zu kennen. Hier erfährst du lediglich, welche Frage du beantworten musst.

Wann es teuer wird: Wenn du die Unterlagen nicht bekommst, oder wenn du auf Nummer sicher gehen willst, brauchst du rechtliche Unterstützung. Dafür kommen spezialisierte Kanzleien in Frage, und das kann teuer werden. Besonders bei kritischen Datenkategorien wie Gesundheit, Religion oder Gewerkschaftszugehörigkeit halten wir ihn für unverzichtbar.

Schritt 5: Eintrag ins Verzeichnis von Verarbeitungstätigkeiten

Artikel 30 DSGVO. Kein neues Dokument, sondern ein Eintrag im vorhandenen. Hinein gehören:

  • Zweck: zum Beispiel Vorbereitung von Zollanmeldungen mit KI-Unterstützung
  • Kategorien betroffener Personen: Ansprechpartner bei Kunden
  • Kategorien von Daten: Name, Firmenanschrift, Angaben zur Lieferung
  • Empfänger: der KI-Anbieter, namentlich, als Auftragsverarbeiter
  • Drittlandübermittlung: Zielland und Grundlage, Ergebnis aus Schritt 4
  • Löschfristen und technisch-organisatorische Maßnahmen

Der Auftragsverarbeiter ist kein Dritter, aber er ist Empfänger im Sinne von Artikel 4 Nummer 9. Empfänger gehören ins Verzeichnis. Dieser Punkt wird am häufigsten übersehen.

Schritt 6: Betroffene informieren

Die Informationspflicht bleibt bestehen. Praktisch bedeutet das einen Absatz in der Datenschutzerklärung, der den KI-Einsatz benennt, dazu den Anbieter, das Zielland und die Grundlage der Übermittlung. Rechne die Freigabe mit ein, wenn jemand anderes die Datenschutzerklärung verantwortet.

Schritt 7: prüfen, ob eine Folgenabschätzung nötig ist

Artikel 35 DSGVO verlangt zu prüfen, nicht automatisch durchzuführen.

Sieh in die Liste der Verarbeitungstätigkeiten, für die die Aufsichtsbehörden eine Datenschutz-Folgenabschätzung verlangen. Steht dein Vorgang nicht darin und ist er weder umfangreich noch systematisch, halte fest, dass du geprüft hast und was dabei herauskam. Das Ergebnis gehört ins Verzeichnis, auch wenn es lautet, dass keine erforderlich ist.

Schritt 8: eine Regel auf einer Seite

Dieser Schritt bringt im Alltag am meisten und kostet am wenigsten. Eine Seite, die sagt:

  • welches Werkzeug benutzt werden darf und welches nicht
  • was hinein darf
  • was nie hinein darf
  • an wen man sich bei Zweifeln wendet

Ohne diese Seite entsteht, was Fachleute Schatten-IT nennen: Die Arbeit findet trotzdem statt, nur in privaten Konten, ohne Vertrag und ohne dass jemand davon weiß.

Dieselbe Seite ist zugleich die organisatorische Maßnahme für den Geheimnisschutz, und wo ein Betriebsrat besteht, wird daraus die Betriebsvereinbarung. Ein Dokument, zwei oder drei Pflichten.

Und eine Unterweisung gehört dazu. Dahinter steht Artikel 4 der KI-Verordnung mit der KI-Kompetenz, die du deinen Leuten schuldest.

Welcher Tarif macht Sinn?

Am Ende bleibt die Frage, ob die teurere Fassung nötig ist. Du brauchst einen Tarif, der nicht mit deinen Eingaben trainiert. Doch auch hier gibt es verschiedene Tarife. Bringt der teuerste mehr Datenschutz? Für unseren Fall sieht die Antwort so aus:

Was sich nicht ändertWas sich ändert
Serverstandort weiterhin USAAufbewahrungsdauer selbst festlegbar
Übermittlung weiterhin über VertragsklauselnPrüfprotokolle verfügbar
Kein Data Privacy FrameworkZugriffe nach Rollen vergebbar
Training in beiden Fällen aus

Die teurere Fassung verbessert deine Kontrolle und deine Nachweisfähigkeit. Sie verbessert nicht deine Rechtslage. Wer allein wegen des Serverstandorts wechselt, wechselt umsonst. Wer wegen der Aufbewahrung und der Nachweise wechselt, bekommt etwas dafür.


6. Fünf KI-Anbieter im Datenschutzvergleich

Alles am 20. September 2026 auf den Seiten der Anbieter selbst geprüft, die Angaben zu den Enterprise-Fassungen am 24. September 2026 erneut. Verglichen wird ausschließlich nach Datenschutz, nicht nach Leistung und nicht nach Preis.

Stand der fünf geprüften Anbieter, jeweils im Geschäftstarif

Claude TeamChatGPT BusinessGemini in WorkspaceMicrosoft CopilotMistral
Training mit Eingabennein, ab Werknein, ab Werknein, nicht ohne Erlaubnisnein, ausdrücklichWiderspruch nötig
Auftragsverarbeitungs­vertragja, eingebautja, auf Antragjajaja
Data Privacy Frameworkneinneinjajaentfällt, EU-Anbieter
Daten in der EUneinnur Enterprisenur Enterpriseja, EU-Datengrenzeja
Drittlandanalysefällt anfällt anentfälltentfälltentfällt

Was wir daraus schließen: Wer heute anfängt und wenig Verwaltung will, ist mit einem Anbieter auf der amtlichen Liste schneller fertig, denn das spart die Drittlandanalyse. Wer einen bestimmten Anbieter aus fachlichen Gründen braucht, kann ihn nehmen und muss die Analyse durchführen.

Menschliche Durchsicht

Diese Zeile fehlt in der Tabelle mit Absicht. Sie lässt sich an Primärquellen nicht für alle fünf Anbieter füllen, und eine leere Zelle würde als Nein gelesen. Belegt ist:

  • Microsoft: Die Missbrauchsüberwachung einschließlich menschlicher Durchsicht ist in Azure OpenAI verfügbar, für die Copilot-Dienste jedoch abgewählt.19
  • OpenAI: Mitarbeitende greifen auf Gespräche nur mit ausdrücklicher Zustimmung oder bei gesetzlicher Verpflichtung zu. Automatisierte Klassifizierer laufen dagegen über alle Geschäftsdaten.22
  • Google: Chats und hochgeladene Dateien in der Gemini-App werden ohne Erlaubnis weder von Menschen durchgesehen noch zum Training verwendet.21

Für Anthropic und Mistral haben wir keine vergleichbar klare Aussage in einer Primärquelle gefunden. Das bedeutet nicht, dass es keine gibt.

Drei Anleitungen, die Arbeit sparen

Microsoft Copilot: prüfen, ob dein Mandant die EU verlässt

Copilot wird in kleinen und mittleren Unternehmen am häufigsten vorgeschlagen. Umso wichtiger ist diese Prüfung.

Der Hintergrund: Microsoft bindet Modelle von Anthropic als Unterauftragsverarbeiter ein. Nach der eigenen Dokumentation sind diese Modelle derzeit von der EU-Datengrenze ausgenommen, und gegebenenfalls auch von Zusagen zur Verarbeitung im Land. Für Kunden innerhalb der EU-Datengrenze und im Vereinigten Königreich sind sie deshalb ab Werk deaktiviert.20 Im übrigen Geschäftskundenbereich sind sie ab Werk aktiv. Wer sie dort einschaltet, verlässt die EU-Datengrenze.

Der häufigste Fall: jemand hat es für euch eingeschaltet

Dienstleister empfehlen Copilot gern damit, dass man die starken Modelle dort einfach dazubekommt. Technisch stimmt das. Datenschutzrechtlich ist es nicht dasselbe.

Das bedeutet, wenn die Anthropic-Modelle in eurem Mandanten aktiv sind:

  • Eure Anfragen verlassen die EU-Datengrenze. Microsoft nimmt diese Modelle ausdrücklich davon aus.20 Genau diese Zusage ist der Grund, aus dem Copilot in der Tabelle oben gut dasteht.
  • Euer Vertragspartner bleibt Microsoft. Anthropic ist dort Unterauftragsverarbeiter. Die Microsoft-Produktbestimmungen und der Auftragsverarbeitungsvertrag gelten weiter, solange das Modell nicht Anthropic models with Data Retention heißt.
  • Eine eigene Drittlandanalyse wird dadurch nicht fällig. Eure Übermittlung geht an Microsoft, und Microsoft steht auf der amtlichen Liste. Das ist unsere Lesart, belegt haben wir sie nicht.

Für die GPT-Modelle gilt das nicht. Microsoft führt seit Juli 2026 auch OpenAI als Unterauftragsverarbeiter. Für diese Modelle schreibt es ausdrücklich, sie seien in der EU-Datengrenze enthalten.29 Die Warnung oben betrifft also die Anthropic-Modelle, nicht die GPT-Modelle in Copilot.

Was ihr tun solltet: Fragt euren Dienstleister, ob er die Anthropic-Modelle eingeschaltet hat und für welche Personen. Lautet die Antwort ja, gehört ein Satz in euer Verzeichnis: Für diese Verarbeitung gilt die EU-Datengrenze nicht.

So prüfst du den Stand (Rolle KI-Administrator oder Globaler Administrator erforderlich):

  1. Microsoft 365 Admin Center öffnen
  2. Copilot und dort Einstellungen, dann Alle anzeigen
  3. AI providers operating as Microsoft subprocessors auswählen
  4. Unter Available subprocessors for your organization siehst du, ob Anthropic aktiviert ist, und unter Choose who can access, für welche Personen oder Gruppen

So schaltest du es ab, falls es aktiv ist:

  1. Copilot und dort Einstellungen
  2. Auf der Seite Benutzerzugriff den Punkt AI providers operating as Microsoft subprocessors
  3. Disable Anthropic as a Microsoft subprocessor auswählen

Und die zweite Stufe, auf die du achten solltest. Es gibt eine Modellklasse unter dem Namen Anthropic models with Data Retention. Für sie gelten die Microsoft-Produktbestimmungen und der Auftragsverarbeitungsvertrag ausdrücklich nicht; die Daten werden bei Anthropic gespeichert und unterliegen nicht dem Microsoft-Kundenvertrag.20 Diese Modelle sind überall ab Werk aus und müssen einzeln freigeschaltet werden.

Merksatz: Dein Vertrag beschreibt keinen Zustand, sondern eine Voreinstellung. Prüfe sie, bevor du dich auf sie verlässt.

Mistral: den Trainingsschalter umlegen

Mistral ist der einzige der fünf Anbieter, bei dem das Training mit den Eingaben die Voreinstellung ist. In der Datenschutzerklärung steht als Zweck das Training der Modelle und als Datenkategorie die Ein- und Ausgaben, vorbehaltlich eines Widerspruchs.25

Der Widerspruch ist vorgesehen. Nach derselben Quelle gibt es eine Nutzersteuerung, mit der sich der Verwendung der Ein- und Ausgabedaten für das Modelltraining direkt aus dem Konto heraus widersprechen lässt. Du findest sie in den Kontoeinstellungen bei den Datenschutz- und Nutzerkontrollen, zusammen mit dem Datenexport und der Kontolöschung.

Zwei Einschränkungen gehören dazu. Erstens gilt die Datenschutzerklärung nach ihrem eigenen Wortlaut nicht für die Nutzung im geschäftlichen Zusammenhang. Dort bist du der Verantwortliche und Mistral der Auftragsverarbeiter, maßgeblich ist dann der Auftragsverarbeitungsvertrag. Zweitens heißt das Produkt inzwischen Vibe.

OpenAI: den Auftragsverarbeitungsvertrag anfordern

Bei OpenAI schließt du ihn nicht mit der Buchung ab, sondern über ein Formular, das auf der Seite zum Unternehmensdatenschutz verlinkt ist.22 Solange das nicht geschehen ist, hast du für ChatGPT Business, Enterprise und die Programmierschnittstelle keinen Auftragsverarbeitungsvertrag.

Leg dir dafür eine Aufgabe an, keinen Vorsatz. Es ist der einzige Schritt in diesem Artikel, der vollständig vergessen werden kann, ohne dass irgendetwas auffällt.


7. KI im eigenen Haus

Für alle, die mit besonders empfindlichen Daten arbeiten, bleibt ein Weg, den dieser Artikel bisher ausgeklammert hat: eine KI selbst betreiben, auf eigener Hardware oder in einem angemieteten Rechenzentrum in Deutschland.

Rechtlich ist das die sauberste Lösung, die es gibt. Bei eigener Hardware gibt es keinen Auftragsverarbeiter, keine Übermittlung und kein Drittland. Die gesamte Prüfkette dieses Artikels entfällt.

Drei Dinge gehören zur ehrlichen Darstellung dazu:

PunktWas dahintersteckt
Nicht jedes Modell lässt sich selbst betreibenClaude zum Beispiel läuft ausschließlich über die Schnittstelle des Anbieters und über drei große Cloudplattformen; Modellgewichte gibt Anthropic nicht heraus.18 Offene Modelle sind genau dafür gemacht, und Mistral nennt das Selbstbetreiben ausdrücklich25
Ihr werdet zum BetreiberSicherheit, Aktualisierung und Verfügbarkeit liegen dann bei euch
Mieten ist nicht dasselbeWer ein Rechenzentrum mietet statt selbst zu betreiben, hat wieder einen Auftragsverarbeiter. Aber einen in Deutschland, und das ist ein großer Unterschied

Sauber ist dabei nicht dasselbe wie sicher. Ein schlecht betriebener Server im eigenen Haus ist unsicherer als ein gut betriebener Dienst. Die rechtliche Frage und die technische Frage fallen hier auseinander.

Anbieter, die genau das als Dienstleistung aufbauen, ein Rechenzentrum in Deutschland mit einer KI darin, entstehen gerade. Das ist ein eigenes Thema, und wir nehmen es gern in eine der nächsten Folgen auf. Schreib uns, wenn du dir eine ganze Folge über KI im eigenen Haus wünschst.


Nachtrag: Anonymisieren hilft, aber begrenzt

Datenminimierung ist Gesetz, Artikel 5 Absatz 1 Buchstabe c DSGVO. Weniger einzugeben ist also immer richtig.

Der Europäische Gerichtshof hat am 4. September 2025 präzisiert, dass sich relativ beurteilt, ob Daten pseudonymisiert oder anonym sind. Entscheidend ist, ob der Empfänger die Person mit vertretbarem Aufwand bestimmen kann.8

Praktisch bedeutet das: Vieles lässt sich kürzen, aber nicht alles. Wenn von den Feldern einer Zollanmeldung eines die Lieferanschrift ist, kannst du sie nicht weglassen, ohne dass der Vorgang scheitert. Und die Informationspflicht gegenüber den Betroffenen bleibt ohnehin bestehen.


Unsicher, wo ihr technisch steht? Schreib uns kurz, worum es geht, und wir melden uns zurück.

Kontakt aufnehmen

Wenn dich interessiert, welche gesetzlichen Pflichten rund um IT-Sicherheit sonst noch auf Unternehmen zukommen: In Folge 1 geht es um NIS-2 und das neue BSI-Gesetz.


Offenlegung

Wir setzen KI selbst ein, unter anderem Claude von Anthropic, für die Pflege unserer Website, für Inhalte und für Schulung. Kundendaten spielen wir dabei nicht ein.

Quellen

Alle Quellen am 20. September 2026 gelesen, sofern nicht anders angegeben. Maßgeblich ist immer der Gesetzestext selbst. Die Verweise wurden am 28. Oktober 2026 zuletzt aufgerufen.

  1. Datenschutz-Grundverordnung (DSGVO), insbesondere Artikel 4 Nummer 9 und 10, Artikel 5, 6, 28, 30, 32, 33, 35 und 44 ff. zurück zum Text
  2. Landesbeauftragter für den Datenschutz und die Informationsfreiheit Baden-Württemberg, Hinweise zu den Rechtsgrundlagen beim Einsatz von KI. zurück zum Text
  3. Durchführungsbeschluss der Europäischen Kommission zum EU-US Data Privacy Framework, 2023. zurück zum Text
  4. Gericht der Europäischen Union, Urteil vom 3. September 2025, T-553/23 (Latombe). zurück zum Text
  5. Europäischer Gerichtshof, anhängiges Rechtsmittel C-703/25 P. zurück zum Text
  6. Europäischer Datenschutzausschuss, Empfehlungen 01/2020 zu Maßnahmen zur Ergänzung von Übermittlungstools, Fassung 2.0 vom 18. Juni 2021; dort die sechs Schritte, Randnummer 47 sowie Anhang 2, Anwendungsfall 6. zurück zum Text
  7. Europäischer Gerichtshof, Schrems II, C-311/18. zurück zum Text
  8. Europäischer Gerichtshof, Urteil vom 4. September 2025, C-413/23 P. zurück zum Text
  9. Gesetz zum Schutz von Geschäftsgeheimnissen, § 2 Nummer 1 Buchstabe b. zurück zum Text
  10. Oberlandesgericht Stuttgart, Urteil vom 19. November 2020, 2 U 575/19. zurück zum Text
  11. Betriebsverfassungsgesetz, §§ 80 Absatz 3 Satz 2, 87 Absatz 1 Nummer 6, 90 Absatz 1 Nummer 3 und 95 Absatz 2a, gelesen am 21. Oktober 2026. zurück zum Text
  12. Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 4, Artikel 26 Absatz 7 und Anhang III Nummer 4. Zitiert nach der englischen Fassung. zurück zum Text
  13. Bitkom, Presseinformation zur Digitalisierung der Wirtschaft, Befragung von 604 Unternehmen ab 20 Beschäftigten, Kalenderwoche 2 bis 6 des Jahres 2026. zurück zum Text
  14. OpenAI und Harvard, Auswertung von mehr als einer Million Gesprächen zur Nutzung von Sprachmodellen. zurück zum Text
  15. Anthropic, Entwicklerdokumentation zum Kontextfenster als Arbeitsgedächtnis. zurück zum Text
  16. Anthropic, Data Processing Addendum, Stand 24. Februar 2025, Abschnitt I.4, gelesen am 21. Oktober 2026. zurück zum Text
  17. Anthropic, Richtlinie zum Umgang mit behördlichen Auskunftsersuchen, Stand 16. März 2026. zurück zum Text
  18. Anthropic, Modellübersicht in der Entwicklerdokumentation, gelesen am 14. Oktober 2026. zurück zum Text
  19. Microsoft Learn, Daten, Datenschutz und Sicherheit für Microsoft Copilot, Stand 18. August 2026. zurück zum Text
  20. Microsoft Learn, Anthropic models in Microsoft Online Services, Stand 18. September 2026. zurück zum Text
  21. Google Workspace, Privacy Hub zu generativer KI sowie Dokumentation zu den Datenregionen. zurück zum Text
  22. OpenAI, Enterprise-Datenschutz, Stand 8. Januar 2026, einschließlich des Formulars zum Auftragsverarbeitungsvertrag. zurück zum Text
  23. OpenAI, Mitteilung zur gerichtlichen Aufbewahrungsanordnung vom 5. Juni 2025 nebst Nachtrag; die Anordnung endete am 26. September 2025. zurück zum Text
  24. OpenAI, eigener Bericht zum Zwischenfall vom März 2023 mit einer quelloffenen Programmbibliothek. zurück zum Text
  25. Mistral AI, Datenschutzerklärung, wirksam 3. September 2026, sowie Angaben zum Selbstbetrieb der Modelle. zurück zum Text
  26. OWASP, Top 10 für Anwendungen mit großen Sprachmodellen, LLM01 Prompt Injection. zurück zum Text
  27. CVE-2025-32711, KI-Befehlseinschleusung in Microsoft 365 Copilot, veröffentlicht im Juni 2025. zurück zum Text
  28. US-Handelsministerium, Data Privacy Framework List, 3.664 Teilnehmer zum Zeitpunkt der Prüfung. zurück zum Text
  29. Microsoft Learn, OpenAI as a subprocessor in Microsoft Online Services, gelesen am 29. Oktober 2026. zurück zum Text
Alles, was du über NIS-2 wissen musst
Folge 1 der Reihe IT-Sicherheit im Klartext