Schulung · · 8 Min. Lesezeit

KI und Datenschutz: Was in ChatGPT, Claude und Co. darf

Welche Daten in ChatGPT, Claude, Gemini und Copilot dürfen, was private und Firmenkonten unterscheidet und was die Datenschutzkonferenz rät. Mit Ampel-Quiz.

Miniatur-Diorama: Winzige Büroangestellte sortieren Ordner in einen kleinen Holztresor mit grüner Tür, einer hält einen Kollegen auf, der einen Ordner zu einer weißen Kiste mit Sprechblasen-Symbol tragen will

Titelbild: KI-generiert

„Darf ich das da reinkopieren?“ Diese Frage stellen sich Mitarbeitende jeden Tag, meist ohne sie laut zu stellen. Die Kurzantwort: Personenbezogene Daten gehören nur in Firmenkonten, bei denen ein Vertrag zur Auftragsverarbeitung besteht und die Eingaben nicht zum Training genutzt werden. In private Konten gehören allenfalls Texte ohne Personenbezug und ohne Betriebsgeheimnisse. Die Datenschutzkonferenz, das Gremium der deutschen Datenschutzbehörden, rät außerdem, möglichst ganz ohne Personenbezug zu arbeiten und Ergebnisse immer zu prüfen. Der Unterschied zwischen privatem und Firmenkonto ist bei allen großen Anbietern ähnlich, im Detail aber verschieden.

Wann der Datenschutz greift

Die DSGVO gilt, sobald personenbezogene Daten im Spiel sind: Namen, E-Mail-Adressen, Telefonnummern, Kundennummern, Bewerbungen, Gesundheitsangaben. Auch eine Kundenmail, die Sie zum Umformulieren einfügen, enthält meist solche Daten. Betriebsgeheimnisse wie Kalkulationen oder Verträge fallen nicht unter die DSGVO, sollten aber aus ähnlichen Gründen nicht in private Konten.

Privates Konto oder Firmenkonto

Der wichtigste Unterschied liegt nicht zwischen den Anbietern, sondern zwischen privaten und geschäftlichen Angeboten:

Anbieter Privates Konto Firmenkonto
ChatGPT Training möglich, abschaltbar in den Datenkontrollen. Temporäre Chats werden bis zu 30 Tage gespeichert und nicht zum Training genutzt. Business, Enterprise und API: standardmäßig kein Training. Vertrag zur Auftragsverarbeitung mit OpenAI Ireland. Datenverarbeitung in Europa für Enterprise und API möglich, für Business nicht.
Claude Free, Pro und Max: Nutzer entscheiden seit August 2025, ob Chats zum Training dienen. Inkognito-Chats nie. Team, Enterprise und API: kein Training mit Ein- und Ausgaben.
Gemini Abhängig von den Einstellungen des persönlichen Kontos. In Google Workspace: kein Training ohne Erlaubnis, Datenverarbeitungsvertrag von Google Cloud.
Microsoft Copilot Abhängig vom persönlichen Konto. Im Firmenkonto: kein Training der Basismodelle, EU-Datengrenze. Ausnahme laut Microsoft derzeit: Modelle von Anthropic innerhalb von Copilot.

Stand Oktober 2026. Die Anbieter ändern ihre Bedingungen regelmäßig. Prüfen Sie vor dem Einsatz die aktuellen Datenschutzseiten. Welcher Tarif bei ChatGPT wofür passt, steht im Artikel ChatGPT im Unternehmen.

Was die Datenschutzkonferenz rät

Die Datenschutzkonferenz hat im Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht. Die wichtigsten Punkte für den Alltag:

  • Zweck festlegen: Wofür wird das Werkzeug eingesetzt, und welche Daten braucht es dafür wirklich?
  • Möglichst ohne Personenbezug: Namen weglassen oder ersetzen, wo es geht.
  • Dienstliche Konten statt privater, möglichst mit Funktions-E-Mail-Adresse.
  • Training prüfen: Werden Eingaben zum Training genutzt? Wenn ja, muss es sich abschalten lassen.
  • Keine automatische Letztentscheidung: Entscheidungen über Menschen, etwa bei Bewerbungen, trifft ein Mensch.
  • Datenschutzbeauftragte und Betriebsrat einbinden, wenn es sie gibt.
  • Ergebnisse prüfen, auf Richtigkeit und auf Benachteiligung.

USA, Europa und der Datentransfer

Die großen Anbieter sitzen in den USA. Für Übermittlungen dorthin braucht es eine Grundlage, etwa das Datenschutzabkommen zwischen der EU und den USA oder Standardvertragsklauseln. Das Abkommen gilt weiter: Das Gericht der EU hat eine Klage dagegen im September 2025 abgewiesen, ein Rechtsmittel ist beim Europäischen Gerichtshof anhängig. Wer auf Nummer sicher gehen will, achtet auf Datenverarbeitung in Europa oder setzt für sensible Fälle auf Modelle, die im eigenen Rechenzentrum laufen.

Ampel: Darf das in die KI?

Mitmachen

Ampel-Quiz: Grün, Gelb oder Rot?

Sieben Situationen aus dem Büro. Grün heißt: unbedenklich. Gelb: nur im Firmenkonto mit Vertrag oder ohne Namen. Rot: gehört nicht hinein. Eine vereinfachte Orientierung, keine Rechtsberatung.

  1. Situation 1 von 7Eine Produktbeschreibung für den Onlineshop schreiben lassen, mit Maßen und Material.
  2. Situation 2 von 7Eine verärgerte Kundenmail mit Name, Adresse und Bestellnummer einfügen und eine Antwort entwerfen lassen.
  3. Situation 3 von 7Zehn Bewerbungen hochladen und die KI entscheiden lassen, wen Sie einladen.
  4. Situation 4 von 7Den Gesetzestext des BFSG zusammenfassen lassen.
  5. Situation 5 von 7Das Protokoll der Teamsitzung mit Namen und Aufgaben der Kollegen in Stichpunkte fassen lassen.
  6. Situation 6 von 7Die Kalkulation für ein großes Angebot hochladen und auf Fehler prüfen lassen.
  7. Situation 7 von 7Die Krankmeldung eines Mitarbeiters mit Diagnose einfügen, um eine Vertretungsregelung zu formulieren.

Regeln für das Team

Die meisten Datenschutzprobleme mit KI entstehen nicht aus Absicht, sondern weil niemand gesagt hat, was gilt. Eine KI-Richtlinie auf einer Seite klärt das: welche Werkzeuge erlaubt sind, welche Daten tabu sind, wer bei Fragen hilft. Eine Vorlage steht im Artikel KI-Richtlinie für den Betrieb. Dazu gehört eine Schulung, damit alle die Regeln verstehen.

Wo dieser Artikel an Grenzen stößt

Dieser Artikel gibt eine Orientierung und ersetzt keine Rechtsberatung. Je nach Einsatz kann eine Datenschutz-Folgenabschätzung nötig sein, etwa wenn KI viele Personendaten verarbeitet oder Menschen bewertet. Ob das der Fall ist, klären Sie mit Ihrem Datenschutzbeauftragten oder einer Kanzlei. Und die Bedingungen der Anbieter ändern sich: Was heute in der Tabelle steht, kann in einem halben Jahr anders sein.

So fangen Sie an

Fragen Sie in Ihrem Team, wer welches KI-Werkzeug mit welchem Konto nutzt. Entscheiden Sie dann, welches Firmenkonto Sie bereitstellen, schalten Sie das Training ab, wo es nötig ist, und schließen Sie den Vertrag zur Auftragsverarbeitung ab. Danach eine Seite Regeln und eine kurze Schulung.

Die häufigste Frage in meinen Schulungen lautet: Wo landen die Kundendaten? In meiner KI-Schulung für Teams gehört Datenschutz deshalb fest dazu, mit Beispielen aus Ihrem Arbeitsalltag.

Häufige Fragen

Darf ich personenbezogene Daten in ChatGPT eingeben?

In ein privates Konto besser nicht. Für personenbezogene Daten braucht es ein Firmenkonto mit Vertrag zur Auftragsverarbeitung, bei dem die Eingaben nicht zum Training genutzt werden, etwa ChatGPT Business oder Enterprise. Dazu klare Regeln, welche Daten hinein dürfen. Die Datenschutzkonferenz rät, möglichst ohne Personenbezug zu arbeiten.

Nutzt ChatGPT meine Eingaben zum Training?

Bei privaten Konten können Unterhaltungen zum Training genutzt werden, außer Sie schalten es in den Datenkontrollen ab. Bei ChatGPT Business, Enterprise und der API werden Geschäftsdaten laut OpenAI standardmäßig nicht zum Training verwendet.

Nutzt Claude meine Chats zum Training?

Bei Claude Free, Pro und Max entscheiden Nutzer seit August 2025 selbst, ob ihre Chats zum Training genutzt werden. Inkognito-Chats werden nie verwendet. Bei Claude Team, Enterprise und der API nutzt Anthropic Ein- und Ausgaben nicht zum Training.

Brauche ich für KI im Betrieb einen Auftragsverarbeitungsvertrag?

Ja, wenn der Anbieter personenbezogene Daten in Ihrem Auftrag verarbeitet. Das regelt Artikel 28 DSGVO. Die großen Anbieter stellen solche Verträge für ihre Firmenprodukte bereit, für private Konten in der Regel nicht.

Weiterlesen

Mehr aus dem Blog

Alle Beiträge