Kundendaten in ChatGPT: Was erlaubt ist und wie es richtig geht
Kurz gesagtKundendaten in ein kostenloses oder privates ChatGPT-Konto zu kopieren, ist nach der DSGVO in aller Regel nicht zulässig. Es fehlt ein Vertrag zur Auftragsverarbeitung, und der Anbieter darf die Eingaben je nach Einstellung für das Training seiner Modelle nutzen. Mit einem Firmenzugang, einem unterschriebenen Datenverarbeitungsvertrag und klaren Regeln für das Team ist KI im Kundenkontakt dagegen gut machbar. Texte ohne Personenbezug können Sie jederzeit verwenden.
So sieht es in vielen Betrieben aus
Eine Kundin beschwert sich per E-Mail über eine verspätete Lieferung. Die Mitarbeiterin im Büro kopiert die Mail samt Namen, Adresse und Bestellnummer in ChatGPT und lässt sich eine freundliche Antwort schreiben. Das spart zehn Minuten, und genau deshalb passiert es jeden Tag, oft mit dem privaten Konto auf dem eigenen Handy und ohne dass die Chefin davon weiß.
Das Problem ist der Weg, den die Daten nehmen. Sie landen bei einem Unternehmen in den USA, mit dem Ihr Betrieb keinen Vertrag hat. Verantwortlich dafür ist nach der DSGVO Ihr Betrieb, auch wenn eine Mitarbeiterin das private Konto benutzt hat.
Was alles als Kundendaten zählt
Gemeint sind personenbezogene Daten, also alles, womit sich ein Mensch erkennen lässt: Name, E-Mail-Adresse, Telefonnummer, Anschrift, Kundennummer, Bestellungen, ein Foto oder der Inhalt einer Nachricht. Bei Firmenkunden zählen die Ansprechpartner dazu. Reine Firmendaten wie Umsatzzahlen einer GmbH fallen nicht unter die DSGVO, können aber Geschäftsgeheimnisse sein.
Den Namen zu löschen reicht oft nicht. Die Datenschutzkonferenz, das Gremium der deutschen Aufsichtsbehörden, weist ausdrücklich darauf hin, dass sich der Bezug zu einer Person auch aus dem Zusammenhang ergeben kann. „Der Inhaber der Bäckerei am Marktplatz, dessen Lieferwagen letzte Woche einen Unfall hatte“ ist im Ort eindeutig, auch ohne Namen.
Privatkonto, Firmenkonto, Schnittstelle: der Unterschied
Bei ChatGPT und ähnlichen Diensten gibt es grob drei Arten von Zugängen. Datenschutzrechtlich trennt sie vor allem der Vertrag, die KI dahinter ist oft dieselbe.
| Kostenlos, Plus, Pro | ChatGPT Business, Enterprise | Schnittstelle (API) | |
|---|---|---|---|
| Vertrag zur Auftragsverarbeitung | keiner | ja, abschließbar | ja, abschließbar |
| Training mit Ihren Eingaben | standardmäßig an, abschaltbar | nein | nein |
| Wer bestimmt über die Daten | der Anbieter | Ihr Betrieb | Ihr Betrieb |
| Speicherung in Europa | nein | bei Enterprise wählbar | wählbar |
| Für Kundendaten geeignet | nein | ja, mit Regeln | ja, für eigene Lösungen |
Bei Claude von Anthropic, Gemini von Google und Microsoft Copilot ist es ähnlich aufgeteilt. Microsoft 365 Copilot mit Firmenanmeldung läuft unter dem Vertrag, den Ihr Betrieb mit Microsoft ohnehin hat. Die kostenlose Copilot-Version mit privatem Konto tut das nicht.
Was die DSGVO verlangt
Wenn ein externer Dienst für Sie Daten verarbeitet, brauchen Sie mit ihm einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO, bei OpenAI heißt er Data Processing Addendum. Darin verpflichtet sich der Anbieter, die Daten nur nach Ihrer Weisung zu nutzen. Bei Privatkonten gibt es diesen Vertrag nicht. Der Anbieter ist dort selbst Verantwortlicher und nutzt die Daten nach seinen eigenen Bedingungen.
Dazu kommen die Punkte, die für jede Datenverarbeitung gelten:
- Sie brauchen eine Rechtsgrundlage nach Art. 6 DSGVO. Wer eine Kundenanfrage beantwortet, kann sich meist auf den Vertrag oder ein berechtigtes Interesse stützen. Für Werbung oder das Auswerten ganzer Kundenlisten wird es schnell schwieriger.
- Die Übermittlung in die USA muss abgesichert sein. Für zertifizierte US-Firmen gilt derzeit das EU-US Data Privacy Framework, zusätzlich enthalten die Verträge der großen Anbieter Standardvertragsklauseln. Speicherung in Europa macht Sie von diesem Rahmen unabhängiger.
- Ihre Datenschutzerklärung und Ihr Verzeichnis der Verarbeitungstätigkeiten nennen den KI-Dienst als Empfänger.
- Wird viel oder sensibel verarbeitet, kann eine Datenschutz-Folgenabschätzung nötig sein. Die Datenschutzkonferenz hält sie beim KI-Einsatz für häufig erforderlich.
Das Training abzuschalten beseitigt bei einem Privatkonto nur einen Teil des Problems. Der Vertrag fehlt trotzdem, und ob ein einzelner Mitarbeiter den Schalter umgelegt hat, kann der Betrieb nicht kontrollieren.
Wo es besonders heikel wird
Für manche Daten gelten strengere Regeln. Gesundheitsdaten, Angaben zu Religion, Gewerkschaft oder sexueller Orientierung sind besondere Kategorien nach Art. 9 DSGVO. Eine Physiotherapiepraxis, die Behandlungsnotizen von ChatGPT zusammenfassen lässt, braucht dafür eine eigene Grundlage und einen Anbieter mit sehr guten Zusagen.
Ärzte, Therapeuten, Anwälte, Steuerberater und andere Berufsgeheimnisträger müssen zusätzlich § 203 StGB beachten. Schon die Weitergabe an einen Dienstleister kann strafbar sein, wenn er nicht ausdrücklich zur Verschwiegenheit verpflichtet ist. Die großen KI-Anbieter unterschreiben solche Einzelverpflichtungen für kleine Praxen und Kanzleien in der Regel nicht. Dort führen die Wege über spezialisierte Anbieter, Microsoft-Verträge mit Zusatzvereinbarung oder ein Modell, das auf einem Server in Deutschland läuft.
Bewerbungen und Personalakten sind ebenfalls sensibel. Wer Lebensläufe von einer KI vorsortieren lässt, fällt ab Dezember 2027 zusätzlich unter die strengen Regeln der europäischen KI-Verordnung für Hochrisiko-Anwendungen. Mehr dazu im Artikel KI im Betrieb: Was der AI Act verlangt.
Ohne Personenbezug arbeiten: ein Beispiel
Für viele Aufgaben braucht die KI die Daten gar nicht. Statt der echten Mail können Sie den Fall beschreiben:
- So lieber nicht: „Antworte Frau Petra Klein, Lindenweg 4, Kundennummer 10233, auf ihre Beschwerde über die verspätete Lieferung von Auftrag 4471. Sie hat schon zweimal angerufen.“
- So geht es auch: „Schreibe eine freundliche Antwort an eine Stammkundin, die sich über eine Lieferung beschwert, die drei Tage zu spät kam. Sie hat schon zweimal angerufen. Biete einen Gutschein über 10 % an.“
Name, Anrede und Auftragsnummer setzen Sie danach selbst ein. Das klappt gut bei Antworten, Angeboten, Stellenanzeigen und Übersetzungen von Standardtexten. Bei Aufgaben, die echte Daten brauchen, zum Beispiel eine Liste von 200 Anfragen sortieren, hilft nur ein Zugang mit Vertrag.
In sechs Schritten zur sauberen Nutzung
- Fragen Sie im Team offen nach, wer welche KI-Werkzeuge nutzt und wofür. In den meisten Betrieben sind es mehr, als die Geschäftsführung denkt. Ohne Vorwurf bekommen Sie ehrlichere Antworten.
- Legen Sie fest, welcher Dienst erlaubt ist, und stellen Sie Firmenkonten bereit. Für kleine Teams passt meist ChatGPT Business, Claude Team oder Microsoft 365 Copilot, wenn Sie schon mit Microsoft 365 arbeiten. Schließen Sie den Datenverarbeitungsvertrag ab und legen Sie ihn ab.
- Prüfen Sie die Einstellungen im Admin-Bereich: Training aus, Speicherdauer der Chats, und welche Verbindungen zu Postfach, Kalender oder Cloud-Speicher erlaubt sind. Solche Verbindungen sollten nur aktiv sein, wenn Sie sie bewusst nutzen.
- Schreiben Sie eine kurze KI-Richtlinie, eine Seite reicht: welche Daten hinein dürfen, welche nie (Gesundheitsdaten, Passwörter, Personalakten, Bankdaten), und dass jeder KI-Text vor dem Versand gelesen wird. Das ist zugleich ein Teil der Pflicht zur KI-Kompetenz aus der KI-Verordnung.
- Ergänzen Sie Datenschutzerklärung und Verzeichnis der Verarbeitungstätigkeiten um den KI-Dienst. Haben Sie einen Datenschutzbeauftragten, beziehen Sie ihn ein, ebenso einen Betriebsrat.
- Für wiederkehrende Abläufe mit vielen Kundendaten, etwa Anfragen vorsortieren oder Angebote vorbereiten, lohnt sich eine eigene Lösung über die Schnittstelle mit Speicherung in Europa. Dann steuern Sie genau, welche Daten an die KI gehen.
Typische Fehler
- Das private Postfach oder Google-Konto wird mit dem privaten ChatGPT verbunden, und die KI liest alle Kundenmails mit.
- Ein Screenshot aus dem Kundenprogramm wird hochgeladen, um „nur kurz“ eine Tabelle abzutippen.
- Telefonate oder Besprechungen werden mit einer kostenlosen App aufgezeichnet und von KI zusammengefasst, ohne dass die Gesprächspartner davon wissen.
- Der temporäre Chat gilt als sicher. Er verhindert das Speichern im Verlauf, ersetzt aber keinen Vertrag.
- Browser-Erweiterungen mit KI-Funktion lesen ganze Webseiten mit, auch das geöffnete Kundenportal.
- Selbst gebaute GPTs mit hochgeladenen Kundenlisten werden per Link geteilt.
Mein Rat: lieber erlauben als verbieten
Ein reines Verbot hält kaum jemanden ab, die Nutzung wandert dann auf private Handys. Besser sind Firmenzugänge für alle, die KI nutzen, und eine Seite mit klaren Regeln. Die Lizenz kostet pro Person einen festen Monatsbetrag, meist weniger als eine Stunde Bürozeit. Die Mitarbeitenden behalten das Werkzeug, das ihnen Zeit spart, und Sie wissen, wo die Daten liegen. Wer ohnehin mit Microsoft 365 arbeitet, sollte zuerst prüfen, was die vorhandene Lizenz schon abdeckt.
Sie möchten KI im Betrieb nutzen, ohne sich um Verträge und Einstellungen zu kümmern? Ich richte Firmenzugänge ein, schreibe mit Ihnen die KI-Richtlinie und baue Abläufe, bei denen Kundendaten in Europa verarbeitet werden, etwa für Anfragen, Angebote oder Rückfragen. Das läuft zum Festpreis, und Ihr Team arbeitet vom ersten Tag an sicher mit KI.
Kostenloses ErstgesprächMehr dazu: Automatisierung & KI · Software & Apps
Häufige Fragen
Reicht es, in ChatGPT das Training abzuschalten?
Für Kundendaten nicht. Auch mit abgeschaltetem Training fehlt beim Privatkonto der Vertrag zur Auftragsverarbeitung, und der Betrieb kann die Einstellung nicht kontrollieren.
Ist ChatGPT Business DSGVO-konform?
Kein Werkzeug ist für sich allein DSGVO-konform. ChatGPT Business bringt die Voraussetzungen mit: Datenverarbeitungsvertrag, kein Training, Verwaltung durch den Betrieb. Rechtsgrundlage, Information der Kunden und interne Regeln bleiben Ihre Aufgabe.
Muss ich meine Kunden informieren, dass ich KI nutze?
Ja, in der Datenschutzerklärung als Empfänger der Daten. Antwortet auf Ihrer Website ein Chatbot, müssen Besucher seit August 2026 außerdem erkennen können, dass sie mit einer KI schreiben.
Darf ich Kundenmails übersetzen lassen?
Mit einem Firmenzugang mit Vertrag ja. Mit einem Privatkonto nur, wenn Sie Namen und erkennbare Details vorher entfernen.
Was ist mit Daten von Firmenkunden?
Die Daten der Firma selbst sind keine personenbezogenen Daten. Die Namen und Kontaktdaten der Ansprechpartner sind es schon. Bei Verträgen, Kalkulationen und Preisen geht es zusätzlich um Geschäftsgeheimnisse, oft auch um Verschwiegenheitsklauseln mit dem Kunden.
Quellen
- Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024)
- Art. 28 DSGVO (Auftragsverarbeitung), Art. 6 DSGVO (Rechtsgrundlagen), Art. 9 DSGVO (besondere Kategorien), Art. 13 DSGVO (Information)
- § 203 StGB (Verletzung von Privatgeheimnissen)
- OpenAI: Datenschutz für Unternehmenskunden und OpenAI API: Umgang mit Ihren Daten
- OpenAI: Datenresidenz in Europa (Enterprise, Edu, API)
- OpenAI: Data Processing Addendum
Dieser Artikel ist keine Rechtsberatung. Anbieterbedingungen ändern sich häufig, prüfen Sie den aktuellen Stand vor der Einführung.