Darf man Kundendaten in KI-Systeme geben?

Hinweis Dieser Beitrag ordnet ein und ersetzt keine Rechtsberatung. Was für euren konkreten Fall gilt, hängt von euren Daten, eurem Zweck und eurem Anbieter ab – und gehört einmal von jemandem geprüft, der dafür haftet.

Das Wichtigste in Kürze

Personenbezogene Daten dürfen in ein KI-System, wenn ein Auftragsverarbeitungsvertrag besteht, der Ort der Verarbeitung geklärt ist und die Nutzung zum Training vertraglich ausgeschlossen wurde.
Eine Einstellung im Konto reicht nicht. Was zählt, ist die vertragliche Zusage – Einstellungen lassen sich ändern, auch versehentlich.
Kostenlose Zugänge und Privatkonten sind für Kundendaten grundsätzlich ungeeignet, unabhängig vom Anbieter.
Der häufigste Verstoß ist nicht die bewusste Entscheidung, sondern der Mitarbeiter, der einen Kundentext zum Umformulieren einfügt.

Kaum ein Thema sorgt in Unternehmen für so viel Unsicherheit – und für so wenig konkrete Regelungen. In der Praxis läuft es meist so ab: Jemand nutzt ein KI-Werkzeug für die tägliche Arbeit, fügt dabei irgendwann eine Kundenanfrage ein, und niemand hat je festgelegt, ob das erlaubt ist.

Die gute Nachricht: Die Rechtslage ist klarer, als der Diskussionsstand vermuten lässt. Es geht um drei Fragen.

Leuchtende Teilchen werden von einer durchscheinenden Hülle umschlossen, andere treiben außen vorbei — Die Grenze verläuft nicht zwischen erlaubt und verboten, sondern zwischen geregelt und ungeregelt.

Die drei Fragen

Was vor der ersten Eingabe geklärt sein muss

1. Gibt es einen Auftragsverarbeitungsvertrag?: Wer personenbezogene Daten durch einen Dienstleister verarbeiten lässt, braucht dafür einen Vertrag – in der EU nach Artikel 28 DSGVO, in der Schweiz nach dem revidierten Datenschutzgesetz. Ohne diesen Vertrag ist die Verarbeitung unzulässig, unabhängig davon, wie sicher der Anbieter technisch arbeitet.
2. Wo werden die Daten verarbeitet?: Innerhalb der EU beziehungsweise der Schweiz ist es unproblematisch. Bei Verarbeitung in Drittländern braucht es eine tragfähige Grundlage – etwa einen Angemessenheitsbeschluss oder Standardvertragsklauseln. Prüft, was der Anbieter dazu zusagt, und ob er einen Verarbeitungsort in Europa anbietet.
3. Ist die Nutzung zum Training ausgeschlossen?: Der Punkt, an dem sich Geschäfts- und Privatzugänge am deutlichsten unterscheiden. Entscheidend ist nicht ein Schalter in den Einstellungen, sondern eine vertragliche Zusage. Ein Schalter kann umgestellt werden, von einer Person, versehentlich, bei einem Produktwechsel.

Wusstest du schon?

Die DSGVO gilt auch für Schweizer Unternehmen, sobald sie Daten von Personen in der EU verarbeiten – etwa bei Kunden, Interessenten oder Newsletter-Empfängern aus dem EU-Raum. Der Sitz in der Schweiz allein befreit nicht.

Umgekehrt gilt das revidierte Schweizer Datenschutzgesetz für Bearbeitungen mit Bezug zur Schweiz. Viele Unternehmen müssen also beides erfüllen – was in der Praxis meist bedeutet, sich am strengeren Maßstab zu orientieren.

Was überhaupt personenbezogen ist

Hier liegt die häufigste Fehleinschätzung. Personenbezogen ist nicht nur der Name in einem Feld, sondern alles, was eine Person bestimmbar macht.

Eindeutig personenbezogen

Namen, E-Mail-Adressen, Telefonnummern, Anschriften, Kundennummern in Verbindung mit einem Namen, Fotos.

Behandlung: nur mit geregeltem Rahmen

Oft übersehen

Eine Kundenanfrage im Wortlaut. Ein Gesprächsprotokoll. Ein Angebot mit Firmenname und Ansprechpartner. Eine Beschwerde-Mail zum Umformulieren.

Behandlung: dieselbe wie oben – das wird regelmäßig unterschätzt

Meist unproblematisch

Aggregierte Zahlen ohne Einzelbezug. Öffentlich verfügbare Marktdaten. Eigene Texte ohne Personenbezug.

Behandlung: nach eigenem Ermessen

Besonders schützenswert

Gesundheitsdaten, Angaben zu Religion, Gewerkschaftszugehörigkeit, Sexualleben, biometrische Daten. Hier gelten deutlich strengere Anforderungen.

Behandlung: nicht ohne rechtliche Prüfung im Einzelfall

Was ihr den Anbieter fragen solltet

Zwei geometrische Flächen treffen sich entlang einer präzisen Lichtnaht — Der Vertrag ist die eigentliche Fuge. Ohne ihn passt nichts zusammen, so gut die Technik auch sein mag.

Diese sechs Fragen lassen sich per Mail stellen und sollten schriftlich beantwortet werden. Wer bei einer davon ausweicht, hat die Frage beantwortet.

Anfrage an den Anbieter

1. Stellen Sie einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO
   bereit? Bitte senden Sie uns den Mustervertrag zu.

2. In welchen Ländern werden die Daten verarbeitet und gespeichert?
   Bieten Sie eine Verarbeitung ausschließlich innerhalb der EU an?

3. Ist die Nutzung unserer Eingaben zum Training von Modellen
   vertraglich ausgeschlossen – nicht nur über eine Kontoeinstellung?

4. Wie lange werden Eingaben und Ausgaben gespeichert, und wie
   können wir eine Löschung veranlassen?

5. Welche Unterauftragsverarbeiter setzen Sie ein, und wie werden
   wir über Änderungen informiert?

6. Wie unterstützen Sie uns bei Auskunfts- und Löschbegehren
   betroffener Personen?

Frage drei ist die entscheidende. „Wir nutzen Ihre Daten nicht zum Training" in einer Marketingaussage ist etwas anderes als dieselbe Aussage im Vertrag.

Die Regelung, die tatsächlich funktioniert

Aus der Praxis

Die meisten Verstöße entstehen nicht durch eine bewusste Entscheidung der Geschäftsführung, sondern im Alltag: Jemand hat eine schwierige Kundenmail vor sich und fügt sie ein, um eine Antwort formulieren zu lassen. Das ist verständlich, effizient – und je nach Rahmen unzulässig.

Was in der Praxis wirkt, ist keine Schulung über Rechtsgrundlagen, sondern eine einzige klare Regel, die jeder behalten kann. Bei uns lautet sie: Was einen Namen enthält, geht nur in das freigegebene System. Alles andere ist frei.

Diese Formulierung ist juristisch nicht vollständig – es gibt personenbezogene Daten ohne Namen. Aber sie wird befolgt, und das ist mehr wert als eine korrekte Regel, an die sich niemand erinnert.

Tipp Wenn ein freigegebenes System bereitsteht, sinkt die Zahl der Verstöße deutlich stärker als durch jede Anweisung. Der Grund ist einfach: Die meisten Menschen umgehen keine Regel aus Trotz, sondern weil sie ihre Arbeit erledigen wollen und keinen erlaubten Weg sehen.

Anonymisieren als Zwischenweg

Wo kein freigegebenes System zur Verfügung steht, lässt sich der Personenbezug oft entfernen, bevor der Text eingegeben wird. Aus „Herr Meier von der Bauunternehmung Schmidt beschwert sich über die verspätete Lieferung vom 12. Juni" wird „Ein Kunde beschwert sich über eine verspätete Lieferung".

Zwei Einschränkungen gehören dazu. Erstens: Wenn genügend Einzelheiten übrig bleiben, ist die Person wieder bestimmbar – Ortsangaben, Branchenbezeichnungen und Datumsangaben in Kombination reichen dafür oft aus. Zweitens: Was für die Aufgabe wesentlich ist, darf nicht wegfallen, sonst ist das Ergebnis wertlos.

Als Faustregel: Für Formulierungshilfen funktioniert Anonymisieren gut. Für alles, was den konkreten Fall braucht, funktioniert es nicht – dort führt kein Weg an einem geregelten System vorbei.

Fazit

Die Frage ist beantwortbar, und sie ist beantwortbar, bevor etwas passiert. Drei Punkte klären, einen Vertrag abschließen, ein System freigeben und eine Regel formulieren, die man sich merken kann – das ist ein Nachmittag Arbeit und eine Rechnung vom Anwalt.

Was es kostet, wenn man es nicht tut, lässt sich schlechter beziffern. Der Bußgeldrahmen ist das eine. Das andere ist der Kunde, der fragt, was mit seinen Daten passiert ist – und dem man keine belastbare Antwort geben kann.

Häufige Fragen

Darf man Kundendaten in ChatGPT eingeben?

Nur mit einem Auftragsverarbeitungsvertrag, geklärtem Verarbeitungsort und vertraglich ausgeschlossener Nutzung zum Training. Für kostenlose Zugänge und Privatkonten sind diese Voraussetzungen in der Regel nicht erfüllt. Für Geschäftskundenangebote lassen sie sich prüfen – das gehört vor die erste Eingabe.

Gilt die DSGVO für Schweizer Unternehmen?

Ja, sobald Daten von Personen in der EU verarbeitet werden. Der Sitz in der Schweiz allein befreit nicht. Zusätzlich gilt das revidierte Schweizer Datenschutzgesetz. Viele Unternehmen müssen beides erfüllen und orientieren sich deshalb am strengeren Maßstab.

Reicht es, in den Einstellungen das Training abzuschalten?

Nein. Eine Einstellung lässt sich ändern – von einer Person, versehentlich oder bei einem Produktwechsel. Was zählt, ist die vertragliche Zusage. Wer nur den Schalter umlegt, hat keine belastbare Grundlage.

Was gilt als personenbezogenes Datum?

Alles, was eine Person bestimmbar macht – nicht nur der Name. Dazu zählen auch Kundenanfragen im Wortlaut, Gesprächsprotokolle und Angebote mit Ansprechpartner. Genau diese Fälle werden im Alltag am häufigsten übersehen.

Hilft es, den Text vorher zu anonymisieren?

Für Formulierungsaufgaben ja. Wichtig ist, dass die Person danach tatsächlich nicht mehr bestimmbar ist – Ort, Branche und Datum ergeben in Kombination oft wieder einen Bezug. Für Aufgaben, die den konkreten Fall brauchen, ist Anonymisieren kein Ersatz für einen geregelten Rahmen.

Was ist die praktikabelste Regel für ein Team?

Eine, die sich merken lässt: Was einen Namen enthält, geht nur in das freigegebene System. Juristisch nicht vollständig, aber im Alltag befolgt – und das wirkt mehr als eine korrekte Regel, an die sich niemand erinnert. Wichtiger als die Regel ist allerdings, dass ein freigegebenes System überhaupt bereitsteht.