Reicht es, in den ChatGPT-Einstellungen das Training mit meinen Daten abzuschalten, um DSGVO-konform zu sein?

Nein. Das Deaktivieren der Trainingsnutzung senkt zwar dieses eine Risiko, lässt aber die Rechtsgrundlage der Verarbeitung, Ihre Informationspflichten, die Rechte der betroffenen Personen und den Drittlandtransfer offen. Diese Punkte müssen Sie unabhängig davon regeln. Wer Personendaten über den Anbieter verarbeiten lässt, braucht zusätzlich einen Auftragsverarbeitungsvertrag und eine dokumentierte Rechtsgrundlage.

Darf ich Kundendaten, Gesundheitsdaten oder Angaben unter Berufsgeheimnis in ChatGPT eingeben?

Bei besonders schützenswerten Daten und bei Informationen, die dem Berufsgeheimnis unterliegen (etwa in Anwalts-, Arzt- oder Treuhandmandaten), liegt die Schwelle deutlich höher, und eine reine Vertragsklausel genügt selten. Ohne technische Vorkehrung sollten solche Inhalte nicht unverändert an einen externen Anbieter gehen. Cedreon ersetzt erkannte Identifikatoren vor dem Versand durch Platzhalter (Musterabgleich und mehrschichtige Erkennung nach bestem Bemühen), sodass der Anbieter die echten Werte nicht sieht.

Was bedeutet die Datenübermittlung in die USA für die ChatGPT-Nutzung?

Wird beim Verarbeiten auf Server ausserhalb der Schweiz oder des EWR zugegriffen, brauchen Sie eine gültige Grundlage für den Drittlandtransfer, etwa Standardvertragsklauseln, und müssen die Übermittlung gegenüber den betroffenen Personen offenlegen. Diese Verantwortung bleibt bei Ihrer Firma, auch wenn der Anbieter die Klauseln bereitstellt. Das Risiko sinkt, wenn möglichst wenig identifizierende Inhalte die Schweiz oder den EWR verlassen. Cedreon maskiert dazu erkannte Werte bereits vor dem Versand.

Antworten

Ist ChatGPT DSGVO-konform?

Ob ChatGPT DSGVO-konform ist, lässt sich nicht pauschal beantworten. Entscheidend ist, wie Ihre Firma das Werkzeug nutzt: welche Version sie einsetzt, welche Verträge bestehen und welche Daten Mitarbeitende tatsächlich eintippen. Mit dem Consumer-Konto lassen sich Kunden- oder Mitarbeiterdaten kaum konform verarbeiten. Mit den Business-Angeboten ist es möglich, verlangt aber Vorarbeit, die oft unterschätzt wird.

Warum die Frage falsch gestellt ist

Die DSGVO regelt nicht Software, sondern die Verarbeitung von Personendaten. Verantwortlich ist die Firma, die solche Daten eingibt, nicht OpenAI. Erst ein Auftragsverarbeitungsvertrag (AVV) macht OpenAI zum Auftragsverarbeiter; ohne diesen Vertrag ist jede Eingabe von Personendaten eine Übermittlung an einen Dritten, die Ihre Firma selbst rechtfertigen müsste. Ob eine Eingabe zulässig ist, entscheidet sich damit in jeder Firma neu, je nach Vertrag und Weisung.

Consumer-ChatGPT: mit Personendaten kaum haltbar

Das Gratis-Konto und ChatGPT Plus sind Verträge zwischen OpenAI und der einzelnen Person, nicht mit der Firma. Einen AVV gibt es dafür nicht. Eingaben können nach den derzeitigen Voreinstellungen von OpenAI für das Training künftiger Modelle verwendet werden; das lässt sich in den Einstellungen abschalten, aber eine Einstellung ersetzt keinen Vertrag.

Konkret: Kopiert eine Mitarbeiterin eine Kundenreklamation in ihr privates ChatGPT-Konto, verlassen Name, Vertragsdetails und oft mehr die Firma ohne Vertrag, ohne Weisung und ohne Protokoll. Dass das Ergebnis nützlich war, ändert daran nichts.

Die italienische Aufsichtsbehörde hat ChatGPT im Jahr 2023 vorübergehend gesperrt, unter anderem wegen offener Fragen zur Rechtsgrundlage des Trainings und zur Information der Betroffenen. Nach Anpassungen wurde der Dienst wieder freigegeben. Aufsichtsbehörden prüfen solche Dienste aktiv. Und die Nachbesserungen des Anbieters entbinden die nutzende Firma nicht von ihren eigenen Pflichten.

Die Business-Angebote: vertraglich besser gestellt

Für ChatGPT Team und Enterprise bietet OpenAI einen AVV an. Laut den aktuellen Geschäftsbedingungen von OpenAI werden Geschäftsdaten standardmässig nicht für das Training verwendet, ausser bei ausdrücklichem Opt-in. Enterprise-Kunden können nach denselben Bedingungen Datenresidenz-Optionen wählen, etwa Speicherung in Europa. Wie andere Anbieter das handhaben, haben wir unter Welche KI trainiert nicht mit Ihren Daten? zusammengetragen.

Damit ist die vertragliche Grundlage gelegt, mehr noch nicht. Der AVV regelt das Verhältnis zu OpenAI. Ob Ihre Firma die Daten überhaupt dorthin geben darf und wer intern was eingeben darf, beantwortet er nicht.

Was konforme Nutzung von Ihrer Firma verlangt

Wer ChatGPT geschäftlich mit Personendaten einsetzen will, braucht mindestens:

eine Rechtsgrundlage für jede Datenkategorie, die in Prompts landet
einen abgeschlossenen und gelesenen AVV, inklusive Blick auf Unterauftragsverarbeiter und Speicherorte
interne Weisungen, die festlegen, wer welche Daten eingeben darf und welche nie
bewusst gesetzte Aufbewahrungs- und Trainingseinstellungen statt der Standardwerte
Datenminimierung als gelebte Regel, nicht als Absichtserklärung

Der letzte Punkt trägt am meisten. Jede Angabe, die den Anbieter gar nicht erreicht, muss weder vertraglich abgesichert noch dokumentiert noch im Ernstfall erklärt werden. Für die meisten Aufgaben braucht das Modell den echten Namen oder die echte IBAN nicht.

Die Schweizer Einordnung

Für Schweizer Firmen gilt primär das revidierte DSG, mit dem EDÖB als Aufsichtsbehörde. Die DSGVO kommt zusätzlich ins Spiel, sobald Daten von Personen in der EU verarbeitet werden, etwa bei EU-Kunden eines Schweizer Onlinehändlers. In der Praxis laufen die Pflichten auf dasselbe hinaus: Vertrag, Weisung, Minimierung. Für Branchen mit Berufsgeheimnis, etwa Banken, Arztpraxen und Kanzleien, liegt die Schwelle nochmals höher. Eine ausführlichere Einordnung finden Sie unter ChatGPT und Schweizer Datenschutz.

Wie Cedreon das Problem angeht

Cedreon ist ein KI-Arbeitsplatz für sensible Daten, entwickelt in der Schweiz. Der Ansatz setzt vor der Übermittlung an: Bevor Text an einen Modellanbieter geht, sucht Cedreon vertrauliche Angaben wie Namen, IBANs und Adressen per Mustererkennung und mehrschichtiger maschineller Erkennung und ersetzt sie durch Platzhalter. Die Originale bleiben in einem verschlüsselten Tresor auf Cedreon-Seite; in der Antwort werden sie für die angemeldete Person wieder eingesetzt. Der Modellanbieter sieht die echten Werte nie.

Zwei Einschränkungen: Die Erkennung arbeitet nach bestem Bemühen, und Maskierung ist Pseudonymisierung, keine Anonymisierung. Gerade deshalb protokolliert Cedreon jeden Austausch in einem nur anfügbaren, kryptografisch verketteten Audit-Log; eine Firma kann später belegen, was das Haus verlassen hat und was vorher ersetzt wurde. Leitplanken lassen sich zudem in Alltagssprache formulieren (blockieren, warnen, markieren) und laufen bei jedem Chat mit.

Daten, die den Anbieter nie erreichen, brauchen keine juristische Konstruktion. Wenn Sie das an eigenen Texten prüfen möchten, können Sie Cedreon kostenlos testen.

Häufige Fragen

Reicht es, in den ChatGPT-Einstellungen das Training mit meinen Daten abzuschalten, um DSGVO-konform zu sein?: Nein. Das Deaktivieren der Trainingsnutzung senkt zwar dieses eine Risiko, lässt aber die Rechtsgrundlage der Verarbeitung, Ihre Informationspflichten, die Rechte der betroffenen Personen und den Drittlandtransfer offen. Diese Punkte müssen Sie unabhängig davon regeln. Wer Personendaten über den Anbieter verarbeiten lässt, braucht zusätzlich einen Auftragsverarbeitungsvertrag und eine dokumentierte Rechtsgrundlage.
Darf ich Kundendaten, Gesundheitsdaten oder Angaben unter Berufsgeheimnis in ChatGPT eingeben?: Bei besonders schützenswerten Daten und bei Informationen, die dem Berufsgeheimnis unterliegen (etwa in Anwalts-, Arzt- oder Treuhandmandaten), liegt die Schwelle deutlich höher, und eine reine Vertragsklausel genügt selten. Ohne technische Vorkehrung sollten solche Inhalte nicht unverändert an einen externen Anbieter gehen. Cedreon ersetzt erkannte Identifikatoren vor dem Versand durch Platzhalter (Musterabgleich und mehrschichtige Erkennung nach bestem Bemühen), sodass der Anbieter die echten Werte nicht sieht.
Was bedeutet die Datenübermittlung in die USA für die ChatGPT-Nutzung?: Wird beim Verarbeiten auf Server ausserhalb der Schweiz oder des EWR zugegriffen, brauchen Sie eine gültige Grundlage für den Drittlandtransfer, etwa Standardvertragsklauseln, und müssen die Übermittlung gegenüber den betroffenen Personen offenlegen. Diese Verantwortung bleibt bei Ihrer Firma, auch wenn der Anbieter die Klauseln bereitstellt. Das Risiko sinkt, wenn möglichst wenig identifizierende Inhalte die Schweiz oder den EWR verlassen. Cedreon maskiert dazu erkannte Werte bereits vor dem Versand.