Kundendaten in KI-Tools: DSGVO-Prüfpfad für Selbstständige

1. Welche Kundendaten sind in einem Prompt enthalten?

Personenbezogene Daten sind alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Neben Name, Adresse und E-Mail können auch Kundennummer, Bestellhistorie, IP-Adresse, Gesprächsnotiz, Standort, Stimme oder die Kombination mehrerer scheinbar harmloser Angaben eine Person erkennbar machen. Ein Supportticket bleibt daher nicht anonym, nur weil der Name gelöscht wurde, wenn Bestellnummer und seltener Sachverhalt eine Zuordnung erlauben.

Gesundheitsdaten, politische Meinungen, Religion, Gewerkschaftszugehörigkeit, biometrische Daten und weitere besondere Kategorien nach Artikel 9 DSGVO benötigen erhöhten Schutz. Daneben gibt es vertrauliche Unternehmensdaten, Geschäftsgeheimnisse und vertraglich geschützte Informationen, die nicht zwingend personenbezogen sind, aber trotzdem nicht in ein externes System gehören. Erfasse vor der Toolwahl Datenfelder, betroffene Personengruppen, Quelle und Sensibilität – einschließlich Dateien, Anhängen, verbundenen Cloudspeichern und später erzeugten Ausgaben.

2. Welcher Zweck und welche Rechtsgrundlage passen?

Artikel 5 DSGVO verlangt unter anderem Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung und angemessene Sicherheit. „Wir wollen KI ausprobieren“ ist kein ausreichend bestimmter Verarbeitungszweck. Beschreibe stattdessen beispielsweise: eingehende Supportanfragen werden in drei interne Kategorien vorgeschlagen, ein Mitarbeiter prüft die Zuordnung und die Daten werden nach einer festgelegten Frist gelöscht. Erst dann lässt sich beurteilen, welche Angaben wirklich nötig sind.

Jede Verarbeitung benötigt eine Rechtsgrundlage nach Artikel 6 DSGVO; bei besonderen Daten kommen zusätzliche Voraussetzungen hinzu. Vertragserfüllung, Einwilligung und berechtigtes Interesse sind keine austauschbaren Etiketten. Das berechtigte Interesse erfordert Erforderlichkeit und Interessenabwägung. Der Europäische Datenschutzausschuss betont für KI-Modelle eine fallbezogene Prüfung und die vernünftigen Erwartungen der betroffenen Personen. Hole rechtlichen Rat ein, wenn Zweck, Weiterverwendung oder Folgen für Kunden nicht klar begrenzt sind.

3. Wer ist verantwortlich und wann braucht man einen AV-Vertrag?

Wer Zweck und wesentliche Mittel der Verarbeitung bestimmt, ist regelmäßig Verantwortlicher. Verarbeitet ein Dienstleister personenbezogene Daten nur nach dokumentierter Weisung für diesen Verantwortlichen, kann Auftragsverarbeitung vorliegen. Artikel 28 DSGVO verlangt dann einen Vertrag mit bestimmten Inhalten. Die EU-Kommission nennt unter anderem Gegenstand, Dauer, Art, Zweck, Datenarten, Personengruppen und Pflichten beider Seiten.

Ein vorhandenes „DPA“ im Anbieterportal ist nur ein Baustein. Prüfe, für welches Produkt und welchen Vertragspartner es gilt, welche Unterauftragnehmer einbezogen sind, welche Weisungs- und Löschmöglichkeiten bestehen und ob dein Kunde seinerseits zustimmen muss. Ein privates Chatkonto kann anderen Bedingungen unterliegen als Business-Workspace oder API. Am Beispiel OpenAI gelten laut Anbieter für Business-Produkte und API eigene Kundenverträge; Geschäftsdaten werden dort standardmäßig nicht zum Modelltraining verwendet. Das beantwortet aber noch nicht deine Rechtsgrundlage, Datenminimierung oder Übermittlung.

4. Wie minimiert und pseudonymisiert man Eingaben?

Übertrage nur Felder, die für den definierten Zweck erforderlich sind. Für die sprachliche Überarbeitung einer Antwort werden Name, Telefonnummer, vollständige Bestellhistorie und interne Kontonotizen meist nicht gebraucht. Ersetze Identifikatoren vor der Übergabe durch neutrale Platzhalter und bewahre die Zuordnung getrennt mit engen Zugriffsrechten auf. Synthetische Testdaten sind für Entwicklung und Demonstration häufig die bessere Wahl.

Pseudonymisierte Daten bleiben personenbezogen, solange eine Zuordnung mit Zusatzwissen möglich ist. Wirklich anonyme Daten dürfen auch mit realistisch verfügbaren Mitteln nicht auf eine Person zurückgeführt werden. Freitext ist besonders tückisch: Kunden schreiben darin freiwillig Namen, Krankheiten oder Vertragsdetails. Eine technische Vorfilterung, erlaubte Felder und klare Eingabehinweise sind verlässlicher als die Hoffnung, dass niemand sensible Angaben einfügt. Prüfe auch Ausgaben, Protokolle, Vektordatenbanken und Backups; ein gelöschter Chat entfernt nicht automatisch jede Kopie in der Verarbeitungskette.

5. Was ist bei Speicherort, Unterauftragnehmern und Drittländern wichtig?

Frage nicht nur „Server in der EU?“, sondern verfolge die gesamte Kette: Vertragspartner, Rechenzentren, Supportzugriffe, Unterauftragnehmer, Telemetrie und mögliche internationale Übermittlungen. Bei Empfängern außerhalb von EU und EWR benötigt die Übermittlung eine Grundlage nach Kapitel V DSGVO, beispielsweise einen Angemessenheitsbeschluss oder geeignete Garantien wie Standardvertragsklauseln. Je nach Land und Risiko können zusätzliche technische und organisatorische Maßnahmen nötig sein.

Anbieterlisten ändern sich. OpenAI veröffentlicht beispielsweise eine aktuelle Unterauftragnehmerliste und nennt im DPA Standardvertragsklauseln als möglichen Transfermechanismus. Das ist keine allgemeine Empfehlung für diesen Anbieter, sondern ein Beispiel für Dokumente, die vor Freigabe geprüft und mit Datum archiviert werden sollten. Regionale Datenresidenz kann bestimmte Speicherung begrenzen, schließt aber nicht automatisch jeden Zugriff oder jede Übermittlung aus.

6. Welche technischen und organisatorischen Maßnahmen gehören dazu?

Artikel 32 DSGVO verlangt ein dem Risiko angemessenes Schutzniveau. Praktisch gehören dazu persönliche Konten statt geteilter Passwörter, Mehrfaktor-Authentifizierung, rollenbasierte Rechte, getrennte Entwicklungs- und Produktivumgebungen, Schlüsselrotation, Verschlüsselung, Protokollierung und ein geregelter Entzug von Zugängen. Definiere, wer neue Tools freigibt, wer Konnektoren aktivieren darf und wie ein Datenabfluss gemeldet wird.

Für KI-Ausgaben braucht es zudem Qualitäts- und Freigaberegeln. Das Modell kann personenbezogene Angaben falsch zuordnen, unzulässig ergänzen oder im falschen Kontext ausgeben. Automatische Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung berühren zusätzliche DSGVO-Anforderungen. Bei voraussichtlich hohem Risiko ist nach Artikel 35 eine Datenschutz-Folgenabschätzung zu prüfen. Die Orientierungshilfen der deutschen Datenschutzkonferenz empfehlen, Auswahl, Einführung, Betrieb und Kontrolle eines KI-Systems gemeinsam zu betrachten, statt Datenschutz erst nach dem Pilot anzuhängen.

7. Welche Checkliste gilt vor dem ersten echten Datensatz?

1. Zweck, Datenfelder, betroffene Personen und erwartete Ausgabe dokumentieren.
2. Nicht erforderliche Angaben entfernen und für Tests synthetische Daten verwenden.
3. Rechtsgrundlage, Informationspflichten und gegebenenfalls Einwilligungen prüfen.
4. Rollen festlegen und einen passenden Auftragsverarbeitungsvertrag abschließen.
5. Produktvariante, Trainingsnutzung, Aufbewahrung, Löschung, Unterauftragnehmer und Transfers prüfen.
6. Zugriffsrechte, Protokollierung, menschliche Freigabe und Vorfallprozess einrichten.
7. Bei Zweckänderung, neuem Modell oder neuem Konnektor erneut freigeben lassen.

Ein „datenschutzkonformes KI-Tool“ gibt es nicht losgelöst vom Einsatz. Konformität entsteht erst aus Produkt, Vertrag, Konfiguration, Daten, Zweck und tatsächlicher Nutzung. Für die zusätzliche Rolle nach dem AI Act hilft der Ratgeber EU AI Act für Selbstständige.