DSGVO für KI-Agenten: Residenz, Auftragsverarbeiter

Was sich ändert, wenn ein Agent personenbezogene Daten berührt

Die DSGVO hat kein Sonderkapitel für KI-Agenten. Ihre Regeln knüpfen an die Verarbeitung personenbezogener Daten an, gleichgültig, wer oder was sie ausführt. In der Praxis ändert sich die Gestalt der Verarbeitung. Eine Person, die einen Kundendatensatz nachschlägt, berührt einen Datensatz aus einem Grund. Ein Agent kann Tausende Datensätze lesen, andere Systeme aufrufen und Text an ein Sprachmodell weitergeben, in einer Schleife, die niemand beobachtet. Die Fragen in diesem Artikel sind daher die bekannten DSGVO-Fragen, gestellt an ein System, das schneller und über mehr Beteiligte arbeitet als ein Mensch.

Residenz ist eine Standortfrage, Auftragsverarbeiter sind eine Vertragsfrage

Datenresidenz beantwortet, wo personenbezogene Daten gespeichert und verarbeitet werden. Sie beantwortet für sich genommen nicht, wer sie unter welchen Bedingungen verarbeiten darf. Diese zweite Frage regelt Artikel 28: Erfolgt eine Verarbeitung im Auftrag eines Verantwortlichen, darf dieser nur Auftragsverarbeiter einsetzen, die hinreichende Garantien bieten, und die Verarbeitung muss auf einem Vertrag oder einem anderen Rechtsinstrument beruhen. Der Standort spielt vor allem über Artikel 44 eine Rolle, der eine Übermittlung in ein Drittland nur zulässt, wenn die Bedingungen dieses Kapitels erfüllt sind. Eine EU-Region ist ein nützlicher Ausgangspunkt, keine Compliance-Aussage. Modellanbieter, Logging-Dienst und Monitoring-Werkzeug gehören alle zum Datenpfad.

Fragen, Artikel und aufzubewahrende Nachweise

Die Tabelle übersetzt die wichtigsten DSGVO-Pflichten in Fragen, die Sie für ein Agentenprojekt beantworten können, mit dem jeweiligen Artikel der Verordnung und den Nachweisen, die aufzubewahren sich lohnt. Sie ist eine Arbeitshilfe für Gespräche mit Ihrem Datenschutzbeauftragten oder Ihrer Rechtsberatung, kein vollständiges Compliance-Programm.

Eine Checkliste für Auftragsverarbeiter bei Agentenprojekten

Gehen Sie die Liste in dieser Reihenfolge durch. Sie beginnt mit dem Datenpfad, weil die späteren Schritte erst sinnvoll sind, wenn Sie wissen, welche Beteiligten darin vorkommen.

1. Erfassen Sie den Datenpfad: jedes System, jeden Modell-Endpunkt, jeden Log-Speicher und jeden Dienstleister, der Eingaben, Prompts, Ausgaben und Traces des Agenten sieht.
2. Entscheiden Sie je Beteiligtem, ob er als Auftragsverarbeiter in Ihrem Auftrag handelt, und prüfen Sie, dass der Vertrag die Punkte aus Artikel 28 Abs. 3 abdeckt, einschließlich der Verarbeitung nur auf dokumentierte Weisung.
3. Holen Sie von jedem Auftragsverarbeiter die aktuelle Liste weiterer Auftragsverarbeiter ein und vereinbaren Sie, wie er Sie über Änderungen informiert, damit Sie Einspruch erheben können.
4. Halten Sie fest, wo jeder Beteiligte Daten speichert und verarbeitet, und die Übermittlungsgrundlage für alles außerhalb der EU oder des EWR.
5. Prüfen Sie die Sicherheitsmaßnahmen anhand von Artikel 32 und vereinbaren Sie, wie und wie schnell Sie von einer Verletzung des Schutzes personenbezogener Daten erfahren, da Ihre eigene Meldefrist ab Kenntnis läuft.
6. Vereinbaren Sie Löschung oder Rückgabe der Daten nach Ende der Leistung sowie Ihre Auskunfts- und Prüfrechte.
7. Entscheiden Sie über die Folgenabschätzung, aktualisieren Sie Ihr Verzeichnis von Verarbeitungstätigkeiten und führen Sie Agenten-Logs, mit denen Sie Anfragen betroffener Personen beantworten können.

Modelle, Prompts und die Sicht des EDSA

Der Europäische Datenschutzausschuss hat sich in der Stellungnahme 28/2024 vom 18. Dezember 2024 mit KI-Modellen befasst, abgegeben nach Artikel 64 Abs. 2 auf Ersuchen der irischen Aufsichtsbehörde. Für ein Unternehmen, das Modelle einsetzt statt entwickelt, sind zwei Punkte wichtig. Erstens geht der Ausschuss davon aus, dass mit personenbezogenen Daten trainierte KI-Modelle nicht in allen Fällen als anonym gelten können; eine Behauptung der Anonymität muss im Einzelfall geprüft werden. Zweitens sollen Aufsichtsbehörden, wenn ein anderer Verantwortlicher ein Modell einsetzt, das personenbezogene Daten behält, berücksichtigen, ob der Einsetzende angemessen geprüft hat, dass das Modell nicht durch unrechtmäßige Verarbeitung personenbezogener Daten entwickelt wurde. Fordern Sie in der Praxis vom Modellanbieter Dokumentation an, statt Anonymität zu unterstellen. Die Stellungnahme betrifft Modelle und Verantwortliche und ersetzt daher nicht die oben beschriebene Arbeit mit Auftragsverarbeitern.

Wann eine Folgenabschätzung erforderlich ist

Nach Artikel 35 Abs. 1 führt der Verantwortliche vorab eine Folgenabschätzung durch, wenn eine Form der Verarbeitung, insbesondere bei Verwendung neuer Technologien, voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Artikel 35 Abs. 3 nennt Fälle, in denen sie immer erforderlich ist, darunter die systematische und umfassende Bewertung persönlicher Aspekte auf Grundlage automatisierter Verarbeitung, auf der bedeutsame Entscheidungen beruhen, und die umfangreiche Verarbeitung besonderer Datenkategorien. Viele interne Agenten erreichen diese Schwelle nicht, und ein Agent, der nie personenbezogene Daten sieht, braucht möglicherweise keine. Ob das auf Ihren zutrifft, ist eine rechtliche Bewertung. Halten Sie die Begründung in beiden Fällen fest, denn die Folgenabschätzung muss, wenn sie nötig ist, vor dem Go-live des Agenten erfolgen.

Wie EUHub die eigenen Workloads hostet

Die eigenen Produktions-Workloads von EUHub laufen auf Microsoft Azure Container Apps in der Region Germany West Central, in Deutschland, innerhalb der EU. Bei Kundenprojekten wird die Hosting-Region vorab vereinbart, standardmäßig in EU-Regionen, wie auf unserer Seite zum Deployment beschrieben. Das beschreibt unser eigenes Hosting. Es ist keine Zertifizierung und ersetzt bei keinem Projekt den Auftragsverarbeitungsvertrag und die oben genannten Prüfungen. Unser Ansatz zur Sicherheit steht auf der Sicherheitsseite.

Keine Rechtsberatung

Dieser Artikel ist eine allgemeine Information eines Engineering-Teams, keine Rechtsberatung. Aussagen zu DSGVO-Artikeln folgen dem Text der Verordnung (EU) 2016/679 im Amtsblatt, veröffentlicht am 4. Mai 2016, und der Stellungnahme des EDSA in der veröffentlichten Fassung. Prüfen Sie den aktuellen konsolidierten Text und Ihr nationales Recht und fragen Sie für Ihren Fall Ihren Datenschutzbeauftragten oder Ihre Rechtsberatung.