Wenn das „Recht auf Vergessenwerden“ an seine Grenzen stößt
Künstliche Intelligenz (KI) und Datenschutz – zwei Disziplinen, die selten harmonisch miteinander funktionieren. Während die DSGVO den Betroffenen in Art. 17 DSGVO – Recht auf Löschung („Recht auf Vergessenwerden“) umfassende Ansprüche zusichert, denkt KI völlig anders: Sie vergisst nicht – sie lernt.
Eine klassische Datenbank kann einzelne Datensätze einfach löschen. Eine KI dagegen speichert keine konkreten Daten, sondern Muster, Korrelationen und Wahrscheinlichkeiten. Was sie einmal gelernt hat, lässt sich nicht so einfach „entlernen“. Oder wie das Bayerische Landesamt für Datenschutzaufsicht (BayLDA) es formuliert:
„Gelöschte Daten hinterlassen in neuronalen Netzen oft Spuren – und können indirekt reproduziert werden.“
Warum KI sich beim Vergessen so schwertut
Stellen Sie sich vor, Sie wollen absichtlich vergessen, was Sie heute gegessen haben. Klingt schwierig? Genau das gilt auch für KI-Systeme.
Sobald personenbezogene Daten in das Training einer KI eingeflossen sind, ist deren Einfluss kaum vollständig rückgängig zu machen. Das liegt daran, dass Trainingsdaten das Modell formen – und diese Veränderungen nicht einfach rückwärtslaufen können.
Das BayLDA empfiehlt daher zu prüfen:
- Sind personenbezogene Daten direkt erkennbar im Modell gespeichert, oder
- lassen sie sich nur über zusätzliche Informationen (z. B. Prompts) rekonstruieren?
Nur im ersten Fall besteht eine konkrete Löschpflicht – und selbst dann meist mit technischen Grenzen.
Mehr zum Grundsatz der Verhältnismäßigkeit: „Das Verhältnismäßigkeitsprinzip im Datenschutz“
„Machine Unlearning“ – Wenn KI vergessen lernen soll
Forschende weltweit arbeiten an Methoden, um KI das Vergessen beizubringen.
Doch die Realität ist ernüchternd:
Nachtraining (Machine Unlearning)
Dabei wird das Modell so angepasst, dass es bestimmte Informationen „verlernt“: KI-Modelle werden dabei so angepasst, das sie auf die bestimmten zu löschenden personenbezogenen Daten nicht mehr reagieren. Das ist aber alles andere als einfach! Wie beim Versuch, eine einzelne Farbe aus einem Gemälde zu entfernen, bleiben Schatten und Spuren zurück. Außerdem: Nachtraining kann sehr aufwendig und teuer werden.
Filterung der Ausgaben
Ein pragmatischerer Ansatz ist die Filterung: Daten werden nicht gelöscht, sondern nur aus den Antworten herausgefiltert. So erscheinen sensible Inhalte nach außen nicht mehr – im Inneren des Modells bleiben sie aber bestehen. Ein Placebo also, kein echtes Vergessen.
Zwischen Recht und Realität
Hier prallen zwei Welten aufeinander:
- Die Rechtslage fordert, dass Daten gelöscht werden können.
- Die Technik erlaubt es (noch) nicht.
Solange neuronale Netze nicht gezielt „verlernen“ können, bleibt das Recht auf Vergessenwerden im KI-Kontext eine schöne Theorie mit technischen Fußnoten.
Die DSGVO wurde 2016 beschlossen – lange bevor generative KI Realität war.
Heute zeigt sich: Der Gesetzestext ist klüger als die Technik, aber manchmal auch zu optimistisch.
Vorsicht ist besser als Nachsicht
Statt sich auf spätere Löschung zu verlassen, sollten Unternehmen beim KI-Einsatz früh an den Datenschutz denken:
- Datensparsamkeit: Nur so viele personenbezogene Daten wie nötig in Trainingsdaten einfließen lassen.
- Transparenz: Betroffene klar informieren, wenn KI-Systeme ihre Daten verarbeiten. Nur wer seine Datenströme kennt, kann Datenschutzrechte auch im KI-Kontext gewährleisten.
- DSFA prüfen: Bei hohem Risiko eine Datenschutz-Folgenabschätzung (DSFA) durchführen.
Je weniger echte personenbezogene Daten in der KI landen, desto geringer das Risiko – und der Aufwand im Fall einer Löschanfrage.
Verantwortung und Prozesse
Wer KI einsetzt, sollte jederzeit wissen:
- welche Systeme genutzt werden,
- welche Datenquellen verarbeitet werden,
- und welche Schutzmaßnahmen greifen.
Dokumentation, Verantwortlichkeiten und transparente Kommunikation sind hier das A und O. Nur so können Unternehmen gegenüber Aufsichtsbehörden glaubhaft zeigen:
„Wir wissen, was unsere KI macht – und wo ihre Grenzen liegen.“
Fazit
KI-Systeme sind großartig im Lernen, aber miserabel im Vergessen.
Darum liegt der Schlüssel zum Datenschutz im präventiven Handeln: Daten reduzieren, Prozesse absichern, Transparenz schaffen. So wird aus technologischem Fortschritt auch verantwortungsvolle Innovation.
Autor: Markus Vatter, Head of Compliance, 30.10.2025
