Gibt es Grenzen beim Training von KI?

Wir gehen davon aus, dass Inhalte, die wir öffentlich ins Internet stellen, von Menschen gesehen, gelesen und genutzt werden können. Aber rechnen wir auch damit, dass Bots oder KI-Suchen diese Inhalte automatisiert auslesen, vielleicht abspeichern oder sogar für das Training von generativer KI nutzen?

Zu genau dieser Frage hat sich auch der Europäische Datenschutzausschuss (EDSA / international EDPB) Gedanken gemacht und vor kurzem eine Leitlinie entworfen. Die Leitlinie behandelt das sogenannte Web Scraping in Bezug auf generative KI. Beim Web Scraping oder auch Scraping genannt, werden große öffentlich zugängliche Datenmengen automatisiert aus Webseiten, Plattformen oder anderen Online-Quellen ausgelesen und weiterverarbeitet. Gerade für die Entwicklung und das Training von generativer KI ist dies besonders wichtig.

Doch wie sieht es dabei eigentlich mit dem Datenschutz aus?

Ein häufiger Irrtum lautet: Wenn eine Information öffentlich im Internet steht, darf sie auch beliebig weiterverwendet werden. Datenschutzrechtlich stimmt das so nicht ganz.

Sobald beim Scraping personenbezogene Daten verarbeitet werden, beispielsweise Namen, Fotos, Kontaktdaten, berufliche Informationen, Beiträge in sozialen Netzwerken oder andere Informationen über identifizierbare Personen, ist die DSGVO grundsätzlich relevant. Das gilt auch dann, wenn diese Daten öffentlich zugänglich sind. Der EDSA stellt ausdrücklich klar, dass Web Scraping unter anderem die Erhebung, Speicherung, Organisation und weitere Nutzung personenbezogener Daten umfassen kann.

Auch der Europäische Datenschutzbeauftragte weist darauf hin, dass öffentlich verfügbare personenbezogene Daten weiterhin dem europäischen Datenschutzrecht unterliegen. Besonders problematisch kann sein, dass Betroffene häufig gar nicht wissen, dass ihre Daten gesammelt und für einen völlig anderen Zweck (beispielsweise das Training eines KI-Modells) verwendet werden.

Welche Fragen müssen sich KI-Anbieter stellen?

Wer personenbezogene Daten aus dem Internet für ein KI-System sammelt, sollte sich daher unserer Meinung nach (aufbauend auf einer Empfehlung der französischen Datenschutzbehörde CNIL) unter anderem mit folgenden Fragen beschäftigen:

Gibt es eine Rechtsgrundlage für die Verarbeitung?
Ist die Nutzung für das KI-Training mit dem ursprünglichen Zweck der Veröffentlichung vereinbar?
Werden tatsächlich nur die notwendigen Daten erhoben oder wird möglichst viel „auf Vorrat“ gesammelt?
Können sensible Daten wie Gesundheitsinformationen, politische Ansichten oder andere besonders geschützte Informationen enthalten sein?
Wie werden Betroffene über die Verarbeitung informiert?
Wie können Betroffene ihre Rechte ausüben?
Welche technischen Maßnahmen verhindern, dass bestimmte Websites oder Datenarten überhaupt erfasst werden?

Gerade die Rechtsgrundlage ist nicht trivial. Die britische Datenschutzbehörde, Information Commissioner's Office (ICO), kommt beispielsweise zu dem Ergebnis, dass bei den heute üblichen Verfahren insbesondere das berechtigte Interesse in Betracht kommt. Das setzt aber eine konkrete Prüfung voraus: Der Anbieter muss ein legitimes Interesse benennen, nachweisen, dass die Verarbeitung erforderlich ist, und die eigenen Interessen gegen die Rechte und Erwartungen der betroffenen Personen abwägen. Das ICO bezeichnet Web Scraping für KI-Training dabei ausdrücklich als eine Verarbeitung mit erhöhtem Risiko und geringer Sichtbarkeit für Betroffene.

Ein Beispiel aus dem Alltag:

Aufgrund einer neuen Idee werden auf einer öffentlich erreichbaren Unternehmensseite Namen, Funktionen und Fotos von leitenden Mitarbeitenden veröffentlicht. Diese Informationen sind dafür gedacht, Kunden und Geschäftspartnern Ansprechpartner zur Verfügung zu stellen.

Ein KI-Anbieter durchsucht automatisiert Millionen Websites und übernimmt diese Informationen in einen Trainingsdatensatz. Die Daten waren zwar öffentlich verfügbar, der ursprüngliche Zweck war aber nicht automatisch das Training eines KI-Modells. An dieser Stelle könnten Fragen nach Zweckbindung, berechtigten Erwartungen, Transparenz und Datenminimierung entstehen.

Hinweis: Die CNIL hat Empfehlungen für die DSGVO-konforme Entwicklung von KI herausgegeben.

Was bedeutet das für Unternehmen?

Das Thema betrifft aufgrund der datenschutzrechtlichen Fragen aber nicht nur große KI-Anbieter.

Unternehmen sollten sich auch fragen, welche personenbezogenen Informationen sie selbst öffentlich bereitstellen und wie leicht diese automatisiert ausgelesen werden können. Dabei sind beispielsweise Mitarbeiterprofile, Ansprechpartner, Fotos, Pressebereiche, Blogbeiträge oder öffentlich zugängliche Verzeichnisse zu bedenken.

Gleichzeitig ist Web Scraping nicht grundsätzlich verboten, da es bislang noch keine auf diesen Sachverhalt zugeschnittenen Regelungen gibt. Entscheidend ist vielmehr, welche Daten erhoben werden, für welchen Zweck sie genutzt werden, auf welcher Rechtsgrundlage die Verarbeitung erfolgt und welche Schutzmaßnahmen getroffen werden können.

Die aktuellen EDSA-Leitlinien sollen genau dafür einen europäischen Rahmen schaffen. Sie wurden am 7. Juli 2026 angenommen und befinden sich derzeit noch in der öffentlichen Konsultation. Entsprechende Stellungnahmen können von sämtlichen Interessierten bis zum 30. Oktober 2026 eingereicht werden.