Wichtig vorab: keine Rechtsberatung
Diese Seite erklärt Begriffe und Grundgedanken. Für echte Projekte fragst du Fachleute und prüfst aktuelle Quellen.
Diese Seite erklärt Begriffe und Grundgedanken. Sie ersetzt keine Rechtsberatung. Gesetze ändern sich, Auslegungen ebenfalls, und im Einzelfall kommt es auf die Umstände an. Für ein echtes Projekt sprichst du mit der Datenschutzbeauftragten oder einer Anwältin, und du prüfst aktuelle, offizielle Quellen.
Datenschutz-Grundverordnung in Grundzügen
- Personenbezogene Daten (Name, Foto, Stimme)
- Rechtsgrundlage (Einwilligung, Vertrag, Interesse)
- Verarbeitung (erlaubt)
Personenbezogene Daten darf nur verarbeiten, wer dafür eine Rechtsgrundlage hat, auch beim Training.
Die Datenschutz-Grundverordnung gilt in der Europäischen Union für den Umgang mit personenbezogenen Daten. Das sind Angaben, die sich auf eine Person beziehen lassen: Name, Foto, Stimme, Kennzahl, auch Kombinationen von Merkmalen. Sie gilt, sobald solche Daten verarbeitet werden, auch beim Training oder Betrieb eines Modells.
Die Grundidee: Du darfst solche Daten nur verarbeiten, wenn du dafür eine Rechtsgrundlage hast, etwa eine Einwilligung, einen Vertrag oder ein berechtigtes Interesse. Ohne Grundlage ist die Verarbeitung nicht erlaubt.
Die zentralen Grundsätze
- Zweckbindung (nur für den Zweck)
- Datenminimierung (nur das Nötige)
- Transparenz (Betroffene wissen Bescheid)
- Richtigkeit (Daten stimmen)
- Speicherbegrenzung (nicht länger als nötig)
- Sicherheit (Schutz vor Zugriff)
Sechs Grundsätze ziehen sich durch jedes Projekt, vom Zweck bis zur Sicherheit.
Ein paar Grundsätze ziehen sich durch alle Projekte:
| Grundsatz | Bedeutung | Beispiel im KI-Projekt |
|---|---|---|
| Zweckbindung | Daten werden für einen festgelegten Zweck erhoben und nicht für anderes genutzt | Kundendaten aus Verträgen nicht still zum Training eines Werbemodells verwenden |
| Datenminimierung | Nur so viel wie nötig | Gesichter unkenntlich machen, wenn nur Personen gezählt werden sollen |
| Transparenz | Betroffene erfahren, was mit ihren Daten geschieht | Hinweisschild und verständliche Datenschutzinformation |
| Richtigkeit | Daten sollen stimmen und aktuell sein | Falsche Etiketten korrigieren |
| Speicherbegrenzung | Daten nur so lange wie nötig | Löschfristen für Trainings- und Protokolldaten |
| Sicherheit | Schutz vor Verlust und fremdem Zugriff | Zugriffsrechte, Verschlüsselung |
Dienstleister und Rechte Betroffener
- Du (bleibst verantwortlich)
- Vertrag (legt fest, was erlaubt ist)
- Dienstleister (arbeitet nach Weisung)
Externe Dienste brauchen einen Vertrag. Du bleibst für die Daten verantwortlich.
Setzt du einen externen Dienst ein, der in deinem Auftrag Daten verarbeitet, liegt eine Auftragsverarbeitung vor. Dafür braucht es einen Vertrag, der festlegt, was der Dienstleister darf. Du bleibst für die Daten verantwortlich. Werden Daten außerhalb der EU verarbeitet, gelten zusätzliche Anforderungen.
Betroffene haben Rechte. Dazu gehören grob: Auskunft, was über sie gespeichert ist, Berichtigung falscher Daten, Löschung unter bestimmten Bedingungen und Widerspruch. Außerdem gibt es einen Schutz davor, dass Entscheidungen mit erheblicher Wirkung ausschließlich automatisiert fallen, mit Ausnahmen. Für riskante Verarbeitungen kann eine Datenschutz-Folgenabschätzung nötig sein.
Die EU-KI-Verordnung: Risiko bestimmt die Pflichten
- Verboten (unannehmbar)
- Hochrisiko (strenge Pflichten)
- Transparenz (KI kenntlich machen)
- Minimales Risiko (kaum Pflichten)
Je größer das Risiko für Menschen, desto strenger die Regeln. Vier Stufen, vom Verbot bis zum Freiraum.
Die EU-KI-Verordnung regelt den Einsatz von KI-Systemen mit einem risikobasierten Ansatz. Je größer das Risiko für Menschen und Grundrechte, desto strenger die Regeln. Sie unterscheidet grob vier Stufen.
| Stufe | Grundgedanke | Beispiele (grob) |
|---|---|---|
| Verboten | Praktiken, die als unannehmbar gelten | Bestimmte Formen von Social Scoring, gezielte Manipulation verletzlicher Gruppen |
| Hochrisiko | Erlaubt, aber mit strengen Pflichten | KI in Personalauswahl, Kreditwürdigkeit, Bildung, kritischer Infrastruktur |
| Transparenzpflichten | Nutzer sollen wissen, dass sie mit KI zu tun haben | Chatbots, künstlich erzeugte Bilder und Videos |
| Minimales Risiko | Kaum zusätzliche Pflichten | Spamfilter, einfache Spielelemente |
Pflichten wachsen mit dem Risiko
- Kleines Risiko bis Großes Risiko, Marker bei 82 Prozent: Pflichten wachsen
Die Pflichten wachsen mit dem möglichen Schaden. Einzelheiten und Fristen ändern sich, prüfe aktuelle Quellen.
Bei Hochrisiko-Systemen verlangt die Verordnung unter anderem ein Risikomanagement, geprüfte Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht und Genauigkeit sowie Robustheit. Für Anbieter kommen weitere Pflichten hinzu als für Betreiber, die ein Produkt nur einsetzen. Auch für sehr große, vielseitige Modelle gibt es eigene Vorgaben.
Fristen, Einzelheiten und ergänzende Leitlinien ändern sich noch. Deshalb steht hier nur das Prinzip. Für ein Projekt prüfst du die aktuelle Fassung und aktuelle Hinweise der zuständigen Stellen. Dazu zählt auch, ob dein Einsatz überhaupt unter eine Stufe fällt und ob die Beschäftigten ausreichend geschult sind.
Urheberrecht: offene Fragen
- Geschützte Werke
- Training (Frage 1: erlaubt?)
- Modell
- Ausgabe (Frage 2: wem gehört sie?)
Zwei Fragen sind offen: Darf geschütztes Material ins Training, und wem gehört, was ein Modell erzeugt?
Zwei Fragen sind noch nicht überall geklärt. Erstens: Dürfen urheberrechtlich geschützte Werke zum Training von Modellen genutzt werden, und unter welchen Bedingungen? Zweitens: Wem gehören Inhalte, die ein Modell erzeugt, und wann entsteht überhaupt ein Schutz? Dazu kommen Fälle, in denen Ausgaben geschützten Werken ähneln.
Gerichte und Gesetzgeber beschäftigen sich damit, und die Lage kann je nach Land verschieden sein. Für den Alltag heißt das: Prüfe bei geschützten Inhalten, woher die Daten stammen und welche Lizenzen gelten. Kennzeichne erzeugte Inhalte, wo es gefordert wird, und lass Wichtiges prüfen.
Im Betrieb: Dokumentation und Zuständigkeiten
- Zweck (wofür eingesetzt)
- Daten (welche genutzt)
- Version (welche läuft)
- Betreuer (wer ist zuständig)
- Fehler melden (an wen)
- Abschalten (wer darf es)
Halte fest, was das System tut und wer es betreut. Wichtig ist auch, wer es abschalten darf.
Gute Ordnung hilft bei Recht und Praxis gleichermaßen. Halte fest, wofür ein System eingesetzt wird, welche Daten es nutzt, welche Version läuft, wer es betreut und wie Fehler gemeldet werden. Ein Verzeichnis der Verarbeitungen, eine kurze Beschreibung je Modell und klare Ansprechpartner reichen für den Anfang weit.
Lege fest, wer Auskunftsanfragen beantwortet, wer Vorfälle meldet und wer ein Modell abschalten darf. Das Abschalten ist wichtig: Ein System, das man nicht stoppen kann, ist ein Risiko.