Grundlagen · Lektion

Recht und Regeln im Überblick

Kurz gesagt: Personenbezogene Daten brauchen eine Rechtsgrundlage, einen Zweck und Sparsamkeit. Dienstleister brauchen einen Auftragsvertrag. Die EU-KI-Verordnung ordnet Systeme nach Risiko.

Welche Regeln gelten, wenn du KI einsetzt? Ein Überblick über die Grundgedanken, ausdrücklich keine Rechtsberatung.

Wichtig vorab: keine Rechtsberatung

Diese Seite erklärt Begriffe und Grundgedanken. Für echte Projekte fragst du Fachleute und prüfst aktuelle Quellen.

Diese Seite erklärt Begriffe und Grundgedanken. Sie ersetzt keine Rechtsberatung. Gesetze ändern sich, Auslegungen ebenfalls, und im Einzelfall kommt es auf die Umstände an. Für ein echtes Projekt sprichst du mit der Datenschutzbeauftragten oder einer Anwältin, und du prüfst aktuelle, offizielle Quellen.

Datenschutz-Grundverordnung in Grundzügen

Ablauf
  • Personenbezogene Daten (Name, Foto, Stimme)
  • Rechtsgrundlage (Einwilligung, Vertrag, Interesse)
  • Verarbeitung (erlaubt)

Personenbezogene Daten darf nur verarbeiten, wer dafür eine Rechtsgrundlage hat, auch beim Training.

Die Datenschutz-Grundverordnung gilt in der Europäischen Union für den Umgang mit personenbezogenen Daten. Das sind Angaben, die sich auf eine Person beziehen lassen: Name, Foto, Stimme, Kennzahl, auch Kombinationen von Merkmalen. Sie gilt, sobald solche Daten verarbeitet werden, auch beim Training oder Betrieb eines Modells.

Die Grundidee: Du darfst solche Daten nur verarbeiten, wenn du dafür eine Rechtsgrundlage hast, etwa eine Einwilligung, einen Vertrag oder ein berechtigtes Interesse. Ohne Grundlage ist die Verarbeitung nicht erlaubt.

Die zentralen Grundsätze

Übersicht
  • Zweckbindung (nur für den Zweck)
  • Datenminimierung (nur das Nötige)
  • Transparenz (Betroffene wissen Bescheid)
  • Richtigkeit (Daten stimmen)
  • Speicherbegrenzung (nicht länger als nötig)
  • Sicherheit (Schutz vor Zugriff)

Sechs Grundsätze ziehen sich durch jedes Projekt, vom Zweck bis zur Sicherheit.

Ein paar Grundsätze ziehen sich durch alle Projekte:

Datenschutzgrundsätze in einfacher Sprache
GrundsatzBedeutungBeispiel im KI-Projekt
ZweckbindungDaten werden für einen festgelegten Zweck erhoben und nicht für anderes genutztKundendaten aus Verträgen nicht still zum Training eines Werbemodells verwenden
DatenminimierungNur so viel wie nötigGesichter unkenntlich machen, wenn nur Personen gezählt werden sollen
TransparenzBetroffene erfahren, was mit ihren Daten geschiehtHinweisschild und verständliche Datenschutzinformation
RichtigkeitDaten sollen stimmen und aktuell seinFalsche Etiketten korrigieren
SpeicherbegrenzungDaten nur so lange wie nötigLöschfristen für Trainings- und Protokolldaten
SicherheitSchutz vor Verlust und fremdem ZugriffZugriffsrechte, Verschlüsselung

Dienstleister und Rechte Betroffener

Ablauf
  • Du (bleibst verantwortlich)
  • Vertrag (legt fest, was erlaubt ist)
  • Dienstleister (arbeitet nach Weisung)

Externe Dienste brauchen einen Vertrag. Du bleibst für die Daten verantwortlich.

Setzt du einen externen Dienst ein, der in deinem Auftrag Daten verarbeitet, liegt eine Auftragsverarbeitung vor. Dafür braucht es einen Vertrag, der festlegt, was der Dienstleister darf. Du bleibst für die Daten verantwortlich. Werden Daten außerhalb der EU verarbeitet, gelten zusätzliche Anforderungen.

Betroffene haben Rechte. Dazu gehören grob: Auskunft, was über sie gespeichert ist, Berichtigung falscher Daten, Löschung unter bestimmten Bedingungen und Widerspruch. Außerdem gibt es einen Schutz davor, dass Entscheidungen mit erheblicher Wirkung ausschließlich automatisiert fallen, mit Ausnahmen. Für riskante Verarbeitungen kann eine Datenschutz-Folgenabschätzung nötig sein.

Die EU-KI-Verordnung: Risiko bestimmt die Pflichten

Schichten
  • Verboten (unannehmbar)
  • Hochrisiko (strenge Pflichten)
  • Transparenz (KI kenntlich machen)
  • Minimales Risiko (kaum Pflichten)

Je größer das Risiko für Menschen, desto strenger die Regeln. Vier Stufen, vom Verbot bis zum Freiraum.

Die EU-KI-Verordnung regelt den Einsatz von KI-Systemen mit einem risikobasierten Ansatz. Je größer das Risiko für Menschen und Grundrechte, desto strenger die Regeln. Sie unterscheidet grob vier Stufen.

Risikostufen im Überblick
StufeGrundgedankeBeispiele (grob)
VerbotenPraktiken, die als unannehmbar geltenBestimmte Formen von Social Scoring, gezielte Manipulation verletzlicher Gruppen
HochrisikoErlaubt, aber mit strengen PflichtenKI in Personalauswahl, Kreditwürdigkeit, Bildung, kritischer Infrastruktur
TransparenzpflichtenNutzer sollen wissen, dass sie mit KI zu tun habenChatbots, künstlich erzeugte Bilder und Videos
Minimales RisikoKaum zusätzliche PflichtenSpamfilter, einfache Spielelemente

Pflichten wachsen mit dem Risiko

Skala
  • Kleines Risiko bis Großes Risiko, Marker bei 82 Prozent: Pflichten wachsen

Die Pflichten wachsen mit dem möglichen Schaden. Einzelheiten und Fristen ändern sich, prüfe aktuelle Quellen.

Bei Hochrisiko-Systemen verlangt die Verordnung unter anderem ein Risikomanagement, geprüfte Datenqualität, Dokumentation, Protokollierung, menschliche Aufsicht und Genauigkeit sowie Robustheit. Für Anbieter kommen weitere Pflichten hinzu als für Betreiber, die ein Produkt nur einsetzen. Auch für sehr große, vielseitige Modelle gibt es eigene Vorgaben.

Fristen, Einzelheiten und ergänzende Leitlinien ändern sich noch. Deshalb steht hier nur das Prinzip. Für ein Projekt prüfst du die aktuelle Fassung und aktuelle Hinweise der zuständigen Stellen. Dazu zählt auch, ob dein Einsatz überhaupt unter eine Stufe fällt und ob die Beschäftigten ausreichend geschult sind.

Urheberrecht: offene Fragen

Ablauf
  • Geschützte Werke
  • Training (Frage 1: erlaubt?)
  • Modell
  • Ausgabe (Frage 2: wem gehört sie?)

Zwei Fragen sind offen: Darf geschütztes Material ins Training, und wem gehört, was ein Modell erzeugt?

Zwei Fragen sind noch nicht überall geklärt. Erstens: Dürfen urheberrechtlich geschützte Werke zum Training von Modellen genutzt werden, und unter welchen Bedingungen? Zweitens: Wem gehören Inhalte, die ein Modell erzeugt, und wann entsteht überhaupt ein Schutz? Dazu kommen Fälle, in denen Ausgaben geschützten Werken ähneln.

Gerichte und Gesetzgeber beschäftigen sich damit, und die Lage kann je nach Land verschieden sein. Für den Alltag heißt das: Prüfe bei geschützten Inhalten, woher die Daten stammen und welche Lizenzen gelten. Kennzeichne erzeugte Inhalte, wo es gefordert wird, und lass Wichtiges prüfen.

Im Betrieb: Dokumentation und Zuständigkeiten

Übersicht
  • Zweck (wofür eingesetzt)
  • Daten (welche genutzt)
  • Version (welche läuft)
  • Betreuer (wer ist zuständig)
  • Fehler melden (an wen)
  • Abschalten (wer darf es)

Halte fest, was das System tut und wer es betreut. Wichtig ist auch, wer es abschalten darf.

Gute Ordnung hilft bei Recht und Praxis gleichermaßen. Halte fest, wofür ein System eingesetzt wird, welche Daten es nutzt, welche Version läuft, wer es betreut und wie Fehler gemeldet werden. Ein Verzeichnis der Verarbeitungen, eine kurze Beschreibung je Modell und klare Ansprechpartner reichen für den Anfang weit.

Lege fest, wer Auskunftsanfragen beantwortet, wer Vorfälle meldet und wer ein Modell abschalten darf. Das Abschalten ist wichtig: Ein System, das man nicht stoppen kann, ist ein Risiko.

Das nimmst du mit

  • Personenbezogene Daten brauchen eine Rechtsgrundlage, einen Zweck und Sparsamkeit. Dienstleister brauchen einen Auftragsvertrag.
  • Die EU-KI-Verordnung ordnet Systeme nach Risiko. Je höher es ist, desto mehr Pflichten gelten. Einzelheiten ändern sich, also immer aktuelle Quellen prüfen.
  • Urheberrecht bei Trainingsdaten und erzeugten Inhalten ist teils offen. Dokumentation und klare Zuständigkeiten helfen im Betrieb.

Teste dich

  1. Was sind personenbezogene Daten?
    Antwort

    Alle Angaben, die sich auf eine Person beziehen lassen, auch Foto, Stimme oder Kombinationen von Merkmalen. Entscheidend ist, ob man eine Person damit erkennen oder erreichen kann, direkt oder über Kombinationen.

  2. Was heißt Zweckbindung?
    Antwort

    Daten werden für einen festgelegten Zweck erhoben und nicht still für etwas anderes verwendet. Wer Daten für Rechnungen erhebt, darf sie nicht ohne Weiteres für Werbung oder Modelltraining verwenden. Der neue Zweck braucht eine eigene Prüfung.

  3. Was bedeutet risikobasierter Ansatz der KI-Verordnung?
    Antwort

    Je höher das Risiko für Menschen und Grundrechte, desto strenger die Pflichten. Die Verordnung ordnet Systeme grob in Stufen ein, von verboten über Hochrisiko bis minimal. Die Pflichten wachsen mit der Stufe.

  4. Du nutzt einen externen Dienst, der in deinem Auftrag Kundendaten verarbeitet. Was brauchst du in der Regel?
    Antwort

    Einen Vertrag zur Auftragsverarbeitung. Du bleibst verantwortlich. Der Vertrag legt fest, was der Dienst mit den Daten darf.

  5. Wie solltest du mit den Fragen zum Urheberrecht bei Trainingsdaten umgehen?
    Antwort

    Sie sind teils offen: Herkunft und Lizenzen prüfen, Rat einholen, aktuelle Rechtslage beachten. Rechtslage und Rechtsprechung entwickeln sich. Prüfe Quellen und Lizenzen und lass Wichtiges rechtlich bewerten.

Grenzen

  • Diese Seite ist keine Rechtsberatung und kann keine Prüfung des Einzelfalls ersetzen.
  • Gesetze, Fristen und Auslegungen ändern sich. Prüfe immer aktuelle, offizielle Quellen und frage Fachleute.
  • Hier fehlen bewusst Paragrafen, Strafhöhen und Fristen, weil sie sich ändern.

Weiter geht es