Erzeugen

Face-Swap und Deepfakes

Kurz gesagt: Erst Gesicht und Landmarken finden, dann die Merkmale der Quellperson einsetzen und angleichen. Dieselbe Technik trägt Avatare und Fälschungen. Darum nur mit Einwilligung und mit Kennzeichnung.

Ein Gesicht in einem Bild durch ein anderes ersetzen. Eindrucksvoll und riskant zugleich.

So funktioniert es

Ablauf
  • Erkennen (Gesicht, Landmarken)
  • Merkmale (der Quellperson)
  • Einsetzen (Pose, Licht des Ziels)
  • Angleichen (Farbe, Rand)

Erst Gesicht und Landmarken finden, dann die Merkmale der Quellperson einsetzen und angleichen.

Ein Gesichtsdetektor findet das Gesicht und seine Landmarken. Ein zweites Netz (zum Beispiel inswapper) erhält die Identitätsmerkmale der Quellperson und setzt sie in die Pose und Beleuchtung der Zielperson. Ein Nachbearbeitungsschritt gleicht Farbe und Rand an.

Chancen und Risiken

Vergleich
  • Links: Chancen: Avatare für Schulungen, Gesichter anonymisieren, Lippen bei Übersetzung
  • Rechts: Risiken: Gefälschte Aufnahmen, Schaden für Betroffene
  • Urteil: Nur mit Einwilligung, Inhalte kennzeichnen.

Dieselbe Technik trägt Avatare und Fälschungen. Darum nur mit Einwilligung und mit Kennzeichnung.

Dieselbe Technik ermöglicht Avatare und Anonymisierung in Videos, aber auch gefälschte Aufnahmen echter Personen. Darum gilt: nur mit Einwilligung der gezeigten Person, und erzeugte Inhalte kennzeichnen.

Stand in diesem Labor

Übersicht
  • Noch keine Demo
  • GPU-Laufzeit nötig (onnxruntime)
  • Foto würde gespeichert (ohne Regeln: nein)

Die Demo ist noch nicht eingebaut. Es fehlen Technik und klare Regeln für gespeicherte Fotos.

Die Demo ist noch nicht eingebaut. Sie bräuchte onnxruntime mit GPU-Unterstützung für den Jetson und würde, anders als die übrigen Labore, ein Foto einer Person speichern. Das tun wir hier nicht ohne klare Regeln. Die Erklärung dient dem Verständnis der Technik.

Im Business

Anonymisierung von Gesichtern in Videos, Avatare für Schulungsclips, synchronisierte Lippenbewegungen bei Übersetzungen.

  • Unkenntlich machen von Personen in Aufnahmen

Grenzen

  • Gefälschte Aufnahmen können Menschen schaden. Setze die Technik nur mit Einwilligung ein.

Weiter geht es