Grundlagen · Lektion 2

Maschinelles Lernen

Kurz gesagt: Ein Modell besteht aus Zahlen, die im Training aus Beispielen entstehen. Training passiert einmal und ist teuer, Inferenz passiert ständig und ist günstig. Die Qualität der Beispiele bestimmt die Qualität des Modells.

Statt Regeln zu schreiben, zeigst du Beispiele. Das Verfahren findet das Muster selbst.

Lernen statt programmieren

Ablauf
  • Beispiele (Spam oder nicht)
  • Verfahren (sucht Unterschiede)
  • Modell (Muster als Zahlen)

Du zeigst Beispiele mit Etikett, das Verfahren findet das Muster. Es steckt danach als Zahlen im Modell.

Ein Spamfilter mit festen Regeln („enthält das Wort Gewinn, dann Spam“) ist schnell überholt. Ein lernendes Verfahren bekommt stattdessen viele E-Mails, jede mit dem Etikett „Spam“ oder „kein Spam“, und findet selbst heraus, woran man beide unterscheidet. Die Regeln stecken danach im Modell, als eine große Menge Zahlen.

Zwei Phasen: Training und Inferenz

Vergleich
  • Links: Training: Viele Beispiele, Rechenintensiv, Einmal, im Rechenzentrum
  • Rechts: Inferenz: Neue Daten rein, Vorhersage raus, Ständig, auch auf dem Jetson

Training passiert einmal und ist teuer. Inferenz passiert ständig und ist günstig.

Beim Training sieht das Verfahren viele Beispiele und stellt sein Modell so ein, dass es sie möglichst oft richtig trifft. Das ist rechenintensiv und passiert einmal, meist in einem Rechenzentrum.

Bei der Inferenz bekommt das fertige Modell neue Daten und liefert eine Vorhersage. Das ist vergleichsweise billig und passiert ständig, zum Beispiel hier auf dem Jetson, wenn er dein Kamerabild auswertet.

Drei Arten zu lernen

Übersicht
  • Überwacht (Beispiel mit Etikett)
  • Unüberwacht (Gruppen selbst finden)
  • Bestärkend (Belohnung oder Strafe)

Mit Antworten, ohne Antworten oder durch Belohnung: Das Verfahren hängt von den Daten ab.

  • Überwachtes Lernen: Die Beispiele kommen mit der richtigen Antwort, etwa ein Foto mit dem Etikett „Katze“. Daraus lernt das Modell, neue Fotos zuzuordnen. Das Spielfeld oben arbeitet so.
  • Unüberwachtes Lernen: Es gibt nur Daten, keine Antworten. Das Verfahren sucht selbst Gruppen und Auffälligkeiten, etwa Kundengruppen mit ähnlichem Verhalten.
  • Bestärkendes Lernen: Ein Agent probiert Dinge aus und bekommt Belohnung oder Strafe. So lernen Systeme Spiele und die Steuerung von Robotern.

Ähnlichkeit als Rechnung

Kennzahlen
  • 2 Zahlen je Punkt im Spielfeld
  • 1000 Zahlen je Bild im Anlern-Labor

Jedes Bild wird zu einer Zahlenliste. Ähnliche Bilder liegen im Zahlenraum nah beieinander.

Damit ein Computer Bilder vergleichen kann, wird jedes Bild in eine Liste von Zahlen übersetzt, ein Embedding. Ähnliche Bilder bekommen ähnliche Zahlen und liegen im Zahlenraum nah beieinander.

Das Spielfeld oben zeigt das mit zwei Zahlen pro Punkt, also auf einer Fläche. Ein neuer Punkt bekommt die Klasse, die unter seinen nächsten Nachbarn am häufigsten vorkommt (k nächste Nachbarn). Im Labor Bildmodell anlernen passiert dasselbe, nur mit 1000 Zahlen pro Bild statt zwei.

Wo es schiefgeht

Matrix
  • Versteht Muster, Bekannt: gut
  • Versteht Muster, Neu: gut
  • Lernt auswendig, Bekannt: gut
  • Lernt auswendig, Neu: schlecht

Ein Modell, das Beispiele auswendig lernt, versagt bei neuen Daten. Darum wird mit ungesehenen Daten geprüft.

Daten sind das Produkt. Ein Modell lernt nur, was in den Beispielen steckt. Sind sie einseitig, ist es das Modell auch.

Überanpassung heißt, dass ein Modell die Beispiele auswendig lernt, statt das Muster zu verstehen. Dann ist es bei bekannten Daten perfekt und bei neuen schlecht. Darum prüft man immer mit Daten, die das Modell vorher nie gesehen hat. Du kannst das oben nachstellen: Stelle k auf 1 und setze einzelne Ausreißer. Die Grenze wird zackig und folgt jedem Zufall.

Das nimmst du mit

  • Ein Modell besteht aus Zahlen, die im Training aus Beispielen entstehen.
  • Training passiert einmal und ist teuer, Inferenz passiert ständig und ist günstig.
  • Die Qualität der Beispiele bestimmt die Qualität des Modells.

Weiter geht es