KI im Betrieb

Kosten und Energie

Kurz gesagt: Lokal, Cloud und Edge unterscheiden sich in Anschaffung, laufenden Kosten, Leistung, Datenschutz, Reaktionszeit und Wartung. Einen besten Weg gibt es nicht. Kosten bestehen aus Rechenzeit, Speicher, Personal und Datenpflege.

Lokal, in der Cloud oder am Gerät: Was kostet KI wirklich, und wie rechnest du den Stromverbrauch selbst aus?

Kaufen, mieten, Taxi fahren

Übersicht
  • Lokal (eigener Server im Haus)
  • Cloud (bezahlt nach Nutzung)
  • Edge (kleines Gerät vor Ort)

Lokal heißt eigener Server, Cloud heißt mieten nach Nutzung, Edge heißt kleines Gerät dort, wo die Daten entstehen.

Wer ein Auto braucht, kann es kaufen, leasen oder bei Bedarf ein Taxi rufen. Das Taxi kostet nichts, solange du es nicht nutzt, aber jede Fahrt kostet. Das gekaufte Auto kostet am Anfang viel, dafür ist es danach immer da. Mit KI ist die Wahl ähnlich.

Lokal heißt: eigener Rechner oder Server im Haus. Cloud heißt: Rechenleistung eines Anbieters, nach Nutzung bezahlt. Edge (Edge-Computing) heißt: ein kleines Gerät direkt dort, wo die Daten entstehen, etwa an der Maschine oder an der Kamera. Der Jetson in diesem Labor ist so ein Gerät.

Die drei Wege im Vergleich

Matrix
  • Daten, Lokal: bleiben im Haus
  • Daten, Cloud: verlassen das Haus
  • Daten, Edge: bleiben am Gerät
  • Reaktion, Lokal: kurz im Netz
  • Reaktion, Cloud: vom Netz abhängig
  • Reaktion, Edge: sehr kurz
  • Leistung, Lokal: hoch, aber fest
  • Leistung, Cloud: sehr hoch, flexibel
  • Leistung, Edge: begrenzt

Keiner gewinnt in allem. Datenschutz, Reaktionszeit und Leistung verteilen sich anders.

Die Tabelle zeigt die typische Lage. Konkrete Preise hängen von Angebot, Größe und Zeitpunkt ab, deshalb stehen hier nur Richtungen.

Lokal, Cloud und Edge im Überblick (grobe Tendenzen)
MerkmalLokal (eigener Server)CloudEdge (kleines Gerät)
AnschaffungHoch, einmaligKeine oder geringNiedrig bis mittel, einmalig
Laufende KostenStrom, Raum, BetreuungNach Nutzung, wächst mit der MengeSehr wenig Strom, Betreuung vor Ort
LeistungHoch, aber festSehr hoch und flexibel, große Modelle möglichBegrenzt, kleine Modelle
DatenschutzDaten bleiben im HausVertrag und Prüfung nötig, Daten verlassen das HausDaten bleiben am Gerät
ReaktionszeitKurz im eigenen NetzAbhängig vom NetzSehr kurz, kein Netzweg
WartungSelbst, Updates und AusfälleBeim AnbieterSelbst, aber viele Geräte verteilt

Woraus Kosten bestehen

Übersicht
  • Rechenzeit (Training und Betrieb)
  • Speicher (Daten, Modelle, Sicherung)
  • Personal (oft der größte Block)
  • Datenpflege (nie einmalig)

Hardware und Cloud-Preis sind nur ein Teil. Personal und Datenpflege werden oft unterschätzt.

Wer nur auf den Preis der Hardware oder der Cloud schaut, übersieht die Hälfte. Bei einem laufenden KI-Einsatz kommen mehrere Blöcke zusammen:

  • Rechenzeit: Training und Betrieb, bei der Cloud nach Stunden oder Anfragen bezahlt, lokal als Strom und Abnutzung.
  • Speicher: Daten, Modelle, Sicherungen, auch für Aufbewahrungsfristen.
  • Personal: Wer baut, betreibt, überwacht und nimmt Rückmeldungen auf? Das ist oft der größte Block und wird häufig unterschätzt.
  • Datenpflege: Sammeln, Bereinigen, Etikettieren, Aktualisieren. Das ist keine einmalige Arbeit, siehe Vom Prototyp in den Betrieb.

Energie: Training und Betrieb

Vergleich
  • Links: Training: Einmalig, Bei großen Modellen sehr aufwendig, Meist fertig übernommen
  • Rechts: Betrieb: Jede Anfrage billig, Wiederholt sich oft, Summiert sich

Training ist einmalig, aber bei großen Modellen aufwendig. Im Betrieb ist jede Anfrage billig, aber es sind viele.

Beim Training laufen viele leistungsstarke Rechner über Stunden bis Wochen. Das ist einmalig, aber für große Modelle sehr aufwendig, und die meisten Firmen übernehmen fertige Modelle statt sie selbst zu trainieren. Beim Betrieb ist jede einzelne Anfrage billig, aber sie wiederholt sich oft. Bei vielen Anfragen am Tag summiert sich der Betrieb, und wer ein Modell selbst betreibt, zahlt diese Energie laufend.

Ein kleines Gerät wie der Jetson nimmt nur wenige Watt auf. Wie viele genau, hängt von der Last ab. Die Seite Hardware zeigt dir die Leistung des Jetson live, während er rechnet. Alle Zahlen in diesem Strang sind Annahmen zum Rechnen, keine Messwerte.

Du kannst den Verbrauch senken: ein kleineres oder verkleinertes Modell wählen, Anfragen bündeln, das Gerät nur laufen lassen, wenn es gebraucht wird, und Dauerläufer ohne Nutzen abschalten.

Ein Rechenbeispiel mit offenen Annahmen

Kennzahlen
  • 15 W Aufnahme im Mittel (Annahme)
  • 24 h Laufzeit pro Tag (Annahme)
  • 0,30 € je Kilowattstunde (Annahme)

Drei Zahlen genügen. Ersetze sie durch deine eigenen.

Wir rechnen die Stromkosten eines kleinen Geräts aus. Die Annahmen stehen vorab, damit du sie durch deine eigenen ersetzen kannst:

  • Das Gerät nimmt im Mittel 15 Watt auf.
  • Es läuft 24 Stunden am Tag.
  • Eine Kilowattstunde kostet 0,30 Euro (nur zum Rechnen, nimm den Wert deiner Stromrechnung).

Die Rechnung und der Vergleich mit der Cloud

Ablauf
  • 15 W mal 24 h (360 Wh)
  • 0,36 kWh (pro Tag)
  • rund 0,11 € (pro Tag)
  • rund 39 € (pro Jahr)
Balkendiagramm
  • Cloud-Dienst: 50 €
  • Strom fürs Gerät: 3,3 €

Watt mal Stunden mal Preis ergibt die Stromkosten. Mit den Annahmen aus dem Text hat sich das Gerät nach knapp einem Jahr bezahlt.

15 Watt mal 24 Stunden sind 360 Wattstunden, also 0,36 Kilowattstunden pro Tag. Mal 0,30 Euro sind rund 0,11 Euro pro Tag, also gut 11 Cent. Auf ein Jahr gerechnet (365 Tage) sind das etwa 39 Euro. Würde das Gerät im Mittel 30 Watt aufnehmen, verdoppelte sich der Betrag.

Jetzt der Vergleich mit einem Cloud-Dienst. Auch hier nur angenommene Zahlen: Der Dienst kostet 50 Euro im Monat, das Gerät in der Anschaffung 500 Euro. Der Strom kostet monatlich etwa 3,30 Euro (39 Euro durch 12). Ersparnis pro Monat: 50 minus 3,30, rund 46,70 Euro. Anschaffung geteilt durch Ersparnis ergibt rund 10,7 Monate. Nach knapp einem Jahr hätte sich das Gerät in dieser Rechnung bezahlt gemacht. Personal, Wartung und Ersatz sind dabei nicht eingerechnet. Rechne sie bei einer echten Entscheidung mit ein.

Was man gern vergisst

Übersicht
  • Auslastung (Leerlauf kostet)
  • Spitzen (festes Gerät zu klein)
  • Nebenkosten (Kühlung, Ersatz, Vertrag)
  • Ausfall (was kostet ein Tag?)

Ein Fitnessstudio-Vertrag kostet auch ohne Besuch. So ist es mit schwach genutzten Geräten.

  • Auslastung: Ein Gerät, das wenig genutzt wird, verbraucht trotzdem Strom und kostet Betreuung. Ein Cloud-Dienst rechnet dann nach Nutzung genauer ab.
  • Spitzen: Wenn ein Tag zehnmal so viele Anfragen bringt wie sonst, ist ein festes Gerät zu klein und die Cloud flexibel.
  • Nebenkosten: Kühlung, Netzteil, Ersatzgerät, Datenübertragung, bei Cloud auch Preisänderungen und Vertragsbindung.
  • Ausfall: Was kostet ein Tag ohne das System? Wer das weiß, kann Ersatz und Rückfall sinnvoll planen.

Entscheidungsfragen

Ablauf
  • Daten raus? (Nein: meist nicht Cloud)
  • Tempo? (Millisekunden: Edge)
  • Last? (gleichmäßig oder Spitzen)
  • Modellgröße?
  • Wer betreut?
  • Ausfall? (wie lange darf er dauern)

Sechs Fragen ordnen die Wahl besser als ein Preisvergleich.

Bevor du dich festlegst, beantworte ein paar Fragen in dieser Reihenfolge. Sie ordnen die Wahl besser als ein Preisvergleich:

  • Dürfen die Daten das Haus verlassen? Wenn nein, scheidet die Cloud meist aus.
  • Wie schnell muss die Antwort da sein? Millisekunden sprechen für Edge.
  • Wie gleichmäßig ist die Last? Gleichmäßig spricht für eigenes Gerät, stark schwankend für die Cloud.
  • Wie groß muss das Modell sein? Sehr große Modelle laufen nicht auf kleinen Geräten.
  • Wer betreut das Ganze, und was kostet seine Zeit?
  • Was passiert beim Ausfall, und wie lange darf er dauern?

Das nimmst du mit

  • Lokal, Cloud und Edge unterscheiden sich in Anschaffung, laufenden Kosten, Leistung, Datenschutz, Reaktionszeit und Wartung. Einen besten Weg gibt es nicht.
  • Kosten bestehen aus Rechenzeit, Speicher, Personal und Datenpflege. Das Personal ist oft der größte Block.
  • Stromkosten rechnest du selbst: Watt mal Stunden durch 1000 ergibt Kilowattstunden, mal Preis ergibt Euro. Mache die Annahmen sichtbar.

Teste dich

  1. Ein Gerät nimmt 20 Watt auf und läuft 10 Stunden. Wie viel Energie ist das?
    Antwort

    0,2 Kilowattstunden. 20 Watt mal 10 Stunden sind 200 Wattstunden, also 0,2 Kilowattstunden.

  2. Welcher Kostenblock wird bei KI-Projekten oft am stärksten unterschätzt?
    Antwort

    Das Personal für Betrieb, Überwachung und Datenpflege. Die Hardware ist sichtbar. Die laufende Arbeit von Menschen an Betrieb und Datenpflege wird oft vergessen.

  3. Die Daten dürfen das Haus nicht verlassen und die Antwort muss in Millisekunden da sein. Was liegt nahe?
    Antwort

    Ein Gerät vor Ort, etwa Edge oder ein eigener Server. Datenschutz und Reaktionszeit sprechen für lokale Verarbeitung. Der Preis ist dann nur die dritte Frage.

  4. Was ist an der Rechnung „Gerät kostet 500 Euro, Cloud 50 Euro im Monat, also nach rund zehn Monaten gleichauf“ wichtig?
    Antwort

    Es sind Annahmen, und Personal, Wartung und Ersatz fehlen noch. Die Rechnung ist nur so gut wie ihre Annahmen. Bei einer echten Entscheidung setzt du eigene Zahlen ein und nimmst die übrigen Kosten dazu.

  5. Wann ist die Cloud gegenüber einem festen Gerät oft im Vorteil?
    Antwort

    Bei stark schwankender Last und sehr großen Modellen. Die Cloud rechnet nach Nutzung ab und kann sehr große Modelle betreiben. Bei Dauerlast, vertraulichen Daten und kurzer Reaktionszeit sprechen die anderen Wege dafür.

Weiter geht es