Kaufen, mieten, Taxi fahren
- Lokal (eigener Server im Haus)
- Cloud (bezahlt nach Nutzung)
- Edge (kleines Gerät vor Ort)
Lokal heißt eigener Server, Cloud heißt mieten nach Nutzung, Edge heißt kleines Gerät dort, wo die Daten entstehen.
Wer ein Auto braucht, kann es kaufen, leasen oder bei Bedarf ein Taxi rufen. Das Taxi kostet nichts, solange du es nicht nutzt, aber jede Fahrt kostet. Das gekaufte Auto kostet am Anfang viel, dafür ist es danach immer da. Mit KI ist die Wahl ähnlich.
Lokal heißt: eigener Rechner oder Server im Haus. Cloud heißt: Rechenleistung eines Anbieters, nach Nutzung bezahlt. Edge (Edge-Computing) heißt: ein kleines Gerät direkt dort, wo die Daten entstehen, etwa an der Maschine oder an der Kamera. Der Jetson in diesem Labor ist so ein Gerät.
Die drei Wege im Vergleich
- Daten, Lokal: bleiben im Haus
- Daten, Cloud: verlassen das Haus
- Daten, Edge: bleiben am Gerät
- Reaktion, Lokal: kurz im Netz
- Reaktion, Cloud: vom Netz abhängig
- Reaktion, Edge: sehr kurz
- Leistung, Lokal: hoch, aber fest
- Leistung, Cloud: sehr hoch, flexibel
- Leistung, Edge: begrenzt
Keiner gewinnt in allem. Datenschutz, Reaktionszeit und Leistung verteilen sich anders.
Die Tabelle zeigt die typische Lage. Konkrete Preise hängen von Angebot, Größe und Zeitpunkt ab, deshalb stehen hier nur Richtungen.
| Merkmal | Lokal (eigener Server) | Cloud | Edge (kleines Gerät) |
|---|---|---|---|
| Anschaffung | Hoch, einmalig | Keine oder gering | Niedrig bis mittel, einmalig |
| Laufende Kosten | Strom, Raum, Betreuung | Nach Nutzung, wächst mit der Menge | Sehr wenig Strom, Betreuung vor Ort |
| Leistung | Hoch, aber fest | Sehr hoch und flexibel, große Modelle möglich | Begrenzt, kleine Modelle |
| Datenschutz | Daten bleiben im Haus | Vertrag und Prüfung nötig, Daten verlassen das Haus | Daten bleiben am Gerät |
| Reaktionszeit | Kurz im eigenen Netz | Abhängig vom Netz | Sehr kurz, kein Netzweg |
| Wartung | Selbst, Updates und Ausfälle | Beim Anbieter | Selbst, aber viele Geräte verteilt |
Woraus Kosten bestehen
- Rechenzeit (Training und Betrieb)
- Speicher (Daten, Modelle, Sicherung)
- Personal (oft der größte Block)
- Datenpflege (nie einmalig)
Hardware und Cloud-Preis sind nur ein Teil. Personal und Datenpflege werden oft unterschätzt.
Wer nur auf den Preis der Hardware oder der Cloud schaut, übersieht die Hälfte. Bei einem laufenden KI-Einsatz kommen mehrere Blöcke zusammen:
- Rechenzeit: Training und Betrieb, bei der Cloud nach Stunden oder Anfragen bezahlt, lokal als Strom und Abnutzung.
- Speicher: Daten, Modelle, Sicherungen, auch für Aufbewahrungsfristen.
- Personal: Wer baut, betreibt, überwacht und nimmt Rückmeldungen auf? Das ist oft der größte Block und wird häufig unterschätzt.
- Datenpflege: Sammeln, Bereinigen, Etikettieren, Aktualisieren. Das ist keine einmalige Arbeit, siehe Vom Prototyp in den Betrieb.
Energie: Training und Betrieb
- Links: Training: Einmalig, Bei großen Modellen sehr aufwendig, Meist fertig übernommen
- Rechts: Betrieb: Jede Anfrage billig, Wiederholt sich oft, Summiert sich
Training ist einmalig, aber bei großen Modellen aufwendig. Im Betrieb ist jede Anfrage billig, aber es sind viele.
Beim Training laufen viele leistungsstarke Rechner über Stunden bis Wochen. Das ist einmalig, aber für große Modelle sehr aufwendig, und die meisten Firmen übernehmen fertige Modelle statt sie selbst zu trainieren. Beim Betrieb ist jede einzelne Anfrage billig, aber sie wiederholt sich oft. Bei vielen Anfragen am Tag summiert sich der Betrieb, und wer ein Modell selbst betreibt, zahlt diese Energie laufend.
Ein kleines Gerät wie der Jetson nimmt nur wenige Watt auf. Wie viele genau, hängt von der Last ab. Die Seite Hardware zeigt dir die Leistung des Jetson live, während er rechnet. Alle Zahlen in diesem Strang sind Annahmen zum Rechnen, keine Messwerte.
Du kannst den Verbrauch senken: ein kleineres oder verkleinertes Modell wählen, Anfragen bündeln, das Gerät nur laufen lassen, wenn es gebraucht wird, und Dauerläufer ohne Nutzen abschalten.
Ein Rechenbeispiel mit offenen Annahmen
- 15 W Aufnahme im Mittel (Annahme)
- 24 h Laufzeit pro Tag (Annahme)
- 0,30 € je Kilowattstunde (Annahme)
Drei Zahlen genügen. Ersetze sie durch deine eigenen.
Wir rechnen die Stromkosten eines kleinen Geräts aus. Die Annahmen stehen vorab, damit du sie durch deine eigenen ersetzen kannst:
- Das Gerät nimmt im Mittel 15 Watt auf.
- Es läuft 24 Stunden am Tag.
- Eine Kilowattstunde kostet 0,30 Euro (nur zum Rechnen, nimm den Wert deiner Stromrechnung).
Die Rechnung und der Vergleich mit der Cloud
- 15 W mal 24 h (360 Wh)
- 0,36 kWh (pro Tag)
- rund 0,11 € (pro Tag)
- rund 39 € (pro Jahr)
- Cloud-Dienst: 50 €
- Strom fürs Gerät: 3,3 €
Watt mal Stunden mal Preis ergibt die Stromkosten. Mit den Annahmen aus dem Text hat sich das Gerät nach knapp einem Jahr bezahlt.
15 Watt mal 24 Stunden sind 360 Wattstunden, also 0,36 Kilowattstunden pro Tag. Mal 0,30 Euro sind rund 0,11 Euro pro Tag, also gut 11 Cent. Auf ein Jahr gerechnet (365 Tage) sind das etwa 39 Euro. Würde das Gerät im Mittel 30 Watt aufnehmen, verdoppelte sich der Betrag.
Jetzt der Vergleich mit einem Cloud-Dienst. Auch hier nur angenommene Zahlen: Der Dienst kostet 50 Euro im Monat, das Gerät in der Anschaffung 500 Euro. Der Strom kostet monatlich etwa 3,30 Euro (39 Euro durch 12). Ersparnis pro Monat: 50 minus 3,30, rund 46,70 Euro. Anschaffung geteilt durch Ersparnis ergibt rund 10,7 Monate. Nach knapp einem Jahr hätte sich das Gerät in dieser Rechnung bezahlt gemacht. Personal, Wartung und Ersatz sind dabei nicht eingerechnet. Rechne sie bei einer echten Entscheidung mit ein.
Was man gern vergisst
- Auslastung (Leerlauf kostet)
- Spitzen (festes Gerät zu klein)
- Nebenkosten (Kühlung, Ersatz, Vertrag)
- Ausfall (was kostet ein Tag?)
Ein Fitnessstudio-Vertrag kostet auch ohne Besuch. So ist es mit schwach genutzten Geräten.
- Auslastung: Ein Gerät, das wenig genutzt wird, verbraucht trotzdem Strom und kostet Betreuung. Ein Cloud-Dienst rechnet dann nach Nutzung genauer ab.
- Spitzen: Wenn ein Tag zehnmal so viele Anfragen bringt wie sonst, ist ein festes Gerät zu klein und die Cloud flexibel.
- Nebenkosten: Kühlung, Netzteil, Ersatzgerät, Datenübertragung, bei Cloud auch Preisänderungen und Vertragsbindung.
- Ausfall: Was kostet ein Tag ohne das System? Wer das weiß, kann Ersatz und Rückfall sinnvoll planen.
Entscheidungsfragen
- Daten raus? (Nein: meist nicht Cloud)
- Tempo? (Millisekunden: Edge)
- Last? (gleichmäßig oder Spitzen)
- Modellgröße?
- Wer betreut?
- Ausfall? (wie lange darf er dauern)
Sechs Fragen ordnen die Wahl besser als ein Preisvergleich.
Bevor du dich festlegst, beantworte ein paar Fragen in dieser Reihenfolge. Sie ordnen die Wahl besser als ein Preisvergleich:
- Dürfen die Daten das Haus verlassen? Wenn nein, scheidet die Cloud meist aus.
- Wie schnell muss die Antwort da sein? Millisekunden sprechen für Edge.
- Wie gleichmäßig ist die Last? Gleichmäßig spricht für eigenes Gerät, stark schwankend für die Cloud.
- Wie groß muss das Modell sein? Sehr große Modelle laufen nicht auf kleinen Geräten.
- Wer betreut das Ganze, und was kostet seine Zeit?
- Was passiert beim Ausfall, und wie lange darf er dauern?