Was kostet ein KI-System wirklich? Total Cost of Ownership richtig rechnen
Die TCO von KI-Systemen ist weit mehr als die Anschaffungs- und Tokenkosten.
Worum geht’s in dieser Folge?
Der häufigste Fehler bei der Kalkulation von KI-Projekten ist in Kosten pro Monat zu rechnen statt in Kosten pro Vorgang.
Ein Pilotbetrieb mit zwanzig Nutzern sagt euch nichts darüber, was das System kostet, wenn es tatsächlich im Einsatz ist. Bei KI steigen die laufenden Kosten nämlich mit der Nutzung.
In dieser Folge von „KI kurz und informativ” gehe ich die klassische TCO-Formel durch und zeige am Beispiel eines Schwimmbads, welche Posten sich bei KI-Systemen anders verhalten als bei jeder anderen Software.
Meine These ist: Die Kostenarten sind nicht neu, aber ihr bestimmt nicht mehr, wann sie anfallen.
Bspw. kennt ihr den Preis eines Vorgangs erst, nachdem er passiert ist. Ein Modell verschlechtert sich lautlos, ohne Fehlermeldung. Und den Termin für die nächste Migration setzt oft euer Anbieter (wie zuletzt bei der Abschaltung der OpenAI Assistants API).
Themen dieser Folge:
- TCO-Formel und was sie bei KI-Systemen nicht abbildet
- Kosten pro Vorgang statt Kosten pro Monat
- Model Drift und Data Drift
Link zum Google Paper:
- D. Sculley et al., „Hidden Technical Debt in Machine Learning Systems”, https://proceedings.neurips.cc/paper/2015/file/86df7dcfd896fcaf2674f757a2463eba-Paper.pdf
Shownotes
- Total Cost of Ownership von KI-Systemen erklärt
- Warum es mehr ist als nur Anschaffungs- und Tokenkostens