Wenn die API-Rechnung wehtut, ist der erste Gedanke meist derselbe: ein eigenes Modell aufsetzen. Manchmal ist das die richtige Entscheidung, aber selten aus den genannten Gründen und fast immer später, als man denkt. Die Frage ist nicht, was pro Token günstiger ist, sondern ab welchem Volumen die Ersparnis das deckt, was der Betrieb kostet.
Was falsch verglichen wird
Man vergleicht den API-Preis pro Million Tokens mit dem Stundenpreis einer GPU, und auf dem Papier gewinnt Self-Hosting immer. Die Hälfte der Gleichung fehlt: Die GPU wird bezahlt, ob ausgelastet oder nicht, und ihre realen Kosten hängen von der Auslastung ab. Eine GPU bei 8 % Nutzung ist pro Token zehnmal teurer als dieselbe GPU bei 80 %.
Die Kosten, die niemand addiert
| Posten | API | Self-Hosting |
|---|---|---|
| Rechenleistung | Pro verbrauchtem Token | Pro reservierter Stunde, genutzt oder nicht |
| Engineering | Nahezu keins | Ausliefern, skalieren, aktualisieren, überwachen |
| Verfügbarkeit | Die des Anbieters | Ihre, Bereitschaft inklusive |
| Modellwechsel | Eine Zeile Code | Neu bewerten, nachjustieren, neu validieren |
Wann es sich lohnt
Es gibt drei Situationen, in denen Self-Hosting wirklich gewinnt. Die erste: hohes, stabiles Volumen — viel und ziemlich gleichmäßiger Traffic, der die GPU fast durchgehend beschäftigt hält. Die zweite: eine Datenrestriktion, die den Versand nach außen verbietet —Regulierung, Vertrag, regulierte Branche— und dort ist es keine Kostenentscheidung mehr. Die dritte: eine sehr enge, repetitive Aufgabe, bei der ein kleines, feinjustiertes Modell die Arbeit eines großen zu einem Bruchteil der Rechenleistung erledigt.
Wann es sich fast nie lohnt
Unregelmäßiger Traffic oder Lastspitzen, ein breiter Aufgabenkatalog oder ein Team ohne jemanden, der die Infrastruktur pflegt. Hat Ihre Last lange Täler, zahlen Sie für stillstehende GPU. Und bevor man an der Infrastruktur dreht, sollte man die günstigen Hebel ausschöpfen: das Modell pro Aufgabe richtig wählen, Prompt Caching und die Batch-API sparen meist mehr — und in Tagen statt Monaten.
Wie Sie mit Zahlen entscheiden
Ermitteln Sie Ihre realen monatlichen API-Kosten und vergleichen Sie sie mit den Kosten der GPUs, die Sie für Ihre Spitze bräuchten, nicht für Ihren Durchschnitt. Rechnen Sie Engineering-Zeit zu Marktpreisen dazu. Übersteigt die Ersparnis diese Summe nicht deutlich, lohnt es sich nicht. Beziffern Sie es mit dem Token-Kostenrechner und messen Sie immer in Kosten pro Aufgabe — dem Einzigen, was zwischen beiden Optionen vergleichbar ist.
Häufige Fragen
Ab welchem Volumen lohnt sich Self-Hosting? Es gibt keine universelle Zahl, denn es hängt von der Auslastung ab, nicht vom Volumen. Das Signal ist genügend stabiler Traffic, um die GPU die meiste Zeit zu beschäftigen; bei langen Tälern ist die API günstiger.
Ist ein offenes Modell günstiger als ein bezahltes? Pro Rechen-Token ja. Mit Engineering, Verfügbarkeit und stillstehender GPU nicht immer. Der ehrliche Vergleich sind die Kosten pro Aufgabe, alles eingerechnet.
Kann ich beides mischen? Das ist in der Praxis der Normalfall: ein eigenes Modell für die Aufgabe mit hohem Volumen und APIs für den Rest. Nach Aufgabe aufzuteilen schlägt meist die Wahl eines einzigen Anbieters.
Bei e-ficient messen wir die Kosten pro Aufgabe von Unternehmen, die KI bereits produktiv einsetzen, und sagen Ihnen, wie viel Sie mit jedem Hebel bei Ihrem realen Volumen sparen würden. Das erste Audit ist kostenfrei, wenn Sie einen Plan mit drei Monaten Laufzeit abschließen, und liefert innerhalb von 72 Stunden eine Diagnose.