Was kostet es, ein LLM selbst zu hosten, im Vergleich zu ChatGPT und Claude?
Gehostete KI wird pro Nutzer und pro Token abgerechnet, die Rechnung wächst also mit jeder Person und jeder Integration. Ein GPU-Server kostet dasselbe, ob er hundert oder eine Million Anfragen bearbeitet. Geben Sie Ihre eigenen Zahlen ein und sehen Sie, wo der Break-even für Ihr Unternehmen liegt.
Monatliche Kosten schätzen
Die Standardwerte sind Beispiele, ersetzen Sie sie durch Ihre eigenen Angebote. Ein Server läuft 730 Stunden im Monat. Bei eigener Hardware verteilen Sie den Kaufpreis über die Nutzungsdauer und rechnen Strom und Hosting hinzu. Personalaufwand und Loadcore-Plattformgebühren sind nicht enthalten.
So funktioniert der Vergleich
Die Kosten gehosteter KI setzen sich aus zwei Teilen zusammen:
- Abonnements: Die Anzahl der Personen mit einem bezahlten KI-Tarif mal dem Preis pro Arbeitsplatz.
- API-Nutzung: Die Tokens, die Ihre Anwendungen und Integrationen pro Monat senden, mal dem gemischten Preis pro Million Tokens. Eingabe und Ausgabe werden oft unterschiedlich bepreist, nutzen Sie daher einen Durchschnitt, der zu Ihrem Mix passt.
Die Kosten bei selbst gehosteter KI ergeben sich aus der Zahl der GPU-Server mal ihren Stundenkosten mal 730 Stunden pro Monat. Bei gemieteten Servern nehmen Sie den Stundensatz des Anbieters. Bei eigener Hardware teilen Sie den Kaufpreis durch die Zahl der Monate, die Sie sie nutzen wollen, addieren Strom und Hosting und rechnen auf einen Stundensatz um.
Warum die Kurve im großen Maßstab für Selbst-Hosting spricht
Gehostete Preise wachsen linear: doppelt so viele Nutzer, doppelte Rechnung. Selbst gehostete Kosten wachsen stufenweise: ein weiterer Server, wenn der Durchsatz ausgeht. Sobald ein Server über einen guten Teil des Tages ausgelastet ist, ist jede zusätzliche Anfrage praktisch kostenlos.
Der Break-even ist deshalb vor allem eine Frage der Auslastung. Ein Server im Leerlauf ist teuer, ein Server, der eine ganze Abteilung bedient, ist günstig.
Die Auslastung hoch halten
- Ein Modell für mehrere Teams. Geben Sie mehreren Abteilungen Zugriff auf dieselbe Instanz, statt pro Team ein Modell zu betreiben.
- Das Modell zur Aufgabe passend wählen. Ein Qwen3.8 27B auf einer GPU mit 24 bis 48 GB beantwortet die meisten alltäglichen Fragen. Heben Sie große Modelle wie gpt-oss 120B für die Teams auf, die sie brauchen.
- Mixture-of-Experts-Modelle nutzen. Modelle wie Gemma 4 26B A4B aktivieren pro Token nur wenige Milliarden Parameter und liefern deutlich mehr Token pro Sekunde als ein dichtes Modell gleicher Größe.
- Vorhandene GPUs weiterverwenden. Verteilte Instanzen bündeln den Speicher von bis zu acht Servern in Ihrem lokalen Netzwerk, damit ein größeres Modell hineinpasst.
Nächste Schritte
Sehen Sie, wie eine selbst gehostete ChatGPT Alternative für ein ganzes Unternehmen aufgebaut wird, oder lesen Sie die Dokumentation, um Ihren ersten Server zu registrieren.
Häufige Fragen
Wie viele GPU-Server brauchen wir?
Das hängt vom Modell ab und davon, wie viele Personen es gleichzeitig nutzen. Ein einzelner GPU-Server mit einem mittelgroßen Modell kann eine Abteilung versorgen, und bei mehr Durchsatz fügen Sie Server mit demselben Modell hinzu. Starten Sie mit einem Server, messen Sie die Nutzung in der Console und skalieren Sie von dort aus.
Sollen wir GPUs mieten oder kaufen?
Stundenweise Miete ist der schnellste Einstieg und hält die Kosten flexibel. Kaufen lohnt sich, sobald die Nutzung stabil ist, weil sich die Hardware meist deutlich innerhalb ihrer Lebensdauer amortisiert. Loadcore funktioniert in beiden Fällen gleich, und Sie können beides mischen.
Was ist im Rechner nicht enthalten?
Personalaufwand, Strom und Hosting für eigene Hardware sowie Plattformgebühren von Loadcore. Gehostete Tarife unterscheiden sich außerdem in Funktionen und Modellqualität. Vergleichen Sie also, was Sie tatsächlich brauchen, nicht nur den Preis.
Woher stammen die Standardwerte?
Es sind Beispiele. Der Abopreis steht für einen typischen KI-Arbeitsplatz im Unternehmen, der Tokenpreis für einen 50/50-Mix aus den Listenpreisen für Eingabe und Ausgabe von GPT-6.1 Sol und Claude Sonnet 5.5, Stand November 2026 und der Serverpreis für eine stundenweise gemietete H200. Ersetzen Sie sie durch Ihre eigenen Angebote.
Geben Sie Ihrem Team eine private ChatGPT Alternative auf eigenen GPU-Servern. Offene Modelle, OpenAI-kompatible API, Zugriff pro Abteilung und keine Prompts außerhalb Ihres Netzwerks.
Betreiben Sie offene Modelle mit starkem Reasoning und Coding auf eigenen GPU-Servern als private Alternative zu Claude. OpenAI-kompatible API, Zugriff pro Team, keine Gebühren pro Token.
Starten Sie heute Ihr erstes Modell.
Registrieren Sie einen GPU-Server, laden Sie ein offenes Modell und geben Sie Ihrem Team einen API-Schlüssel.