Was kostet lokale KI wirklich? Eine ehrliche Rechnung

Lokale KI wird gern mit „null laufende Kosten” beworben. Das ist die halbe Wahrheit, und die halbe Wahrheit ist auf Dauer eine schlechte Kaufberatung. Deshalb rechnen wir hier einmal komplett vor, was eine eigene KI im Haus wirklich kostet: die einmaligen Posten, die laufenden Posten, die gern verschwiegen werden, und die Posten, die tatsächlich dauerhaft wegfallen.

Vorweg zur Einordnung: Wir verdienen unser Geld mit genau solchen Systemen. Umso wichtiger ist uns, dass Sie mit realistischen Zahlen entscheiden, nicht mit einem Werbeversprechen.

Die einmaligen Kosten

Hardware. Die Spanne ist groß, und das ist die gute Nachricht: Lokale KI-Modelle gibt es in vielen Größen, und die passende Größe richtet sich nach Ihren Aufgaben.

• Vorhandene Technik nutzen: In vielen Fällen läuft ein kompaktes Modell auf einem Rechner, den Sie schon haben. Investition: 0 €.
• Solider Einstieg: Ein Mini-PC oder eine gebrauchte Workstation für kleinere Modelle liegt grob im mittleren dreistelligen bis unteren vierstelligen Bereich.
• Leistungsklasse: Eine Workstation mit starker Grafikkarte, die auch große Modelle flüssig bedient, kostet als Größenordnung 2.000–5.000 € (Stand Juli 2026, je nach Ausstattung).
• Komplexe Dauerlasten: Wer die ganz großen Modelle dauerhaft voll im Haus betreiben will, landet bei Server-Hardware im fünfstelligen Bereich. Genau hier gehört die ehrliche Gegenfrage hin: Muss wirklich alles lokal laufen, oder reicht ein Hybrid-Modell? Dazu unten mehr.

Einrichtung. Modelle auswählen und einrichten, an Ihre Abläufe anpassen, Team einweisen: Bei uns beginnt dieses Setup bei 2.500 €, einmalig. Wichtig zur Einordnung: Das ist die Dienstleistung. Die Hardware kommt dazu (vorhanden, neu angeschafft oder gemietet). Der genaue Umfang hängt davon ab, was die KI bei Ihnen übernehmen soll.

Keine passende Hardware im Haus und kein Kauf gewollt? Dann lässt sich ein dedizierter GPU-Server in einem deutschen Rechenzentrum mieten; als eigener Orientierungswert rechnen wir je nach Leistung grob mit 100–500 € im Monat (Marktspanne, Stand Juli 2026, keine Preiszusage). Das ist dann eine exklusive KI-Instanz, aber außer Haus. Bei personenbezogenen Daten muss insbesondere geprüft werden, ob ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO erforderlich ist und welche weiteren Schutzpflichten gelten. Für Berufsgeheimnisse braucht diese Architektur eine zusätzliche rechtliche, vertragliche und technische Prüfung.

Die laufenden Kosten, die kaum jemand nennt

Strom. Eine KI-Workstation zieht unter Volllast spürbar Strom, aber Volllast liegt nur an, während die KI tatsächlich rechnet. Eine transparente Beispielrechnung (Ihre Werte können abweichen):

• Aktive Nutzung: ca. 1 Stunde reine Rechenzeit am Tag bei ~550 Watt ≈ 0,55 kWh
• Bereitschaft: 7 Stunden Leerlauf bei ~80–100 Watt ≈ 0,56–0,70 kWh
• Zusammen rund 1,11–1,25 kWh pro Arbeitstag. Bei 22 Arbeitstagen sind das etwa 24,4–27,5 kWh im Monat – bei dem hier angenommenen Arbeitspreis von 35 Cent/kWh rund 8,55–9,63 € monatlich.

Wie hoch der reale Verbrauch ausfällt, hängt von Hardware, Auslastung, Bereitschaftszeit und Stromtarif ab. Die Beispielrechnung ist kein Messwert für jedes System; am zuverlässigsten ist eine Messung am konkreten Gerät. Strom ist ein echter Posten. Er ist nicht null, und eine seriöse Kalkulation muss ihn ausweisen.

Pflege. Modelle und Software wollen aktuell gehalten werden, Backups sollten laufen, und ab und zu lohnt ein Feinschliff, wenn sich Ihre Abläufe ändern. Das können Sie selbst übernehmen (kostet Zeit) oder als Betreuung buchen (kostet Geld: bei uns nach Umfang, gemeinsam festgelegt). Ehrlich ist: Ein „installieren und für immer vergessen” gibt es bei keinem IT-System.

Hardware-Lebensdauer. Rechnen Sie die Anschaffung über drei bis fünf Jahre, wie bei jedem Arbeitsgerät. Eine 3.500-€-Workstation über vier Jahre sind kalkulatorisch ~73 € im Monat. Dafür gehört die Maschine Ihnen und arbeitet nebenbei auch als ganz normaler Rechner.

Was bei rein lokaler Modellverarbeitung entfallen kann

Jetzt die andere Seite der Rechnung: Posten, die bei Cloud-KI Monat für Monat anfallen können und bei einer rein lokalen Modellverarbeitung entfallen oder weniger ins Gewicht fallen:

• Keine nutzungsabhängigen API-Gebühren für die lokale Modellverarbeitung. Ob Ihr Team 100 oder 10.000 Anfragen im Monat stellt, verändert die API-Rechnung dafür nicht. Strom, Hardware, Wartung und optionale externe Dienste bleiben reale Kosten.
• Keine Nutzer-Lizenzen in der hier gerechneten Open-Source-Konfiguration. Ob das tatsächlich gilt, muss für jedes Modell und jede Software anhand der jeweiligen Lizenz geprüft werden. Zum Vergleich: Offizielle US-Listenpreise liegen beispielsweise bei 20–30 US-Dollar je Nutzer und Monat für Business-/Team-Tarife; Intensivtarife können 100 oder 200 US-Dollar monatlich kosten. Region, Währung, Steuern, Mindestabnahme und Leistungsumfang unterscheiden sich.
• Weniger Abhängigkeit von externen Tarifen. Die lokale Modellverarbeitung wird nicht unmittelbar teurer, weil ein Cloud-Anbieter seine Preise ändert oder ein Modell abschaltet. Kosten für Technik, Energie, Pflege und optionale Dienste können sich trotzdem verändern.
• Keine Übertragung an einen externen Modellanbieter. Bei einer korrekt konfigurierten lokalen Lösung werden die zur Verarbeitung übergebenen Dokumente in Ihrer Infrastruktur verarbeitet. Weitere Datenwege wie Backups, Fernwartung oder angebundene Dienste müssen separat geprüft werden.

Der ehrliche Vergleich: drei Nutzungsprofile

Annahmen, Rechenweg und Preisquellen

Diese Rechnung ist ein Szenario, kein individuelles Angebot. Preisstand und Quellen wurden am 15. Juli 2026 geprüft:

• Strom: 550 Watt für eine Stunde aktive Nutzung plus 80–100 Watt für sieben Stunden Bereitschaft, 22 Arbeitstage und 0,35 €/kWh. Das sind rechnerisch rund 103–116 € pro Jahr. Ihren tatsächlichen Verbrauch und Tarif müssen Sie einsetzen.
• Cloud-Szenario für fünf Personen: Untere Variante: vier Basis-Budgets zu 25 € und ein Intensiv-Budget zu 150 € pro Monat = 3.000 € pro Jahr. Obere Variante: drei Basis- und zwei Intensiv-Budgets = 4.500 € pro Jahr. Das sind bewusst gerundete Rechenwerte, keine Wiedergabe eines einzelnen Anbietertarifs.
• Offizielle Tarifbeispiele: OpenAI ChatGPT Business nennt 20 US-Dollar je Nutzer/Monat bei jährlicher beziehungsweise 25 US-Dollar bei monatlicher Abrechnung. Anthropic Team nennt 25 beziehungsweise 30 US-Dollar je Mitglied/Monat und eine Mindestzahl von fünf Mitgliedern; Claude Max 100 beziehungsweise 200 US-Dollar monatlich. Preise können sich ändern und regional abweichen.
• Nutzungsabhängige APIs: OpenRouter rechnet je nach Modell und Nutzung ab. Kosten pro Anfrage hängen unter anderem von Modell, Ein- und Ausgabetokens, Caching und Plattformgebühren ab.
• Hardware: Die Spannen in diesem Beitrag sind eigene Orientierungswerte, keine Händlerangebote. NVIDIA nennt für die GeForce RTX 5090 32 GB GDDR7 und eine UVP von 2.099 €. Eine komplette Workstation enthält weitere Komponenten und kann deutlich darüber liegen.
• Datenschutz: Ob ein Dienstleister als Auftragsverarbeiter eingebunden ist, richtet sich nach dem konkreten Einsatz. Maßgeblich ist unter anderem Art. 28 DSGVO.

Pauschal lässt sich die Frage „Cloud oder lokal?” nicht beantworten, aber nach Nutzungsprofil ziemlich gut.

Profil 1: Gelegenheitsnutzung

Sie fragen die KI ein paarmal die Woche etwas, ohne sensible Daten? Dann kann ein Basis-Abo wirtschaftlicher sein als eine eigene Workstation. Das sagen wir Ihnen auch so im Gespräch: Wir schwatzen niemandem eine lokale KI auf, der keine braucht.

Profil 2: Regelmäßige Team-Nutzung

Sobald mehrere Personen täglich mit KI arbeiten und Intensiv-Tarife hinzukommen, kann sich die Rechnung verschieben. Eine Beispielrechnung für ein Team von fünf Personen mit gemischter Nutzung (bewusst grob, Ihre Zahlen können abweichen):

Posten	Cloud (5 Nutzer, gemischt)	Lokal
Jahr 1	3.000–4.500 € Szenariobudget	2.500 € Setup + 0–5.000 € Hardware + rund 103–116 € Strom
Jahr 2	3.000–4.500 € Szenariobudget	rund 103–116 € Strom
Jahr 3	3.000–4.500 € Szenariobudget	rund 103–116 € Strom
Nach 3 Jahren	9.000–13.500 € Szenariobudget	rund 2.809–7.848 € plus Pflege, Reparaturen und optionale Dienste

Der Wendepunkt hängt am Hardware-Start und am tatsächlichen Nutzungsprofil. Bei einer korrekt konfigurierten lokalen Lösung kann die Modellverarbeitung in der eigenen Infrastruktur bleiben; Backups, Fernwartung und angebundene Dienste müssen separat betrachtet werden. Bezahlte Pflege, Reparaturen und optionale Dienste sind in der lokalen Summe bewusst nicht eingerechnet, weil sie vom konkreten Betrieb abhängen.

Profil 3: Komplexe Spitzenaufgaben

Manche Aufgaben (tiefe Dokumentenanalysen, anspruchsvolle Entwurfsarbeit) können von sehr großen Modellen profitieren. Sie dauerhaft mit hoher Leistung lokal zu betreiben, kann Server-Hardware im fünfstelligen Bereich erfordern. Bevor Sie diesen Invest stemmen, gibt es zwei Alternativen:

• Hybrid: Der Alltag läuft lokal, und nur geeignete Einzelfälle gehen gezielt an ein großes Cloud-Modell, etwa über Sammel-Schnittstellen wie OpenRouter. Die Kosten je Anfrage hängen von Modell, Tokenmengen, Caching und Gebühren ab. Wichtig dabei: Vorab wird festgelegt, welche Aufgaben extern verarbeitet werden dürfen; sensible Inhalte können lokal gehalten werden.
• Ausbau: Muss es dauerhaft voll lokal sein (etwa aus Vertraulichkeitsgründen), planen wir die passende Server-Hardware gemeinsam mit spezialisierten Hardware-Partnern – sauber dimensioniert statt überdimensioniert.

Genau deshalb beginnt bei uns jedes Projekt mit einer Analyse statt mit einem Verkaufsgespräch: Erst das Nutzungsprofil, dann die Architektur, dann der Preis.

Das Fazit

Lokale KI ist nicht gratis im Betrieb, aber sie kann planbarer sein. Statt nutzungsabhängiger Gebühren stehen Anschaffung, Strom, Pflege und mögliche Zusatzdienste. Bei einer korrekt konfigurierten Lösung kann die Modellverarbeitung in der eigenen Infrastruktur bleiben; weitere Datenwege müssen separat geprüft werden. Ob lokaler Einstieg, Hybrid-Modell oder Ausbau passt, ist eine Rechenaufgabe entlang Ihres Nutzungsprofils, keine Glaubensfrage.

Wenn Sie die Rechnung für Ihre Situation aufmachen möchten: Im kostenlosen 30-Minuten-Gespräch schauen wir gemeinsam auf Ihre Zahlen. Auch wenn am Ende „bleiben Sie vorerst bei der Cloud” herauskommt – dann wissen Sie es wenigstens ehrlich.