Was kostet künstliche Intelligenz? Investitionen, laufende Kosten und ROI

Künstliche Intelligenz ist in deutschen Unternehmen angekommen. Laut ifo Institut setzen bereits 54,5 Prozent der Unternehmen KI ein. Fast drei Viertel der KI-Nutzer greifen auf kostenpflichtige externe Anwendungen zurück. Doch eine Lizenzgebühr oder der Preis pro Token zeigt nur einen kleinen Teil der tatsächlichen Kosten.

Die Kosten eines KI-Projekts entstehen an acht Stellen: Einführung, Daten, Integration, Infrastruktur, Betrieb, Sicherheit, Personal und laufende Optimierung. Wie hoch sie ausfallen, hängt vom Use Case und vom Betriebsmodell ab. KI sollte deshalb von Anfang an Teil der Architekturplanung sein. Wer Infrastruktur neu plant oder modernisiert, sollte mögliche KI-Use-Cases und deren Anforderungen an Daten, Compute, Sicherheit und Skalierung direkt mitdenken, auch wenn deren Umsetzung erst später erfolgt.

Deshalb ist die Total Cost of Ownership (TCO) über mehrere Jahre aussagekräftiger als der niedrigste Einzelpreis. Sie macht alle Kostentreiber sichtbar und verbindet Technik, Finanzen und Geschäftsziele.

Was kostet KI für Unternehmen wirklich?

Einen Pauschalpreis gibt es nicht. Ein Microsoft-Copilot-Arbeitsplatz, ein interner Wissensassistent und eine KI für die visuelle Qualitätskontrolle haben völlig unterschiedliche Anforderungen.

Für die Kalkulation zählen vor allem die Zahl der Nutzer und Anfragen, das Datenvolumen, die benötigte Rechenleistung, die Integrationen sowie die Anforderungen an Verfügbarkeit, Datenschutz und Datenresidenz. Auch die Frage, ob ein Standardprodukt genügt oder eine individuelle Lösung nötig ist, verändert das Budget.

Prüfen Sie zuerst, ob KI für den Prozess überhaupt die richtige Technologie ist. Bei festen Regeln kann klassische Automatisierung günstiger und besser kontrollierbar sein. Eine Entscheidungshilfe bietet unser Beitrag KI vs. Automatisierung.

Aus welchen einmaligen und laufenden Kostenblöcken besteht ein KI-Projekt?

Viele Kalkulationen beginnen bei Softwarelizenzen oder Cloudverbrauch. Dann fehlen genau die Leistungen, die aus einem Modell einen verlässlichen Geschäftsprozess machen.

Kostenblock	Einmalig	Laufend	Typische Kostentreiber
Modelle und Software	Teils	Ja	Lizenzen, Tokens, Modell- und Toolaufrufe
Use Case und Konzeption	Ja	Bei Ausbau	Workshop, Zielbild, Architektur, PoC
Daten	Ja	Ja	Bereinigung, Rechte, Qualität, Aktualisierung
Entwicklung und Integration	Ja	Ja	Schnittstellen, RAG, Workflows, Tests
Infrastruktur	Ja	Ja	GPU, Compute, Storage, Netzwerk, Energie
Security und Compliance	Ja	Ja	Schutzkonzept, Dokumentation, Audits, Kontrollen
Menschen und Organisation	Ja	Ja	Fachbereich, IT, Schulung, Change, Freigaben
Betrieb und Optimierung	Gering	Ja	Monitoring, Support, Updates, Daten- und Modellpflege

Daten sind häufig ein unterschätzter Kostenblock. Dokumente müssen auffindbar, relevant, korrekt, aktuell und rechtmäßig nutzbar sein. Für einen Wissensassistenten kommen Zugriffsregeln, Vektordatenbank, Suchlogik und Qualitätsprüfungen hinzu.

Bei operativen Anwendungen entstehen zusätzlich Kosten für Schnittstellen und die Einbindung in bestehende Abläufe.

Auch Governance kostet Zeit und Geld. Verantwortlichkeiten, Freigaben, Protokollierung und menschliche Kontrollen müssen zum Risiko passen. Der Blogbeitrag zu KI und Recht ordnet die wichtigsten Pflichten ein.

Die EU-Kommission fordert zudem, dass Anbieter und Betreiber Maßnahmen zur KI-Kompetenz ihrer Mitarbeitenden treffen. Schulung ist deshalb kein optionaler Posten.

Ein weiterer Aufwand entsteht im Fachbereich. Fachleute müssen Anforderungen präzisieren, Beispieldaten bewerten und Ergebnisse freigeben. Bei sensiblen Vorgängen bleibt eine menschliche Kontrolle erforderlich.

Diese Stunden erscheinen selten auf der Anbieterrechnung, binden aber echte Kapazität. Kalkulieren Sie interne Arbeit deshalb mit Rollen, Stunden und Vollkosten. Das gilt auch für den Einkauf, den Datenschutz und die Arbeitnehmervertretung.

Hinzu kommt das Change-Management. Der Erfolg einer KI-Lösung hängt nicht allein von Technik und Modellqualität ab, sondern davon, ob Mitarbeiter die neuen Werkzeuge verstehen, akzeptieren und im Arbeitsalltag tatsächlich nutzen. Schulungen und die frühzeitige Einbindung der Anwender sollten deshalb von Beginn an Teil des Projekts sein.

Wie setzt sich die TCO für KI bei einer Laufzeit von 3 Jahren zusammen?

Ein Pilot kann mit einem begrenzten Budget starten. Im Produktivbetrieb steigen die Anforderungen. Mehr Nutzer, höhere Verfügbarkeit, Support, Monitoring und regelmäßige Tests verändern die Rechnung.

Kostenposition	Einführung	Jahr 1	Jahr 2	Jahr 3
Workshop, Architektur und PoC	X
Datenaufbereitung und Integration	X	Anpassung	Anpassung	Anpassung
Hardware oder Migration	X	Erweiterung	Erweiterung	Erweiterung
Lizenzen, API und Cloudverbrauch		X	X	X
Betrieb, Support und Monitoring		X	X	X
Security, Governance und Audits	X	X	X	X
Schulung und Change	X	X	X	X
Modell-, Prompt- und Datenpflege		X	X	X

Das Grundschema lautet:

Drei-Jahres-TCO = sämtliche Einmalkosten + sämtliche laufenden Kosten für 36 Monate

Planen Sie Wachstum und Änderungen ein. Ein zusätzliches Land, eine neue Datenquelle oder strengere Verfügbarkeitsziele können Architektur und Betrieb verteuern. Umgekehrt sinken Stückkosten oft, wenn eine Plattform für mehrere Use Cases genutzt wird.

Trennen Sie Kosten, die nur dem ersten Use Case dienen, von gemeinsam nutzbaren Plattformkosten. Identitätsmanagement, Logging oder eine zentrale Modellplattform können mehrere Anwendungen tragen. Verteilen Sie solche Kosten nach einer klaren Regel. Sonst wirkt das erste Projekt zu teuer und jedes Folgeprojekt künstlich günstig.

Auch Reserven gehören in die Rechnung. Bezahlen Sie ungenutzte Kapazität, gehört sie in die TCO.

Kostentransparenz ist ein Erfolgsfaktor. Im KPMG Global AI Pulse Q2 2026 berichten 76 Prozent der befragten Unternehmen von messbarem geschäftlichem Nutzen. Sieben Prozent haben Einführungen verschoben, weil die Betriebskosten den erwarteten Nutzen überstiegen. Unternehmen mit vollständiger Transparenz über laufende Kosten weisen laut Studie fünfmal häufiger einen etablierten ROI nach.

Was kostet generative KI im Betrieb?

Bei generativer KI wird die Modellnutzung häufig nach Eingabe- und Ausgabetokens abgerechnet. Das ist nur der Anfang. Lange Kontexte, Embeddings, RAG-Suchen, Speicher, Sicherheitsfilter und Monitoring kommen hinzu.

Agentische Anwendungen können für eine Aufgabe mehrere Modell- und Werkzeugaufrufe starten. Wiederholungen nach Fehlern erhöhen den Verbrauch.

Deshalb sollte die Kennzahl nicht „Kosten pro eine Million Tokens“ heißen, sondern Kosten pro erfolgreich abgeschlossenem Geschäftsvorgang.

Die AWS-Bedrock-Preise zeigen, wie stark Kosten nach Modell, Region und Abrechnungsart variieren. Batch-Verarbeitung ist bei ausgewählten Modellen günstiger als eine sofortige Antwort. AWS ermöglicht außerdem eine Kostenzuordnung nach Nutzer, Team, Anwendung oder Workload. Microsoft bietet für Foundry-Modelle verbrauchsabhängige und reservierte Varianten an. Aktuelle Konditionen stehen auf der Microsoft-Preisseite.

Auch ein Open-Source-Modell ist nicht kostenlos. Wenn Sie eine KI lokal als PrivateGPT betreiben, entfallen API-Gebühren. Dafür entstehen Aufwände für Hardware, Energie, Updates, Sicherheit und Betrieb.

Die wirksamsten Sparmaßnahmen beginnen in der Architektur:

• Ein kleineres Modell reicht oft für Klassifikation oder Zusammenfassung.
• Kürzere Kontexte reduzieren Eingabetokens.
• Caching verhindert identische Anfragen.
• Batch-Verarbeitung verschiebt nicht zeitkritische Aufgaben in günstigere Betriebsarten.
• Modellrouting kann einfache und komplexe Aufgaben unterschiedlich behandeln.

Prüfen Sie nach jeder Änderung auch Qualität, Antwortzeit und Erfolgsquote. Ein billiger Aufruf spart nichts, wenn Mitarbeitende das Ergebnis korrigieren oder den Vorgang wiederholen müssen.

Welche vier Infrastrukturmodelle verändern die Kosten?

Die Infrastruktur bestimmt, ob Kosten eher als anfängliche Investition oder als laufender Verbrauch anfallen. Vier Modelle decken typische Entscheidungssituationen ab.

Kriterium	On-Premises: Compliance	On-Premises: Business Case	Sovereign Cloud AI	Public Cloud
Ausgangspunkt	hohe Souveränitäts- oder Schutzanforderung	stabile Last ohne regulatorischen Zwang	Souveränität plus flexible Nachfrage	variable oder wachsende Nachfrage
Anfangsinvestition	hoch	hoch	niedrig	niedrig
Laufende Kosten	Betrieb, Energie, Personal	Betrieb, Energie, Personal	Service und Verbrauch	Verbrauch und Managed Services
Skalierung	beschaffungs-abhängig	beschaffungs-abhängig	flexibel	flexibel
Kontrolle	sehr hoch	sehr hoch	hoch, vertragsabhängig	abhängig von Dienst und Region
Kostenrisiko	Überdimensio-nierung	zu geringe Auslastung	unklarer Verbrauch	Kostenanstieg bei hoher Nutzung
Passend, wenn …	… Kontrolle Vorrang hat	… planbare Dauerauslastung einen Kauf rechtfertigt	… Souveränität ohne eigene Hardware zählt	… Tempo und Flexibilität zählen

Nicht immer stehen alle Betriebsmodelle zur freien Wahl: Anforderungen an Datenschutz, Datenresidenz, Latenz, bestehende Systeme oder regulatorische Vorgaben können eine Cloud-Option ausschließen und eine lokale KI-Infrastruktur erforderlich machen.

On-Premises hat zwei unterschiedliche Begründungen. Im ersten Fall erzwingen Datenklassifizierung, Regulierung oder Souveränitätsziele die lokale Kontrolle. Im zweiten Fall spricht die dauerhaft hohe und gut planbare Auslastung für eine Investition. Die Technik kann ähnlich sein, die wirtschaftliche Begründung ist es nicht.

Eine Sovereign Cloud verbindet kontrollierte Datenverarbeitung mit einem flexibleren Bezug von Rechenleistung. Proact bietet dafür zwei Cloud-Modelle: PHC-AI für klassische Virtualisierungsumgebungen auf Basis von VMware sowie PMCP-AI für containerbasierte Umgebungen. Letzteres richtet sich insbesondere an Unternehmen mit Developer-Bereichen, ISVs oder Anbieter, die eigene SaaS-Lösungen aus dem Proact-Rechenzentrum bereitstellen möchten. Beide Modelle ermöglichen den Bezug skalierbarer GPU-Ressourcen, ohne eine eigene GPU-Infrastruktur aufbauen zu müssen.

Die Public Cloud eignet sich häufig für einen schnellen Start und schwankende Last. Bei dauerhaft hoher Nutzung kann ihr variabler Preis jedoch teurer werden als eine gut ausgelastete eigene Umgebung. Es gibt kein grundsätzlich günstigstes Betriebsmodell.

Welches Betriebsmodell ist für Ihren Use Case wirtschaftlich?

Vergleichen Sie die Modelle über denselben Zeitraum, mit derselben Leistung und demselben Servicelevel. Berücksichtigen Sie Spitzenlast, Wachstumsreserve, Ausfallkonzept, Datenübertragung und den internen Betriebsaufwand.

Für On-Premises zählen Kaufpreis, Abschreibung, Wartung, Energie, Kühlung, Platz, Ersatzteile und Fachpersonal. Für Cloudmodelle zählen Nutzung, reservierte Kapazitäten, Storage, Netzwerk, Support und Managed Services. Vertragslaufzeit und Mindestabnahmen gehören ebenfalls in die Rechnung.

Erstellen Sie mindestens drei Szenarien: niedrige, erwartete und hohe Nutzung. Der Break-even liegt dort, wo die kumulierten Kosten zweier Modelle gleich sind. Erst dann wird sichtbar, ob ein hoher CapEx durch geringere variable Kosten getragen wird.

Planen Sie auch ein realistisches Exit-Szenario ein. Datenexport, Migration, Vertragsende und die Ablösung eines Modells können zusätzliche Kosten auslösen.

Prüfen Sie deshalb Portabilität und Abhängigkeiten bereits bei der Architekturentscheidung. Eine günstig wirkende Plattform kann über drei Jahre teuer werden, wenn ein Wechsel aufwendig ist oder Datenbewegungen hohe Gebühren verursachen.

Wie berechnen Sie TCO und ROI eines KI-Use-Cases?

Die reine Frage „Was kostet KI?“ greift zu kurz. Entscheidend ist, welche Betriebsmodelle aufgrund von Datenschutz, Datenresidenz, Integration oder technischen Anforderungen überhaupt infrage kommen und welchen Mehrwert der konkrete Use Case schafft. Die wirtschaftlich relevante Frage lautet deshalb häufig: Ist die passende KI-Lösung ihren Preis wert?

Beginnen Sie mit einem klar abgegrenzten Vorgang, etwa der internen Beantwortung von Wissensfragen. Messen Sie zuerst den heutigen Aufwand. Danach setzen Sie nachvollziehbare Variablen ein.

Annahme oder Kostenposition	Variable	Variable Berechnung	Quelle im Unternehmen
aktive Nutzer pro Monat	U	Eingabewert	Nutzer- und Rollenplanung
Vorgänge je Nutzer	V	Eingabewert	Prozess- oder Suchprotokolle
Modellaufrufe je Vorgang	A	Testwert	PoC-Monitoring
Eingabe- und Ausgabetokens	iT, oT	Mittelwert pro Aufruf	Modellprotokolle
Tokenpreise (Input, Output)	iP, oP	Preis je 1Million Tokens	aktuelle Anbieterpreisliste
weitere variable Dienste	D	Embeddings + Suche + Tools + Storage	Architektur und Preisliste
monatliche Fixkosten	F	Plattform + Betrieb + Support	Angebote und Personalplanung
Einmalkosten	I	Konzeption + Daten + Integration + Schulung	Projektplanung

Monatliche Modellkosten = U × V × A × ((iT / 1.000.000 × iP) + (oT / 1.000.000 × oP))

Drei-Jahres-TCO = I + 36 × (monatliche Modellkosten + D + F)

Teilen Sie die TCO anschließend durch die Zahl der erfolgreich abgeschlossenen Vorgänge. So fließen Fehler, Wiederholungen und geringe Nutzung in die Bewertung ein.

Der Nutzen braucht ebenfalls eine belastbare Baseline.

Nutzen	Messgröße	Baseline	Datenquelle
Zeitersparnis	Minuten je erfolgreichem Vorgang	heutige Bearbeitungszeit	Zeitstudie oder Stichprobe
höherer Durchsatz	zusätzliche Vorgänge je Zeitraum	heutiges Volumen	Prozesssystem
bessere Qualität	weniger Fehler oder Nacharbeit	heutige Fehlerquote	Qualitätsmanagement
geringeres Risiko	vermiedene Vorfälle oder Schadenswerte	historische Vorfälle	Risk und Compliance
zusätzlicher Ertrag	Marge aus zusätzlichem Abschluss	heutige Conversion	CRM und Controlling

ROI = (monetärer Nutzen minus TCO) / TCO × 100

Nicht jeder Vorteil muss sofort in Euro übersetzt werden. Qualität, Reaktionszeit oder Wissenssicherung können eigenständige Entscheidungskriterien sein.

Trennen Sie belegte Einsparungen von Annahmen. Testen Sie Adoption, Nutzung, Erfolgsquote und Preise in einer Sensitivitätsanalyse.

Definieren Sie vor dem PoC, wann ein Vorgang als erfolgreich gilt. Eine erzeugte Antwort reicht nicht. Sie muss korrekt, verwertbar und innerhalb der geforderten Zeit verfügbar sein.

Vergleichen Sie außerdem realisierte Einsparungen mit theoretisch freier Arbeitszeit. Zeitgewinn wird erst zum finanziellen Nutzen, wenn Kapazität tatsächlich anders eingesetzt oder vermieden wird.

Fazit: Der Business Case entscheidet

Der Preis einer Lizenz, eines Tokens oder einer GPU beantwortet noch nicht, was KI im Unternehmen kostet. Entscheidend sind vollständige TCO, messbarer Nutzen und ein Betriebsmodell, das zu Lastprofil und Schutzbedarf passt.

Wer Einmalkosten, Betrieb, Daten, Menschen und Risiken transparent macht, kann Use Cases fair vergleichen und kontrolliert skalieren. Gleichzeitig sollte KI bereits bei der Infrastruktur- und Architekturplanung mitgedacht werden. Denn langfristig entscheidet nicht allein der Preis, sondern ob Architektur, Betriebsmodell, Use Case und Akzeptanz der Anwender zusammenpassen. So vermeiden Sie teure Pilotprojekte ohne produktive Perspektive.

Wie unterstützt Proact bei der Kostenplanung?

Eine gute Kalkulation beginnt vor der Produktauswahl. Im KI Use Case Workshop identifizieren und priorisieren wir gemeinsam mit Ihnen geeignete Anwendungsfälle. Dabei betrachten wir Nutzen, Daten, Risiken, Integrationen und technische Anforderungen.

Anschließend unterstützt Proact bei der Auswahl des Betriebsmodells, beim PoC, bei Infrastruktur und Integration sowie bei Betrieb und Optimierung. So entsteht eine Kostenbetrachtung, die zu Ihrem Prozess und zu Ihren Souveränitätsanforderungen passt.

Ob KI ihren Preis wert ist, lässt sich deshalb nicht pauschal beantworten. Entscheidend ist der konkrete Use Case: Welches Problem löst die KI und welchen Mehrwert schafft sie für das Unternehmen? Welche Einsatzmöglichkeiten heute bereits bestehen, zeigen unsere folgenden Beiträge:

• KI im Unternehmen: Anwendungsfälle und Möglichkeiten für CIOs
• KI in der Verwaltung: Die wichtigsten Einsatzmöglichkeiten
• KI und Kirche: Was heute schon funktioniert

Das klingt alles interessant? Dann sollten wir uns unterhalten. Wir freuen uns, von Ihnen zu hören!