Zum Hauptinhalt springen
Connic

Versteckte Kosten beim Self-Hosting von KI-Agenten

Ein Kubernetes-Deployment wirkt zunächst einfach. Der Artikel vergleicht die tatsächlichen Kosten selbst gehosteter KI-Agenten mit einer verwalteten Plattform.

18. Dezember 2025(zuletzt aktualisiert: 8. September 2026)7 Min. LesezeitAutor: Connic Research Team

„Das wird einfach auf Kubernetes bereitgestellt.“ In Gesprächen über KI-Agenten-Infrastruktur fällt dieser Vorschlag häufig. Er klingt vernünftig. Mit einem bestehenden K8s-Setup scheint ein weiterer Container schnell bereitgestellt.

Viele Teams stellen nach sechs Monaten fest, dass es schwieriger ist als erwartet. Das folgende Kostenmodell beziffert das Self-Hosting von KI-Agenten im DACH-Markt mit realen Zahlen.

Die sichtbaren Kosten, die jeder einplant

Diese Kosten berücksichtigen Teams typischerweise bei der Planung von KI-Agenten-Infrastruktur:

Direkte Infrastrukturkosten
Rechenleistung mit Cloud Run / ECS / GKE460 bis 1.800 Euro/Monat
Nachrichtenwarteschlangen (SQS, Pub/Sub, Kafka)90 bis 460 Euro/Monat
Datenbank für die Zustandsverwaltung90 bis 370 Euro/Monat
Secret-Verwaltung (Vault, AWS Secrets)45 bis 185 Euro/Monat
Infrastruktur gesamt685 bis 2.815 Euro/Monat

Die sichtbare Rechnung wirkt überschaubar. Die versteckten Kosten ändern die Kalkulation.

Die versteckten Kosten, an denen Budgets scheitern

1. Entwicklungszeit für den Aufbau

Die Bereitstellung des Containers ist nur der Anfang. Das Team muss außerdem Folgendes bauen:

  • Webhook-Eingangsschicht: Externe Ereignisse annehmen, Signaturen validieren und Wiederholungsversuche behandeln
  • Queue-Consumer: Nachrichten mit Fehlerbehandlung und Dead-Letter-Queues zuverlässig verarbeiten
  • Agentenorchestrierung: Gleichzeitige Ausführungen, Timeouts und Zustand verwalten
  • Deployment-Pipelines: CI/CD für Agentencode mit Versionierung und Rollback
  • Observability-Stack: Logging, Tracing, Metriken und Dashboards

Konservative Schätzung: zwei bis drei Monate Arbeitszeit eines Senior Engineers. Senior Software Engineers in Deutschland verdienen laut Vergütungsdaten von Levels.fyi für Deutschland ein Median-Grundgehalt von 78.000 bis 95.000 Euro. Mit typischen Arbeitgebernebenkosten von rund 30 % liegen die Gesamtpersonalkosten bei 100.000 bis 125.000 Euro pro Jahr, also 17.000 bis 31.000 Euro allein bis zum Punkt „es funktioniert“.

2. Laufender DevOps-Aufwand

Infrastruktur betreibt sich nicht von allein. Jemand muss:

  • Ausfälle und Leistungseinbußen überwachen
  • Sicherheitsupdates und weitere Aktualisierungen einspielen
  • Infrastruktur mit wachsender Nutzung skalieren
  • Probleme im Produktivbetrieb um 3 Uhr nachts debuggen
  • Rufbereitschaft übernehmen

Das beansprucht üblicherweise mindestens 20 bis 30 % der Zeit eines DevOps Engineers. Bei den Gesamtpersonalkosten im DACH-Raum entstehen so laufende Kosten von 1.800 bis 3.100 Euro pro Monat, häufig für die teuersten Fachkräfte des Teams.

3. Tools und Software

Observability-Plattform (Datadog, New Relic)185 bis 925 Euro/Monat
Fehlerverfolgung (Sentry)45 bis 275 Euro/Monat
Log-Verwaltung (falls nicht in Observability enthalten)90 bis 460 Euro/Monat
CI/CD-Werkzeuge90 bis 275 Euro/Monat
Tools gesamt410 bis 1.935 Euro/Monat

4. Die Opportunitätskosten

Diese versteckten Kosten erscheinen auf keiner Rechnung: Was hätten die Entwickler stattdessen bauen können?

Jede Stunde bei der Fehlersuche im Kubernetes-Netzwerk fehlt für Produktfunktionen, die das Unternehmen vom Wettbewerb abheben. Jeder Sprint für „Verbesserungen an der Agenteninfrastruktur“ fehlt bei der Weiterentwicklung kundenorientierter Funktionen.

Die TCO-Berechnung über 12 Monate

Zusammengerechnet für ein realistisches Szenario im DACH-Markt: ein mittelgroßes Team mit einer moderaten Last von 5.000 Agentenausführungen pro Monat, einer durchschnittlichen Dauer von 30 Sekunden sowie den genannten Annahmen für DACH-Gehälter und EU-Cloud-Preise.

Self-Hosting (12 Monate)
Initialer Aufbau (2,5 Monate Senior Engineer bei 110.000 Euro Gesamtpersonalkosten pro Jahr)22.900 Euro
Infrastruktur (1.300 €/Monat × 12)15.600 Euro
DevOps-Zeit (25 % × 110.000 Euro/Jahr)27.500 Euro
Tools (700 €/Monat × 12)8.400 Euro
Schulung und Weiterbildung4.500 Euro
Puffer für die Bearbeitung von Vorfällen (1 Woche eines Senior Engineers)2.100 Euro
Compliance- und Sicherheitsprüfung (4 Tage)4.700 Euro
Gesamt im Jahr 1rund 85.700 Euro
Verwaltete Plattform: Connic Pro (12 Monate)
Initiale Einrichtung (1 bis 2 Tage eines Senior Engineers)1.800 Euro
Pro-Abo (200 €/Monat × 12), als Projektguthaben angerechnet2.400 Euro
Zusätzliches Prepaid-Guthaben (5.000 LLM-Agenten-Runs mit je 30 Sekunden) = 31,50 Euro/Monat378 Euro
DevOps-Zeit0 Euro
Observability und Werkzeuge (enthalten)0 Euro
Gesamt im Jahr 14.578 Euro
Ersparnis über 12 Monate: rund 81.100 Euro
Das reicht für den Großteil der jährlichen Gesamtkosten einer Junior-Entwicklerstelle in Deutschland oder finanziert zwei bis drei Quartale Produktentwicklung, die das Unternehmen vom Wettbewerb abhebt.

So funktioniert unsere Preisgestaltung in diesem Modell: Das monatliche Abo wird vollständig als Projektguthaben angerechnet. Die Nutzung wird zu den veröffentlichten Einzelpreisen davon abgezogen (0,0337 Euro pro gestartetem LLM-Agenten-Run, 0,00042 Euro pro Laufzeitsekunde, 0,00342 Euro pro GB-Stunde Speicher sowie 0,0276 Euro pro synchronisiertem Retrieval-Element). Das Beispiel nutzt eine Laufzeit von einem Monat und schätzt 5.000 Runs pro Monat zu Basispreisen, ohne Laufzeit- oder Mengenrabatt. Mengenrabatte beginnen beim Paket mit 10.000 Runs. Bei 5.000 LLM-Agenten-Runs pro Monat mit durchschnittlich 30 Sekunden verbrauchen Run-Starts und Laufzeit 231,50 Euro pro Monat: 200 Euro Pro-Guthaben plus 31,50 Euro zusätzlich gekauftes Guthaben. Dieses Beispiel enthält keine Kosten für KI-Modell-Tokens, Speicher oder Retrieval. Zusätzliches Guthaben lässt sich manuell oder über eine begrenzte automatische Aufladung hinzufügen. Für Enterprise-Verträge gelten individuelle Konditionen.

Warum bestehendes Kubernetes nicht ausreicht

Das ist der häufigste Einwand und verdient eine direkte Antwort.

Kubernetes bietet Orchestrierung. KI-Agenten haben dennoch besondere Anforderungen:

  • Unvorhersehbare Ausführungszeiten: Eine einfache Abfrage dauert vielleicht 2 Sekunden, eine komplexe 5 Minuten
  • Token-Erfassung: Die Kostenkontrolle erfordert den exakten Token-Verbrauch jeder Ausführung
  • Ausführungs-Traces: Standard-APM erfasst weder die Verarbeitungsschritte des LLM noch Tool-Aufrufe
  • Entwicklung mit Hot Reload: Bestehende CI/CD ist selten für zweisekündige Iterationszyklen ausgelegt

Das Ergebnis ist eine eigene Plattform auf der bestehenden Infrastruktur. Damit gelten wieder die obigen Kostenschätzungen.

Wann Self-Hosting sinnvoll ist

Fairerweise gibt es legitime Gründe für Self-Hosting:

  • 1.Extrem sensible Daten: Regulierte Branchen, in denen Daten die Infrastruktur des Unternehmens nicht verlassen dürfen (auch hier gibt es Private-Cloud-Optionen)
  • 2.Massive Skalierung: Bei Millionen Agentenaufrufen täglich könnte die Rechnung für Self-Hosting sprechen
  • 3.Kernkompetenz: Wenn KI-Infrastruktur das Produkt ist, ist der Aufbau von Expertise sinnvoll

Für Teams, bei denen KI-Agenten eine Funktion statt das Produkt sind, spricht die Rechnung deutlich für verwaltete Plattformen.

Erst testen, dann in Self-Hosting investieren

Unsere Empfehlung: Mit einer verwalteten Plattform starten und den Anwendungsfall validieren, bevor das Team in eigene Infrastruktur investiert.

Mit unserem Basic-Tarif können Teams:

  • Agenten in Minuten statt Monaten bereitstellen
  • Prüfen, ob die Integrationsmuster funktionieren
  • Reale Nutzungsdaten für die Entscheidung zwischen Eigenentwicklung und einer fertigen Plattform gewinnen
  • KI-Funktionen ausliefern und parallel langfristige Optionen evaluieren

Sollte die Nutzung Self-Hosting später rechtfertigen, ist der erforderliche Plattformumfang klar. Andernfalls erspart der Einstieg mit einer verwalteten Plattform eine sehr teure Lernerfahrung.

Weitere Details bieten die Aufschlüsselung zum Ersatz selbst gehosteter KI-Agenten durch eine verwaltete Plattform, der vollständige TCO-Vergleich zwischen verwaltetem Betrieb und Self-Hosting, die Preisseite für den vollständigen Kostenvergleich und der Quickstart-Leitfaden für den Einstieg.

Häufig gestellte Fragen

Für ein Team im DACH-Markt kostet die direkte Infrastruktur 685 bis 2.815 Euro pro Monat. Im ersten Jahr kommen zwei bis drei Monate Entwicklungszeit eines Senior Engineers hinzu (17.000 bis 31.000 Euro bei DACH-Gesamtvergütung laut Levels.fyi Deutschland), laufender DevOps-Aufwand (1.800 bis 3.100 Euro pro Monat) und Observability-Werkzeuge (410 bis 1.935 Euro pro Monat). Die Gesamtkosten im ersten Jahr liegen bei einer moderaten Last von 5.000 LLM-Agenten-Runs pro Monat bei rund 85.000 Euro, gegenüber rund 4.600 Euro auf einer verwalteten Plattform wie Connic Pro.

Die größten versteckten Kosten sind Entwicklungszeit und Opportunitätskosten. Der Aufbau einer Hosting-Schicht für Agenten im Produktivbetrieb mit Webhook-Eingang, Queue-Consumern, Observability, CI/CD und Zustandsverwaltung beansprucht zwei bis drei Monate Arbeitszeit eines Senior Engineers, bevor der erste Agent produktiv läuft. Jede Stunde für Infrastruktur fehlt bei Produktfunktionen.

Self-Hosting ist in drei Szenarien eine Überlegung wert: Daten dürfen aufgrund regulatorischer Anforderungen die eigene Infrastruktur nicht verlassen; die Last umfasst täglich Millionen Agentenaufrufe und eine Kostenrechnung zeigt, ab welchem Volumen sich der Eigenbetrieb lohnt; oder KI-Infrastruktur ist das Kernprodukt und der Aufbau von Expertise schafft einen direkten Wettbewerbsvorteil. Für die meisten Teams, bei denen Agenten eine Funktion statt das Produkt sind, schneiden verwaltete Plattformen bei den Gesamtkosten besser ab.

Erforderlich sind mindestens Rechenleistung (Cloud Run, ECS oder GKE), Nachrichtenwarteschlangen für eingehende Ereignisse (SQS, Kafka), eine Datenbank für die Zustandsverwaltung, Secret-Verwaltung, ein Observability-Stack, CI/CD-Werkzeuge und eine Webhook-Eingangsschicht mit Signaturprüfung und Wiederholungslogik. Jede Schicht verursacht zusätzliche Kosten und laufenden Wartungsaufwand.

KI-Agenten haben besondere betriebliche Anforderungen: Die Ausführungszeiten sind unvorhersehbar und reichen von Sekunden bis Minuten. Erforderlich ist eine Token- und Kostenerfassung je Ausführung, die Standard-APM-Werkzeuge nicht bieten. Ausführungs-Traces müssen die Verarbeitungsschritte des LLM und Tool-Aufrufe erfassen, und die Plattform muss kurze Iterationszyklen mit Hot Reload unterstützen. Daher entsteht am Ende eine eigene Plattformschicht auf der bestehenden Infrastruktur.

Mehr aus dem Blog

Tutorial

Python-KI-Agenten ohne Kubernetes bereitstellen

Ein Python-KI-Agent lässt sich mit YAML, reinem Python, Tests als Deployment-Gate, Git und einer Managed Runtime in der EU ohne Kubernetes bereitstellen. Der Artikel enthält funktionsfähigen Code.

12. August 202612 Min. Lesezeit
Tutorial

KI-Agenten über Kafka-Topics auslösen

Eine eingehende Connic-Kafka-Verbindung auf einem Topic startet mit jeder Nachricht einen Agenten-Run. Kafka-Verbindung konfigurieren, Agenten verknüpfen, bereitstellen und Runs beobachten.

12. Juli 20268 Min. Lesezeit
Tutorial

So integrieren kleine Engineering-Teams einen KI-Agenten in SaaS

Ein praktikabler Weg zum ersten KI-Agenten im Produktivbetrieb: Aufgabe eingrenzen, per Konfiguration definieren, vorhandene Systeme anbinden und die Runtime verwalten lassen.

12. Juni 20269 Min. Lesezeit
Tutorial

KI-Agenten automatisch mit LLM Judges bewerten

Ein LLM Judge bewertet ausgewählte oder alle passenden Agenten-Runs nach festgelegten Kriterien. Score-Trends und Alerts machen Regressionen sichtbar.

29. März 202610 Min. Lesezeit
Tutorial

LangChain-KI-Agenten in den Produktivbetrieb migrieren

Ein funktionierender LangChain-Prototyp muss echten Traffic bewältigen. Bestehender Agenten-Code lässt sich ohne vollständige Neuentwicklung auf eine Plattform für den Produktivbetrieb migrieren.

23. März 202611 Min. Lesezeit
Tutorial

Datenbank, Retrieval oder Sessions: Speicher für Agenten im Vergleich

Connics Datenbank, Retrieval und persistente Sessions im Vergleich: passende Einsatzbereiche, gespeicherte Gesprächsverläufe, TTL und zugehörige Runs.

4. März 202612 Min. Lesezeit
Tutorial

KI-Agenten: Vom Prototyp zum Produktivbetrieb

Eine Demo funktioniert hervorragend, bis 1.000 Nutzer gleichzeitig darauf zugreifen. Dieser Leitfaden beschreibt die oft zu spät berücksichtigten Anforderungen des Produktivbetriebs.

10. Januar 202610 Min. Lesezeit
Tutorial

KI-Agenten ohne ML-Team in SaaS integrieren

Kunden erwarten KI-Features, auch wenn das Produktteam keine ML-Engineers beschäftigt. Vorhandene Fähigkeiten reichen aus, um KI-Agenten zu veröffentlichen.

5. Dezember 20258 Min. Lesezeit
Tutorial

RAG-Tutorial für KI-Agenten: Retrieval mit Quellenangaben

Ein RAG-Agent für den Produktivbetrieb braucht abgegrenzte Retrieval-Namespaces, Read-only-Berechtigungen, Quellenangaben, eigene Tool-Wrapper und Regressionstests.

15. November 20259 Min. Lesezeit