Der Markt für KI-Werkzeuge und Modelle dreht sich im Halbjahrestakt. Viele Preise dienen derzeit der Kundengewinnung, nicht der Kostendeckung. Und manche Rangliste, an der man Qualität ablesen möchte, ist teils nachweislich verzerrt. Wer jetzt auf einen Sieger setzt, kauft ein Standbild eines Marktes in Bewegung und bezahlt dafür mit Jahren der Bindung. Die tragfähige Architekturentscheidung ist deshalb nicht die Wahl des Anbieters, sondern die Höhe der eigenen Wechselkosten. Vier Gründe tragen diese These.

Der KI-Stack hat Schichten. Sie altern verschieden schnell.

Wer „KI einführen“ sagt, meint meist mehrere Dinge auf einmal. Architektonisch lohnt es sich, sie zu trennen. Oben steht die Arbeitsumgebung: der Editor, die Chat-Oberfläche, das Office-Programm. Darunter die Anwendung oder der Agent, der Aufgaben in Schritte zerlegt und Werkzeuge aufruft. Dann der Modellzugang: die Stelle, an der entschieden wird, welches Modell eine Anfrage bekommt. Darunter der Inferenzbetrieb, wo das Modell tatsächlich rechnet. Und ganz unten die Rechenbasis, also die Maschinen selbst.

Diese Schichten leben unterschiedlich lange. Oben wechseln Produkte binnen Monaten. Unten hängen Verträge, Datenwege, Protokolle und Nachweise, die man über Jahre pflegt. Integrierte Angebote bündeln gern drei Schichten in einem Vertrag: Editor, Agent und Modellzugang aus einer Hand. Das ist bequem. Und es ist teuer, wenn man wieder heraus will.

Daraus folgt eine einfache Regel: Vielfalt oben, Einheit unten. Vielfalt bei Editoren und Agenten kostet fast nichts. Ein Team arbeitet lieber mit dem Werkzeug, das es kennt, und der Wechsel dauert Stunden. Vielfalt beim Modellzugang dagegen ist teuer. Jeder eigene Zugang bringt einen eigenen Vertrag, einen eigenen Datenweg über die Netzgrenze, eine eigene Protokollierung und eine eigene Rechnung mit. Fünf Werkzeuge mit fünf eingebauten Modellzugängen bedeuten fünf Stellen, an denen Daten das Haus verlassen.

Die Schicht, die sich zu besitzen lohnt, ist deshalb der Modellzugang: ein Gateway, das Anfragen annimmt, nach Regeln weiterleitet und dahinter verschiedene Modelle anspricht. Daneben gehört der Zugang zum eigenen Wissen in die eigene Hand, also die Frage, welche Dokumente ein Modell zur Laufzeit zu sehen bekommt. Beide entkoppeln die Werkzeuge oben vom Rechenort unten.

Wichtig ist, woran man diese Naht hängt. Sie sollte an einer offenen Schnittstelle hängen, nicht am Produkt eines Anbieters. Die OpenAI-kompatible Schnittstelle ist für Sprachmodelle zum gemeinsamen Nenner geworden; auch quelloffene Inferenzserver wie vLLM bieten sie an. Wie schnell selbst eine vermeintlich neutrale Vermittlungsschicht den Besitzer wechseln kann, zeigte der August 2026: Der Zahlungsdienstleister Stripe kündigte an, OpenRouter zu übernehmen, einen der bekanntesten Vermittler zwischen Anwendungen und Hunderten von Modellen. Das ist kein Skandal. Aber es lehrt: Wer sich auf einen Vermittler verlässt, um unabhängig zu bleiben, hängt danach eben am Vermittler.

Wer jetzt auf einen Sieger setzt, kauft ein Standbild und bezahlt mit Jahren der Bindung.

Was KI kostet: Preis mal Menge

Die meisten Kostenvergleiche beginnen beim Preis je Million Token. Das ist die falsche Zielgröße. Betriebswirtschaftlich zählt, was eine erfolgreich gelöste Aufgabe kostet. Und das ist ein Produkt aus zwei Faktoren: Preis je Token mal Tokens je gelöster Aufgabe.

Der zweite Faktor wird unterschätzt. Ein Agent, der Code ändert oder einen Vorgang bearbeitet, stellt nicht eine Frage. Er durchsucht Dateien, ruft Werkzeuge auf, prüft Zwischenergebnisse, korrigiert sich und versucht es erneut. So verbraucht er ein Vielfaches einer Chat-Anfrage. Wie viel, hängt nicht nur am Modell, sondern ebenso am Werkzeug, das das Modell steuert. Ein billiges Modell in einem geschwätzigen Agenten kann teurer sein als ein teures Modell in einem schlanken. Und mehr Rechenaufwand bringt nicht automatisch mehr Qualität: Das Holistic Agent Leaderboard der Princeton University fand, dass ein höherer Aufwand für „Nachdenken“ die Genauigkeit in der Mehrzahl der untersuchten Läufe sogar senkte. Wer nur Tokenpreise vergleicht, schaut also womöglich auf den kleineren Teil der Rechnung.

Dazu kommt die Preisform. Pauschalen je Nutzer passen schlecht zu Agenten, deren Verbrauch stark schwankt, und die Anbieter reagieren. Cursor stellte sein Pro-Abo 2025 von einem Kontingent an Anfragen auf ein Nutzungsguthaben zu API-Preisen um. GitHub stellte zum 1. Juni 2026 alle Copilot-Pläne auf nutzungsbasierte Abrechnung um, berechnet nach verbrauchten Token. Der Planwert für ein Budget ist also nicht der heutige Abo-Preis, sondern erwarteter Verbrauch mal Tokenpreis. Abrechnung nach Verbrauch bildet die Wirklichkeit besser ab, macht Budgets aber unberechenbarer. Abhilfe schafft eine harte Obergrenze, und die setzt man am besten dort, wo alle Anfragen ohnehin durchlaufen: in der eigenen Naht.

Bleibt die Qualität. Auch hier taugen die bekannten Zahlen weniger, als ihre Verbreitung vermuten lässt. OpenAI hat im Februar 2026 aufgehört, Ergebnisse für SWE-bench Verified zu berichten, einen der meistzitierten Coding-Benchmarks, unter anderem weil er zunehmend kontaminiert sei: Modelle hatten die Aufgaben im Training gesehen. Das ist Goodharts Gesetz in Reinform. Sobald eine Kennzahl zum Verkaufsargument wird, optimiert man auf die Kennzahl statt auf die Fähigkeit dahinter. Veröffentlichte Prozentwerte helfen beim Aussortieren. Entscheiden sollte man mit eigenen Aufgaben aus dem eigenen Alltag, die man unter gleichen Bedingungen durch die Kandidaten schickt.

Eigener Betrieb ist ein Datenargument, kein Sparprogramm

Bei schwankender Last geht die Kostenrechnung für einen eigenen GPU-Server selten auf. Die Stückkosten der Inferenz hängen an Auslastung, Energie, Einkaufsmacht bei Beschleunigern und Betriebsautomatisierung. In allen vier Punkten sind große Anbieter strukturell im Vorteil. Ein eigener Server, der tagsüber ausgelastet ist und nachts und am Wochenende stillsteht, kann mit einem Rechenzentrum, das seine Last über Kontinente verteilt, nicht konkurrieren.

Aber auch das umgekehrte Argument hat einen Haken. Selbst wenn ein großer Anbieter die niedrigsten Kosten hat, zahlt der Kunde nicht dessen Kosten, sondern dessen Preis. Ein Anbieter, der nach einer Marktbereinigung vorne liegt, hat eher weniger Anlass, seinen Vorteil weiterzugeben. Die Frage „Wer gewinnt den Markt?“ sagt also viel über die Gewinne der Anbieter und wenig über die eigene Rechnung.

Eigener Betrieb lohnt sich deshalb aus anderen Gründen: wenn die Datenklasse ihn verlangt, als Rückfallebene für den Fall, dass externe Dienste ausfallen oder untersagt werden, bei dauerhaft hoher und gleichmäßiger Last oder für Spezialmodelle, die es am Markt nicht gibt. Dann sollte man ihn auch so begründen, als Frage der Souveränität und nicht als Sparprogramm. Und man sollte wissen, was man sich einkauft: Wer selbst betreibt, betreibt auch die Sicherheitslücken. Inferenzserver erscheinen alle paar Wochen in neuen Versionen, und jemand muss sie testen und einspielen.

Hilfreich ist es, die Hosting-Optionen nicht als Kostenstufen, sondern als Vertraulichkeitsstufen zu sehen: das eigene Rechenzentrum, eine dedizierte, aber fremdbetriebene Umgebung, und gemietete Kapazität, sei es als Cloud-GPU oder als Inferenz-Dienst. Der Entwurf einer Stellenanzeige darf fast überall gerechnet werden. Bei Gesundheitsdaten, Personalakten oder Betriebsgeheimnissen ist der Rechenort die erste Frage.

Hosting ist zuerst eine Governance-Frage

In vielen Organisationen hinken die Regeln den Werkzeugen hinterher. Entwickler probieren Agenten aus, Fachabteilungen nutzen Chat-Dienste. Die naheliegende Reaktion ist ein Verbot. Es ist auch die teuerste. Ein Verbot ohne genehmigten Weg erzeugt Schatten-KI: private Konten, private Schlüssel und Daten, die die Netzgrenze verlassen, ohne eine Spur zu hinterlassen. Teuer wird dann nicht das falsche Werkzeug, sondern der Datenabfluss, von dem niemand weiß.

Hier zeigt sich der eigentliche Wert der eigenen Naht. Am Gateway steht die Regel, welche Daten welches Modell sehen dürfen, als Einstellung im System, nicht als Satz in einer Richtlinie. Es protokolliert, sodass eine Anfrage von Datenschutz oder Aufsicht beantwortbar wird. Es setzt Obergrenzen für Kosten. Und es erlaubt, ein Modell zu tauschen, ohne die Werkzeuge darüber anzufassen.

Die rechtlichen Pflichten folgen derselben Logik. Wer einen externen Dienst nutzt, braucht einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO und muss mögliche Drittlandübermittlungen klären. Die Pflichten aus dem europäischen AI Act dagegen hängen am Einsatzzweck, nicht am Rechenort. Im Sinne des AI Act macht ein lokaler Server aus einem riskanten Einsatz keinen harmlosen, und eine Cloud-Schnittstelle macht aus einem harmlosen keinen riskanten. Wer Hosting als reine Beschaffungsfrage behandelt, beantwortet deshalb die zweite Frage vor der ersten.

Teuer wird nicht das falsche Werkzeug. Teuer werden Daten, die unbemerkt das Haus verlassen.

Die stärkste Gegenposition

Es gibt einen ernsthaften Einwand gegen all das, und er verdient seine beste Form. Er lautet: Nehmen Sie das Komplettpaket eines großen Anbieters und fangen Sie an. Es ist in Wochen produktiv statt in Monaten. Der Anbieter beschäftigt mehr Sicherheitsfachleute, als ein Mittelständler je haben wird. Die Modelle sind über Standardschnittstellen ohnehin halbwegs austauschbar. Ein eigenes Gateway ist ein weiterer Dienst mit Verfügbarkeitsanspruch, der Personal bindet, das man nicht hat. Jede Abstraktionsschicht verliert genau die Spezialfunktionen, die ein Produkt besonders machen. Und die eigentlichen Wechselkosten stecken ohnehin nicht in der Schnittstelle, sondern in eingespielten Arbeitsweisen. Bindung, so das Argument, ist der faire Preis für Tempo.

Diese Position hat in weiten Teilen recht. Dass Gewohnheiten binden, stimmt; gerade deshalb sollten die Werkzeuge oben wechseln dürfen, ohne dass Datenwege und Verträge unten mitwechseln müssen. Bewusste Bindung kann der richtige erste Schritt sein, um schnell arbeitsfähig zu werden. Entscheidend ist das Wort „bewusst“: mit Ablaufdatum und mit einem Plan für die nächste Etappe. Auch die Naht muss niemand selbst bauen. Viele Plattformen bieten Gateways an, und wenn im Haus niemand ein Gateway dauerhaft betreiben kann, ist Kaufen besser als ein verwaister Eigenbau. Wo sich eine technische Naht nicht ziehen lässt, bleibt die vertragliche: kurze Laufzeiten, Preisänderungsklauseln, das Recht, Konfigurationen, Prompts und Protokolle mitzunehmen.

Was nicht trägt, ist Bindung ohne Ausstiegsplan. Und eine mehrjährige Verpflichtung, die auf heutigen Pauschalpreisen gerechnet ist. Genau diese Preisform wird gerade umgestellt.

Fünf Fragen, in dieser Reihenfolge

Für die Entscheidung zwischen Cloud-Dienst, eigenem Betrieb und Mischform helfen fünf Fragen. Die Reihenfolge ist Absicht: Jede Antwort grenzt die nächste ein.

Entscheidungshilfe

  1. Datenklasse. Welche Daten landen in Prompt und Kontext: öffentliche, interne, vertrauliche, besonders geschützte? Die Antwort legt fest, welche Rechenorte überhaupt zulässig sind. Fehlt sie, ist jede Werkzeugwahl Schatten-IT mit Rechnung.
  2. Schicht. Welche Schicht kaufe ich gerade, und bindet der Vertrag weitere mit? Ein Werkzeug darf wechseln. Der Modellzugang sollte bleiben.
  3. Ausstiegskosten. Was kostet der Wechsel in zwölf Monaten? Gibt es eine Standardschnittstelle, eine kurze Laufzeit, eine Preisklausel, einen Export?
  4. Last und Auslastung. Ist die Last gleichmäßig hoch oder sprunghaft? Wie viele Tokens braucht eine gelöste Aufgabe, gemessen und nicht geschätzt? Nur bei hoher, gleichmäßiger Last rechnet sich eigene Rechenbasis über den Preis.
  5. Betriebsfähigkeit. Wer betreibt Gateway oder Rechenbasis dauerhaft, mit Updates, Sicherheitskorrekturen und Bereitschaft? Wenn niemand: kaufen statt bauen.

Das Ergebnis gehört aufgeschrieben, am besten als kurzer Architecture Decision Record: Kontext, Entscheidung, Konsequenzen. Und mit einem Datum, an dem die Entscheidung neu geprüft wird. In einem Markt, der sich im Halbjahrestakt dreht, ist dieses Datum der wichtigste Teil.

Beweglich bleiben

Die Wahl zwischen API und eigenem Server wirkt wie die große Entscheidung. Sie ist die kleinere. Die größere fällt eine Ebene tiefer: ob eine Organisation weiß, welche Daten wohin dürfen, und ob sie die Stelle besitzt, an der sie Modelle austauschen kann. Wer das hat, kann den Markt beobachten, ohne auf ihn wetten zu müssen. Und er liegt auch dann richtig, wenn der Markt anders kommt als vorhergesagt.

Die Frage, die ich jedem IT-Leiter zuerst stellen würde, lautet deshalb nicht: Welches Modell nehmen Sie? Sondern: Wenn Ihr Anbieter morgen die Preise verdoppelt, wie lange brauchen Sie für den Wechsel?