„Wir wollen KI, aber unsere Daten dürfen das Haus nicht verlassen.“ Dieser Satz fällt in fast jedem Erstgespräch – und er verdient eine ehrlichere Antwort als ein reflexhaftes „Dann machen wir es lokal“.
Was für lokale Modelle spricht
- Datenhoheit ohne Vertragskonstrukte. Was den eigenen Server nicht verlässt, braucht keinen Auftragsverarbeitungsvertrag, keine Standardvertragsklauseln und keine Diskussion über Drittlandtransfers.
- Kalkulierbare Kosten bei Dauerlast. Wer rund um die Uhr hohe Volumina verarbeitet, fährt mit eigener Hardware ab einem gewissen Punkt günstiger als mit Abrechnung pro Token.
- Unabhängigkeit. Kein Anbieter kann das Modell abkündigen, die Preise ändern oder API-Limits einführen.
Was für Cloud-APIs spricht
- Qualitätsvorsprung. Die leistungsfähigsten Modelle gibt es nicht zum Download. Offene Modelle holen auf, aber bei komplexem Schlussfolgern, Agenten-Aufgaben und Randfällen liegt die Spitzenklasse der API-Modelle vorn – und dieser Abstand entscheidet oft über Erfolg oder Abbruch eines Projekts.
- Kein Hardware-Invest. Ein Server mit ausreichend GPU-Speicher für ein konkurrenzfähiges Modell kostet fünfstellig – bevor die erste Anfrage beantwortet ist. Cloud-APIs skalieren von null an.
- Betrieb ist gelöst. Modell-Updates, Skalierung, Verfügbarkeit – all das ist beim API-Betrieb das Problem des Anbieters. Ein lokales Modell ist ein weiteres System, das jemand patchen, überwachen und dimensionieren muss.
Der Denkfehler in der Datenschutz-Debatte
„Cloud“ heißt nicht automatisch „Datenschutzproblem“. Die großen Anbieter bieten Verträge, in denen Eingaben nicht für Training verwendet werden, EU-Verarbeitung ist zunehmend verfügbar, und eine saubere Pseudonymisierung vor dem API-Aufruf entschärft viele Fälle zusätzlich. Umgekehrt heißt „lokal“ nicht automatisch „sicher“: Ein schlecht abgesichertes internes KI-System mit Zugriff auf Firmendaten ist ein attraktiveres Angriffsziel als eine vertraglich geregelte API-Nutzung.
Unsere Empfehlung
Die Betriebsmodell-Frage von der Aufgabe her denken: Cloud-API als Default, weil Qualität und Time-to-Value fast immer überwiegen. Lokal, wenn eine der drei Bedingungen zutrifft: rechtlich zwingende Vorgaben (etwa Berufsgeheimnisträger mit strenger Auslegung), sehr hohe Dauerlast mit einfachen Aufgaben, oder Umgebungen ohne verlässliche Internetanbindung. Und in vielen Projekten ist die Antwort hybrid: unkritische Verarbeitung in der Cloud, das Sensible lokal.