Cloud & Platform Engineering · KI im Betrieb

Vom Notebook in den Betrieb.

Versionierung, Deployment, Monitoring und Retraining, damit ein Modell nicht im Prototyp stecken bleibt. Auf Wunsch vollständig in Ihrer eigenen Infrastruktur.

WARUM MODELLE IM PROTOTYP STERBEN

Ein Modell im Notebook ist kein Produkt. Es fehlt, was jede andere Software selbstverständlich hat: eine Versionierung, ein Weg in die Produktion, Monitoring und jemand, der zuständig ist. Genau hier scheitern die meisten KI-Initiativen, nicht am Modell, sondern am Betrieb.

Der Lebenszyklus, den ein Modell braucht

Vier Schritte, die zusammen einen Kreis bilden. Erst wenn der Kreis geschlossen ist, bleibt ein Modell auf Dauer nützlich.

1

Versionieren

Modell, Trainingsdaten, Hyperparameter und Code werden zusammen versioniert. Jedes Ergebnis ist reproduzierbar, auch in einem Jahr, auch von jemand anderem.

2

Deployen

Modelle gehen über dieselbe Pipeline in Produktion wie Ihre Anwendungen: getestet, freigegeben, rückrollbar. Als API, als Batch-Job oder direkt eingebettet.

3

Überwachen

Nicht nur Latenz und Fehlerrate, sondern auch die Qualität der Vorhersagen. Drift wird erkannt, bevor jemand im Fachbereich merkt, dass die Ergebnisse schlechter werden.

4

Nachtrainieren

Neue Daten fliessen in ein neues Modell, das gegen das alte antritt. Nur wer besser ist, geht live, automatisiert und ohne Bauchentscheidung.

Private AI: Modelle bei Ihnen, Daten im Haus

Wenn Ihre Daten das Haus nicht verlassen dürfen, läuft die KI eben bei Ihnen. Technisch ist das heute kein Kompromiss mehr.

dns

Modelle in Ihrer Infrastruktur

Offene Modelle laufen auf Ihren GPUs, im eigenen Rechenzentrum oder in der Schweizer Cloud. Kein Prompt, kein Dokument und kein Kundendatensatz verlässt Ihre Umgebung.

lock

Zugriff nach Rolle

Das Modell sieht nur, was der fragende Mensch sehen darf. Berechtigungen aus Ihrem Verzeichnisdienst gelten auch für die KI, nicht erst im Nachhinein.

receipt_long

Nachvollziehbar & auditierbar

Jede Anfrage, jede Antwort, jede Quelle protokolliert. Sie können im Nachhinein belegen, wie eine Entscheidung zustande kam: Voraussetzung in regulierten Bereichen.

payments

Kalkulierbare Kosten

Eigene Hardware statt Abrechnung pro Token. Bei konstanter Last ist das planbar, und ab einem bestimmten Volumen deutlich günstiger.

Was wir konkret tun

inventory_2

Model Registry & Pipelines

Eine zentrale Registry für alle Modelle mit Stand, Metriken und Freigabestatus. Trainings- und Deployment-Pipelines als Code, nicht als Handarbeit.

speed

Inferenz, die skaliert

Modell-Serving auf Kubernetes mit GPU-Sharing und Autoscaling. Teure Karten bleiben ausgelastet, statt einzelnen Teams zu gehören.

rule

Evaluation & Guardrails

Automatisierte Tests auf Qualität, Halluzinationen und unerwünschte Ausgaben, bei jedem Modellwechsel, bevor es live geht.

WAS DAS KONKRET BRINGT
Reproduzierbar

statt „das hat damals funktioniert": jedes Ergebnis lässt sich nachbauen.

Im Haus

bleiben Ihre Daten, wenn Sie das brauchen, ohne auf KI verzichten zu müssen.

Kein

Modell-Lock-in: offene Formate und Standards, Sie können den Anbieter wechseln.

Technologien

Herstellerneutral gewählt, passend zum Problem.

MLflowKubeflowKServevLLMOllamaOpenShift AIDVCRay

Passt dazu

UW
IHR DIREKTER ANSPRECHPARTNER
Uwe Winnwa
Sales · cloud37 AG

30 Min. Erstgespräch, kostenlos.
Kein Standard-Pitch. Ich höre zu, stelle die richtigen Fragen und gebe ehrliche Einschätzung, auch wenn wir nicht der richtige Partner sind.