Aktuelles Mandat · seit 02/2026
CGM: AI Gateway und Cloud Migration
Program Manager & Migration Manager
Program Manager AI Gateway
Ich verantworte die Einführung eines zentralen AI Gateways auf Basis von LiteLLM. Dazu gehören die Steuerung des Projektteams und der Dienstleister sowie die Abstimmung mit Security, Datenschutz und Compliance. Ziel ist ein zentraler AI Zugang, über den Nutzung und Kosten transparent werden.
Migration Manager Cloud
Ich unterstütze die Produktteams dabei, Produkte und Services in die Cloud zu bringen. Grundlage ist ein strategisches Vorgehensmodell nach Kanban und Lean Management. Außerdem begleite ich das Thema FinOps für Cloud und AI Kosten.
Anwendungen
- Produktteams
- Interne Tools
- Automatisierungen
Zentrales AI Gateway
LiteLLM
- Zugang & API Keys
- Budgets pro Team
- Logging & Kosten
- Caching
- Model Routing
Modelle, z. B.
- Azure AI
- AWS Bedrock
- Vertex AI
- weitere
