Level
Erfahren
Ort
Stuttgart
Arbeitsmodell
Hybrid, Onsite
Job Feld
IT, DevOps, Back End
Anstellung
Vollzeit
Vertragsart
Unbefristetes Dienstverhältnis

Job Zusammenfassung

In dieser Position entwickelst und optimierst du LLMOps-Pipelines und integrationslösungen für Cloud-KI-Dienste, während du Inferenz-Optimierungen umsetzt und AI FinOps zur Kostenkontrolle überwachst.

Job Technologien

Deine Rolle im Team

LLMOps-Infrastruktur: Du entwirfst und betreibst stabile Pipelines für das Deployment, das Monitoring und das Tracing von LLMs (z. B. mit LangSmith oder Arize Phoenix).
Inferenz-Optimierung: Du optimierst die Performance und Latenz von Modellen in der Produktion durch Techniken wie Quantisierung.
Enterprise Cloud Integration: Du bindest Cloud-AI-Dienste (wie Azure OpenAI Service oder AWS Bedrock) nahtlos an bestehende Enterprise-Infrastrukturen an.
AI FinOps: Du überwachst und optimierst die Token-Verbräuche und Cloud-Infrastrukturkosten (Cost Optimization).
Automatisierung: Du schreibst "Infrastructure as Code" (z. B. via Terraform), um KI-Umgebungen automatisiert und reproduzierbar aufzusetzen.
Schnittstellen-Brücke: Du bist das Bindeglied zwischen den AI-Software-Entwicklern und dem klassischen IT-Betrieb

Unsere Erwartungen an dich

Ausbildung

Deutsch (sehr gut) und Englisch (gut) sowie ein abgeschlossenes IT-Studium oder eine

Qualifikationen

Sehr gute Kenntnisse
Konzeption, Aufbau und Betrieb von LLMOps-Pipelines (z. B. Deployment, Monitoring, Evaluation und Tracing mit LangSmith oder Arize Phoenix).
Cloud-Plattformen (Azure, AWS oder GCP) und deren spezifischen KI-Diensten (z. B. Azure OpenAI Service, AWS Bedrock).
DevOps-Tools zur Container-Orchestrierung (Docker, Kubernetes) und dem Entwurf von CI/CD-Pipelines.
Solide Kenntnisse
Infrastructure as Code (IaC) mit Tools wie Terraform.
Konzepte zur Inferenz-Optimierung (Quantisierung, Caching) und Kostenkontrolle (AI FinOps).
Sicherheits- und Compliance-Standards im Umgang mit Unternehmensdaten in Cloud-Umgebungen.
Systemisches Denken: Du behältst die Systemstabilität, Skalierbarkeit und Kosteneffizienz von Infrastrukturen immer im Blick.
Kommunikationsstärke: Du agierst souverän und verständlich als Bindeglied zwischen der KI-Software-Entwicklung und dem IT-Betrieb unserer Kunden.

Unser Angebot

Du kannst in einem rollenbasierten Unternehmen arbeiten #NoHierarchieGehabe.
Du findest bei uns eine offene Unternehmenskommunikation und kurze Entscheidungswege wieder.
Für Deinen optimalen Start bei der BCM steht ein umfangreiches und individuelles Onboarding-Programm in den Startlöchern.
Kollegen auf Augenhöhe und unsere Personalentwicklung unterstützen Dich dabei, sowohl fachlich als auch persönlich aufs nächste Level zu kommen.
Du arbeitest überwiegend remote und genießt dabei maximale Flexibilität.
Je nach Projekt bist Du bereit, unsere Kunden remote oder direkt vor Ort zu unterstützen.
Unvergessliche Mitarbeiterevents: monatliche Teamaktivitäten und ein BCM-Urlaub im Sommer.
BCM stärkt Deine Balance, egal ob Work oder Life, wir stehen immer hinter Dir.
Casual oder Anzug? Büro oder Homeoffice? Frühaufsteher oder Nachteule? Du entscheidest, bei uns hast Du die Freiheit, so zu arbeiten, wie es am besten zu Dir passt.
Du läutest mit unserer BCM Community das Wochenende mit einem (hopfenreichen) Erfrischungsgetränk ein.