Job
- Level
- Erfahren
- Job Feld
- IT, Data, System
- Anstellung
- Vollzeit
- Vertragsart
- Unbefristetes Dienstverhältnis
- Ort
- München
- Arbeitsmodell
- Onsite
Job Zusammenfassung
In dieser Rolle baust du LLM-Plattformen und On-Prem GPU-Cluster, überwachst die Performance und skalierst Hybrid-Architekturen, während du eng mit Data Scientists und Entwicklern für optimale AI-Lösungen zusammenarbeitest.
Job Technologien
Deine Rolle im Team
- Aufbau, Betrieb und Skalierung von LLM-Plattformen und On-Prem GPU-Clustern für LLM-Workloads (NVIDIA).
- Monitoring von Token-Durchsatz, Latenzen, GPU-Auslastung und Kosten.
- Aufbau von Hybrid-Architekturen (Cloud + On-Prem).
- Umsetzung von Compliance-, Datenschutz- und AI-Governance-Vorgaben.
- Enge Zusammenarbeit mit Data Scientists, KI-Entwicklern und Fachbereichen.
- Beratung bei Modellwahl, Architekturentscheidungen und Einsatzszenarien sowie Bewertung neuer LLM-Technologien und Frameworks.
Unsere Erwartungen an dich
Ausbildung
- Abgeschlossenes Studium der Informatik, Data Science oder vergleichbare Qualifikation.
Qualifikationen
- Sehr gute Kenntnisse in Infrastructure as Code (Terraform, Bicep, o. Ä.), Containerisierungs-Technologien und Linux-Administration.
- Von Vorteil ist ein gutes Verständnis von RAG-Architekturen, Vektordatenbanken und Prompting-Strategien.
- Sehr gute Deutsch- (mind. C1 Niveau) und gute Englischkenntnisse (mind. C1 Niveau).
Erfahrung
- Erfahrung mit mindestens einer Cloud-Plattform (Azure, AWS oder GCP), idealerweise mit Managed AI Services oder GPU-Instanzen.
- Erfahrung mit LLM-Inference-Stacks (z. B.: vLLM, TGI, Triton Inference Server, Ray) und/oder Kenntnisse in LLMOps / MLOps (z. B.: MLflow, Kubeflow, Hugging Face, Weights & Biases) sind wünschenswert.
Unser Angebot
- Arbeiten im Herzen Münchens am Max-Weber-Platz mit sehr guter Erreichbarkeit durch öffentliche Verkehrsmittel wie U-Bahn, S-Bahn oder Tram.
- Betriebliche Altersvorsorge über die Versorgungsanstalt des Bundes und der Länder (VBL).
- Selbstverwirklichung durch eine abwechslungsreiche und fachlich anspruchsvolle Tätigkeit mit interdisziplinärer Zusammenarbeit verschiedener Abteilungen des TUM Klinikum Rechts der Isar.
Benefits
Gesundheit, Fitness & Fun
Themen mit denen du dich im Job beschäftigst
Job Standorte
Das ist dein Arbeitgeber
TUM Klinikum Rechts der Isar
Das TUM Klinikum Rechts der Isar in München ist ein angesehenes Universitätsklinikum, das jährlich zahlreiche stationäre und ambulante Patienten versorgt. Mit mehr als 6.600 Mitarbeitenden und einer breiten Infrastruktur von Kliniken und interdisziplinären Zentren gewährleistet es eine umfassende medizinische Betreuung und ist aktiv in Forschung und Lehre tätig. Als öffentliche Einrichtung kooperiert es eng mit der Technischen Universität München.
Description
- Unternehmenstyp
- Etablierte Firma
- Arbeitsmodell
- Hybrid, Onsite
- Branche
- Gesundheitswesen, Soziales
IT-Mitarbeiter - KI in der IT
- Ort
- München
- Arbeitsmodell
- Onsite
- Diversität
- Für alle Personen geeignet (m/w/d)
