Job
In dieser Rolle entwickelst du skalierbare KI-Architekturen für B2B-Kunden, leitest interdisziplinäre Teams und evaluierst Open-Source-Sprachmodelle, während du moderne DevOps-Praktiken und Sicherheitsstandards implementierst.
Job-Technologien
Deine Rolle im Team
- Architektur & Lösungsdesign: Du übersetzt B2B-Kundenanforderungen in skalierbare KI-Architekturen (insbesondere für RAG-Chatbots) und verantwortest das Design von der ersten Idee bis zum Rollout.
- Technische Leitung: Du übernimmst die technologische Steuerung der KI-Projekte, berätst unsere Kunden auf Augenhöhe und leitest interdisziplinäre Entwickler-Teams fachlich an.
- Hands-on Lösungsentwicklung: Du gestaltest die Softwareentwicklung aktiv mit und bringst Deine tiefgreifende Programmiererfahrung direkt bei der Umsetzung der KI-Anwendungen ein.
- Souveräner KI-Betrieb: Du konzipierst den sicheren und datenschutzkonformen Betrieb abseits der Hyperscaler (On-Premise oder Open Telekom Cloud) und verantwortest das Ressourcen-Management.
- Modell-Evaluierung: Du bewertest kontinuierlich das Ökosystem der Open-Source-Sprachmodelle und wählst technologisch sowie wirtschaftlich fundiert die passenden Modelle für die Kunden-Use-Cases aus.
- DevOps & Observability: Du verankerst moderne Automatisierungs- und Deployment-Praktiken im Projektalltag und etablierst ein durchgängiges Monitoring für Infrastruktur und Modell-Performance.
Unsere Erwartungen an dich
Ausbildung
- Abgeschlossenes Studium mit dem Schwerpunkt IT (z.B. Informatik, Wirtschaftsinformatik, Data Science, Mathematik) bzw. eine vergleichbare Ausbildung.
Qualifikationen
- LLMs & RAG-Architekturen: Sehr gute Kenntnisse im Umgang mit Open-Source-Sprachmodellen, der Modell-Inference (vLLM) sowie dem Aufbau von Retrieval-Augmented Generation (RAG) Pipelines inklusive der Anbindung von Vektordatenbanken (z. B. Qdrant, Milvus oder pgvector).
- Kubernetes & Containerisierung: Fundierte Praxis in der Architektur, Skalierung und Optimierung von Applikationen auf Kubernetes-Clustern sowie im generellen Container-Management.
- Monitoring & Observability: Know-how im Aufbau eines ganzheitlichen und performanten Monitorings sowohl für die Systeminfrastruktur (Prometheus, Grafana) als auch für die KI-Modelle (z. B. LangSmith).
Erfahrung
- Softwareentwicklung & KI-Frameworks: Tiefgehende, praxiserprobte Programmiererfahrung wahlweise im Python-Ökosystem (inklusive LangChain) ODER in der Java-Entwicklung (speziell mit Spring AI).
- DevOps & Infrastruktur-Automatisierung: Sicherer Umgang mit Infrastructure as Code (z. B. Terraform, Ansible) sowie etablierte Erfahrung mit CI/CD-Pipelines und GitOps-Ansätzen (insbesondere ArgoCD).
- Souveräner Betrieb & Hardware: Praktische Erfahrung im GPU-Management und dem sicheren Deployment von Anwendungen in souveränen Infrastrukturen (On-Premise, Bare-Metal oder Open Telekom Cloud).
Unser Angebot
- Für diese Position sehen wir ein Bruttojahresgehalt in Höhe von 60.000,00 € bis 85.000,00 € vor.
- Die konkrete Einordnung erfolgt auf Basis objektiver und geschlechtsneutraler Kriterien, insbesondere der fachlichen Qualifikation, einschlägigen Berufserfahrung und des mit der Rolle verbundenen Verantwortungsumfangs.
- Bei uns zählt der Mensch.
- Wir setzen uns aktiv für Entgeltgleichheit ein und gestalten unsere Vergütungsstrukturen transparent und diskriminierungsfrei.
- Unabhängig von Geschlecht, ethnischer Herkunft, Religion, Alter, sexueller Identität oder Behinderung leben wir Vielfalt und lehnen jede Form von Diskriminierung ab.
Benefits
Work-Life-Integration
Gesundheit, Fitness & Fun
Themen, mit denen du dich im Job beschäftigst
Job-Standorte
Das ist dein Arbeitgeber
Wir bereiten uns auf die Gigabit-Gesellschaft vor: Als führendes Unternehmen der Kommunikations- und Informationstechnologie gestalten wir mit innovativen Lösungen für Privat- und Geschäftskunden die digitale Welt von morgen.
- Etablierte Firma
- Onsite, Hybrid, Full Remote
- Internet, IT, Telekom
Arbeitgeber-Reviews
- Arbeitsbedingungen
- 4,0
- Karriere
- 3,8
- Teamkultur
- 3,5
- Engineering
- 2,9
Weitere Jobs
Diese Jobs könnten dich auch interessieren
Wer hier einsteigt, gestaltet nicht nur Software – er bringt Maschinen zum Laufen, die man auf echten Baustellen wiedererkennt. Software-Entwickler (m/w/d) Basic Engineering Unser Auftraggeber ist ein international führender Hersteller von technisch...
Betrieb, Überwachung und Weiterentwicklung der Netzwerk-Infrastruktur. Administration und Konfiguration von Firewalls, Routern und Switches. Sicherstellung der Netzverfügbarkeit, -performance und -sicherheit. Mitwirkung bei IT‐Sicherheitskonzepten und...
Tätigkeitsbereich Die „DRV Bund IT“ ist der Service-Provider für die Deutsche Rentenversicherung Bund und entwickelt und betreibt in enger Kundenabstimmung eine komplexe IT-Systemlandschaft. Unsere Fachdomäne „IT4IT“ schafft durch die transparente...