LLMOps Engineer für KI-Services

Neu

Finanz Informatik GmbH & Co. KG

Job

In dieser Position gestaltest du KI-Lösungen für das datengetriebene Banking, indem du Methoden zur Integration multimodaler KI-Modelle implementierst und Deployment-Pipelines für Container-Anwendungen aufbaust.

Job-Zusammenfassung

Job-Technologien

Deine Rolle im Team

  • Unser Team stellt die zentrale KI- und Data Analytics Plattform der Finanz Informatik für interne und externe Kunden wie Sparkassen und Verbundpartner bereit.
  • In deiner Rolle als Technischer Projektmanager gestaltest du aktiv die technische Basis für skalierbare, sichere und performante KI-Lösungen - von der Kundenanforderung, Planung, über Umsetzung bis hin zum Modellbetrieb.
  • Du gestaltest gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung KI-Anwendungen und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.
  • Mit unserer Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit Partnern wie Nvidia oder Mistral AI eng zusammen - und suchen Kollegen, die sich organisatorisch in die Planung, Integration und Umsetzung neuer KI-Anwendungen einbringen und dabei die Compliance im Blick haben.
  • Übernimm eigenständig Aufgaben, die für die Weiterentwicklung der KI und Data Analytics Plattform wesentlich sind.
  • Dabei wirkst du aktiv in einem dynamischen und aufgeweckten Team an der Implementierung von State-of-the-Art Systemtechnologien im Finanzsektor mit.
  • Unterstützung beim Aufbau und der Pflege von Build-, Test- und Deployment-Pipelines für Container-Applikationen (z.B. Jenkins, GitHub Actions oder GitLabCI).
  • Arbeit mit Helm-Charts und ArgoCD, um Container-Anwendungen in Kubernetes-Clustern zu deployen.
  • Unterstützung bei der Integration unimodaler (LLM, OCR, SST/TTS) und multimodaler KI-Modelle mit Tools wie Nvidia Triton, NIM oder HuggingFace-Komponenten (TGI, TEI, vLLM).
  • Unterstützung beim Betrieb unserer zentralen Redis-Instanzen und Mitwirkung um sicherzustellen, dass sie hochverfügbar, sicher und performant bleiben.
  • Enge Zusammenarbeit mit Kolleg*innen aus unterschiedlichen Fachbereichen, Einbringung von Perspektiven in Architektur Entscheidungen und Unterstütztung bei der Weiterentwicklung unserer Plattform-Dienste.
  • Gemeinsame Entwicklung erster Standards und Best-Practice-Empfehlungen für den produktiven Einsatz von Redis mit erfahrenen Kolleg*innen.
  • Unterstützung interner Fachbereiche und Entwickler*innen bei Fragen zum Einsatz von Redis, insbesondere zu Themen wie Caching, Streams, Queues, Pub/Sub und der Auswahl passender Datenstrukturen.

Unsere Erwartungen an dich

Ausbildung

  • Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder eine vergleichbare Ausbildung.

Qualifikationen

  • Grundkenntnisse mit Helm-Charts und Basis-Verständnis von deklarativen Deployments über ArgoCD.
  • Idealerweise erste Berührungspunkte mit LLM-Inference-Tools.
  • Analytisches und kreatives Denken sowie selbständige und lösungsorientierte Arbeitsweise.
  • Bereitschaft, bei Bedarf auch nachts oder an Wochenenden im Rahmen der Rufbereitschaft zu unterstützen - zum Beispiel bei kritischen Deployments oder System-Incidents.

Erfahrung

  • Erste fachbezogene Berufserfahrung.
  • Erste Erfahrung mit kleineren Continuous-Integration/Continuous-Delivery-Pipelines mit Tools wie Jenkins, GitHub oder GitLab.

Unser Angebot

  • 38 Stunden / Woche.
  • Anteilige mobile Arbeit möglich.
  • ab 51.238 € / Jahr.

Benefits

Themen, mit denen du dich im Job beschäftigst

Job-Standorte

Karte der Job-Standorte
© OpenMapTiles, © OpenStreetMap contributors
  • Standort Münster (Hessen)
    64839 Hessen, Deutschland
  • Standort Hannover
    Niedersachsen, Deutschland

Das ist dein Arbeitgeber

Die Finanz Informatik ist ein IT-Dienstleister, der vorrangig für die Sparkassen-Finanzgruppe tätig ist. Dabei sind die 385 Sparkassen und sechs Landesbanken zu ihren Kunden zu zählen.

Unternehmensgröße
250+ Mitarbeitende
Unternehmenstyp
Etablierte Firma
Arbeitsmodell
Onsite, Hybrid
Branche
Internet, IT, Telekom

Arbeitgeber-Reviews

3,5Gesamt(1 Bewertung)
Arbeitsbedingungen
x
4,4
Teamkultur
x
3,5
Karriere
x
3,2
Engineering
x
3,0
  • syracom AGWiesbaden

    • Easy Apply
    • 68k – 85k €
    • Hybrid
    • Onsite
    • Vollzeit
    • Senior

    Als Senior Software Engineer (m/w/d) übernimmst du eine zentrale technische Rolle in anspruchsvollen Kundenprojekten und entwickelst nachhaltige, skalierbare Softwarelösungen in komplexen Enterprise-Umgebungen. In deiner Rolle übernimmst du insbesondere...

    • SQL
    • TypeScript
    • Kubernetes
    • OpenShift
    • NoSQL
    • React
    • Java
    • Spring
    • JavaScript
    • Angular
    • +8
  • GGW GroupHamburg

    • Easy Apply
    • Hybrid
    • Vollzeit

    Die Rolle Als Forward Deployed AI Engineer gehst du direkt in unseren Fachbereichen, verstehst die Abläufe und baust produktionsreife AI und Automatisierungs-Lösungen, die die Arbeitsweise der gesamten GGW-Gruppe grundlegend verändern werden. Du...

  • HUK-COBURG VersicherungsgruppeCoburg

    • Hybrid
    • Onsite
    • Vollzeit

    Hallo, lass uns WIR sagen! Wir - die HUK-COBURG Versicherungsgruppe - zählen zu den 10 größten in Deutschland. Vor über 90 Jahren gegründet sind wir mit über 13 Millionen Kund:innen heute der große Versicherer für Privathaushalte und der größte deutsche...

    • Java
    • Spring Boot
    • Apache Kafka

LLMOps Engineer für KI-Services

Finanz Informatik GmbH & Co. KG