LLMOps Engineer für KI-Services

Neu

Finanz Informatik GmbH & Co. KG

Job

In dieser Rolle entwickelst du KI-Lösungen für datengetriebenes Banking, implementierst Container-Pipelines, integrierst KI-Modelle mittels Nvidia Triton und trägst zur Optimierung unserer Redis-Instanzen bei.

Job-Zusammenfassung

Job-Technologien

Deine Rolle im Team

  • In deiner Rolle als Technischer Projektmanager gestaltest du aktiv die technische Basis für skalierbare, sichere und performante KI-Lösungen - von der Kundenanforderung, Planung, über Umsetzung bis hin zum Modellbetrieb.
  • Du gestaltest gemeinsam mit Experten aus AI Engineering, System Engineering und Softwareentwicklung KI-Anwendungen und Prozesse für datengetriebenes Banking für über 50 Millionen Kunden.
  • Mit unserer Plattform setzen wir auf moderne Technologien wie Kubernetes, ArgoCD, Helm, GitHub Actions, Nvidia Triton, Huggingface TGI/TEI, arbeiten mit Partnern wie Nvidia oder Mistral AI eng zusammen - und suchen Kollegen, die sich organisatorisch in die Planung, Integration und Umsetzung neuer KI-Anwendungen einbringen und dabei die Compliance im Blick haben.
  • Übernimm eigenständig Aufgaben, die für die Weiterentwicklung der KI und Data Analytics Plattform wesentlich sind.
  • Dabei wirkst du aktiv in einem dynamischen und aufgeweckten Team an der Implementierung von State-of-the-Art Systemtechnologien im Finanzsektor mit.
  • Unterstützung beim Aufbau und der Pflege von Build-, Test- und Deployment-Pipelines für Container-Applikationen (z.B. Jenkins, GitHub Actions oder GitLabCI)
  • Arbeit mit Helm-Charts und ArgoCD, um Container-Anwendungen in Kubernetes-Clustern zu deployen
  • Unterstützung bei der Integration unimodaler (LLM, OCR, SST/TTS) und multimodaler KI-Modelle mit Tools wie Nvidia Triton, NIM oder HuggingFace-Komponenten (TGI, TEI, vLLM)
  • Unterstützung beim Betrieb unserer zentralen Redis-Instanzen und Mitwirkung um sicherzustellen, dass sie hochverfügbar, sicher und performant bleiben
  • Enge Zusammenarbeit mit Kolleg*innen aus unterschiedlichen Fachbereichen, Einbringung von Perspektiven in Architektur Entscheidungen und Unterstütztung bei der Weiterentwicklung unserer Plattform-Dienste
  • Gemeinsame Entwicklung erster Standards und Best-Practice-Empfehlungen für den produktiven Einsatz von Redis mit erfahrenen Kolleg*innen
  • Unterstützung interner Fachbereiche und Entwickler*innen bei Fragen zum Einsatz von Redis, insbesondere zu Themen wie Caching, Streams, Queues, Pub/Sub und der Auswahl passender Datenstrukturen

Unsere Erwartungen an dich

Ausbildung

  • Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder eine vergleichbare Ausbildung

Qualifikationen

  • Grundkenntnisse mit Helm-Charts und Basis-Verständnis von deklarativen Deployments über ArgoCD
  • Idealerweise erste Berührungspunkte mit LLM-Inference-Tools
  • Analytisches und kreatives Denken sowie selbständige und lösungsorientierte Arbeitsweise
  • Bereitschaft, bei Bedarf auch nachts oder an Wochenenden im Rahmen der Rufbereitschaft zu unterstützen - zum Beispiel bei kritischen Deployments oder System-Incidents

Erfahrung

  • Erste fachbezogene Berufserfahrung
  • Erste Erfahrung mit kleineren Continuous-Integration/Continuous-Delivery-Pipelines mit Tools wie Jenkins, GitHub oder GitLab

Unser Angebot

  • Neben flexiblen Arbeitszeiten, vergünstigten Jobtickets oder der Möglichkeit, mobil zu arbeiten, bieten wir dir noch viel mehr:
  • Bei uns erwartet dich eine attraktive Vergütung basierend auf deiner Qualifikation sowie deiner relevanten, praktischen Erfahrung.

Benefits

Themen, mit denen du dich im Job beschäftigst

Job-Standorte

Karte der Job-Standorte
© OpenMapTiles, © OpenStreetMap contributors
  • Standort Münster (Hessen)
    64839 Hessen, Deutschland
  • Standort Frankfurt am Main
    Hessen, Deutschland
  • Standort Hannover
    Niedersachsen, Deutschland

Das ist dein Arbeitgeber

Die Finanz Informatik ist ein IT-Dienstleister, der vorrangig für die Sparkassen-Finanzgruppe tätig ist. Dabei sind die 385 Sparkassen und sechs Landesbanken zu ihren Kunden zu zählen.

Unternehmensgröße
250+ Mitarbeitende
Unternehmenstyp
Etablierte Firma
Arbeitsmodell
Onsite, Hybrid
Branche
Internet, IT, Telekom

Arbeitgeber-Reviews

3,5Gesamt(1 Bewertung)
Arbeitsbedingungen
x
4,4
Teamkultur
x
3,5
Karriere
x
3,2
Engineering
x
3,0
  • syracom AGWiesbaden

    • Easy Apply
    • 68k – 85k €
    • Hybrid
    • Onsite
    • Vollzeit
    • Senior

    Als Senior Software Engineer (m/w/d) übernimmst du eine zentrale technische Rolle in anspruchsvollen Kundenprojekten und entwickelst nachhaltige, skalierbare Softwarelösungen in komplexen Enterprise-Umgebungen. In deiner Rolle übernimmst du insbesondere...

    • SQL
    • TypeScript
    • Kubernetes
    • OpenShift
    • NoSQL
    • React
    • Java
    • Spring
    • JavaScript
    • Angular
    • +8
  • HUK-COBURG VersicherungsgruppeCoburg

    • Hybrid
    • Onsite
    • Vollzeit

    Hallo, lass uns WIR sagen! Wir - die HUK-COBURG Versicherungsgruppe - zählen zu den 10 größten in Deutschland. Vor über 90 Jahren gegründet sind wir mit über 13 Millionen Kund:innen heute der große Versicherer für Privathaushalte und der größte deutsche...

    • Java
    • Spring Boot
    • Apache Kafka
  • sinoDüsseldorf

    • Easy Apply
    • Onsite
    • Vollzeit
    • Senior

    Die sino AG, mit Sitz in der Düsseldorfer Innenstadt, ist seit über 25 Jahren ein innovativer Finanzdienstleister. Wir haben uns auf die Abwicklung von Wertpapiergeschäften für die aktivsten und anspruchsvollsten Trader in Deutschland spezialisiert. Mit...

    • Java
    • PHP
    • C#
    • SQL
    • Linux
    • Windows

LLMOps Engineer für KI-Services

Finanz Informatik GmbH & Co. KG