Job
In dieser Rolle entwickelst du produktive AI-Agent-Lösungen auf Databricks und Azure, implementierst Multi-Agent-Workflows und sorgst für die Integration von Gesundheits- und Sicherheitsstandards in Geschäftsprozesse.
Job-Technologien
Deine Rolle im Team
- Konzeption, Entwicklung und Betrieb produktiver AI-Agent-Lösungen auf Databricks und Azure - vom ersten Prototyp bis zum skalierbaren Deployment.
- Entwicklung von KI-Agenten und Multi-Agent-Workflows, die Large Language Models, Unternehmensdaten, APIs und interne Systeme zielgerichtet verbinden.
- Implementierung von RAG, Tool Calling und Agent-Orchestrierung sowie Entwicklung wiederverwendbarer Tools, Prompts sowie Zustands- und Kontextkomponenten.
- Integration von Azure OpenAI und weiteren Foundation Models in Databricks sowie in bestehende Applikations- und Datenlandschaften.
- Entwicklung Python-basierter Agent-Services und APIs sowie deren Integration in bestehende Backend- und Cloud-Architekturen.
- Einsatz von Databricks Mosaic AI, Model Serving und MLflow zur Versionierung, Evaluation, Bereitstellung und Überwachung von Modellen und Agenten.
- Implementierung von Vector Search, Embeddings und Retrieval-Pipelines für den kontrollierten Zugriff auf relevante Unternehmensdaten.
- Orchestrierung von Agenten-, Daten- und Automatisierungsprozessen mit Databricks Workflows und definierten Tool-Zugriffen.
- Automatisierung der Bereitstellung mit GitLab CI/CD und Terraform, einschließlich reproduzierbarer Umgebungen, Tests und nachvollziehbarer Releases.
- Entwicklung von Evaluationen, Tracing und Monitoring für Antwortqualität, Groundedness, Sicherheit, Latenz, Kosten und Zuverlässigkeit.
- Etablierung von Guardrails, Berechtigungskonzepten und Human-in-the-Loop-Prozessen für den verantwortungsvollen Einsatz von AI Agents.
- Sicherstellung von Security und Governance mit Unity Catalog, Managed Identities, Key Vault, RBAC, Private Endpoints und Logging.
- Enge Zusammenarbeit mit Product Owner, Fachbereichen, Data-, Backend- und Cloud-Teams sowie Security und Privacy bei produktiven Agent-Use-Cases.
- Dokumentation von Agentenlogik, Tool-Schnittstellen, Datenflüssen, Architektur, Evaluationsverfahren und Runbooks für den nachhaltigen Betrieb.
Unsere Erwartungen an dich
Qualifikationen
- Sehr gute Kenntnisse in Python sowie in API-Integration, automatisierten Tests, Code Reviews und modularer Softwareentwicklung.
- Gute Kenntnisse der Microsoft-Azure-Plattform, insbesondere Azure OpenAI, Managed Identities, Key Vault, Storage und Networking.
- Solides Verständnis von LLMOps, Agent Evaluation und Observability, einschließlich systematischer Qualitätskontrollen.
- Kenntnisse in AI Security, Datenschutz und Governance, sicherem Modellzugriff, Guardrails und dem Schutz sensibler Informationen.
- Fähigkeit, AI Agents produktiv, zuverlässig und skalierbar bereitzustellen und fachliche Anforderungen in robuste Lösungen zu übersetzen.
Erfahrung
- Mehrjährige Erfahrung als AI Engineer, Machine Learning Engineer, Software Engineer oder in einer vergleichbaren technischen Rolle.
- Praktische Erfahrung mit LLM-Anwendungen und AI Agents, idealerweise mit RAG, Agent-Orchestrierung, Tool Calling und produktivem Deployment.
- Fundierte Erfahrung mit Databricks, beispielsweise mit MLflow, Mosaic AI, Model Serving, Vector Search und Unity Catalog.
- Erfahrung mit Agenten- und LLM-Frameworks, beispielsweise LangGraph, LangChain oder Semantic Kernel, und mit zustandsbehafteten Workflows.
- Praktische Erfahrung mit GitLab CI/CD für Testing, Versionierung und automatisierte Bereitstellung von AI-Anwendungen.
- Praktische Erfahrung mit Terraform (Infrastructure as Code) für die Bereitstellung von Azure- und Databricks-Ressourcen.
Unser Angebot
- Laufzeit: ab sofort bis 31.12.2027 (Verlängerung möglich).
- Einsatzort: Köln, ein bis zwei Tage pro Woche im Büro, ansonsten remote; nach Absprache sind Remote-Anteile bis zu 50 % möglich.
- Einsatz als Freelancer oder als fest angestellte Fachkraft des Anbieters.
Themen, mit denen du dich im Job beschäftigst
Job-Standorte
Das ist dein Arbeitgeber
Als zuverlässiger Premium-Dienstleister mit der Erfahrung aus über zehn Jahren Softwareentwicklung und der Zusammenarbeit mit nennenswerten Großkunden sind wir prädestiniert für langfristige Partnerschaften und dem Lösen komplexer Problemstellungen.
- Etablierte Firma
- Onsite, Hybrid, Full Remote
- Internet, IT, Telekom
Weitere Jobs
Diese Jobs könnten dich auch interessieren
Die sino AG, mit Sitz in der Düsseldorfer Innenstadt, ist seit über 25 Jahren ein innovativer Finanzdienstleister. Wir haben uns auf die Abwicklung von Wertpapiergeschäften für die aktivsten und anspruchsvollsten Trader in Deutschland spezialisiert. Mit...
Hallo, lass uns WIR sagen! Wir - die HUK-COBURG Versicherungsgruppe - zählen zu den 10 größten in Deutschland. Vor über 90 Jahren gegründet sind wir mit über 13 Millionen Kund:innen heute der große Versicherer für Privathaushalte und der größte deutsche...
Als Senior Software Engineer (m/w/d) übernimmst du eine zentrale technische Rolle in anspruchsvollen Kundenprojekten und entwickelst nachhaltige, skalierbare Softwarelösungen in komplexen Enterprise-Umgebungen. In deiner Rolle übernimmst du insbesondere...