KI Deployment Engineer (m/w/d)

Für ein langfristiges Projekt im Bereich Künstlicher Intelligenz wird ein erfahrener KI Deployment Engineer (m/w/d) gesucht, der das Team bei der Bereitstellung, dem Deployment und dem technischen Betrieb von KI‑Lösungen unterstützt. Die Rolle konzentriert sich insbesondere auf den Einsatz von Kubernetes, Red Hat OpenShift sowie die Bereitstellung von Large‑Language‑Modellen (LLMs) auf containerbasierten Infrastrukturen.Der Einsatz findet im Umfeld eines großen öffentlichen IT‑Dienstleisters statt.Deine Aufgaben:Unterstützung bei der Bereitstellung und dem Deployment von KI‑Lösungen auf einer containerbasierten Infrastruktur, insbesondere Red Hat OpenShift und Kubernetes.Technische Mitarbeit bei der Bereitstellung von Large‑Language‑Modellen (LLMs) auf der bestehenden OpenShift‑Plattform.Durchführung von explorativen Datenanalysen sowie Aufbereitung von Daten zur Vorbereitung KI‑basierter Lösungen.Unterstützung beim Deployment der KI‑Lösungen unter Nutzung moderner Container‑Technologien.Enge Zusammenarbeit mit dem KI‑Team im Referat 416, das generative und klassische Machine‑Learning‑Verfahren nutzt.Dein Profil:Mindestens 1 Jahr Erfahrung im Deployment von KI‑Lösungen auf containerbasierten Plattformen.Mindestens 1 Jahr praktische Erfahrung mit Kubernetes und Red Hat OpenShift.Mindestens 1 Jahr praktische Erfahrung mit ARGO (z. B. Argo Workflows / Argo CD).Erfahrung in der technischen Unterstützung von KI‑Lösungen — vom Datenhandling bis zum produktionsnahen Deployment.Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift.Vorteilhaft / Nice-to-have:Python‑Erfahrung (bis zu 7 Punkte).Kenntnisse in vLLM.Erfahrung im Aufbau eines RAG‑Systems.Erfahrung mit OpenShift AI.Erfahrung in Web‑Frontend‑Entwicklung.Erfahrung in IT‑Projekten der Finanzverwaltung.Andere Details:Zeitraum: Rahmenvereinbarung bis 2030.Arbeitsort: eine Vor-Ort-Präsenz von weniger als einen Tag pro Monat erwartet, rest Remote/Deutschland.Bei Interesse freue ich mich auf Deine Bewerbungsunterlagen, Verfügbarkeit und Stundensätze an [email protected]