(Senior) MLOps Engineer (w/m/d)

KPMG Karriere Deutschland
München

Du möchtest Large Language Models in stabile Produktivsysteme überführen und moderne AI-Plattformen an der Schnittstelle von Modellen, Daten, Infrastruktur und Governance aufbauen? Dann bring Dich hier ein:

  • LLMOps & Lifecycle Management : Du konzipierst, entwickelst und betreibst End-to-End-LLM-Pipelines – von der Modellauswahl über Prompt- und Versionierungsstrategien bis hin zu Evaluierung, Monitoring und kontinuierlicher Optimierung.
  • Produktivsetzung von AI : Du überführst Prototypen in stabile, skalierbare Produktivsysteme und stellst Performance, Zuverlässigkeit, Wartbarkeit und reibungslose Betriebsprozesse sicher.
  • Modellintegration & Orchestrierung : Du integrierst moderne KI-Technologien wie Azure OpenAI, OpenAI, Agent Frameworks und weitere LLM-Services in produktive Business-Anwendungen und etablierst robuste Orchestrierungslogiken.
  • Agentic Skills & Skalierung : Du entwickelst und operationalisierst Agentic Skills für konkrete Business-Anwendungsfälle und schaffst die technischen Voraussetzungen, um diese nachhaltig im Unternehmen zu skalieren.
  • Evaluierung & Qualität : Du entwickelst Evaluierungs-, Benchmarking- und Guardrail-Ansätze, um LLM-basierte Anwendungen transparent, sicher, evaluierbar und qualitativ hochwertig zu machen.
  • Daten & Retrieval : Du entwickelst und integrierst RAG-Architekturen, Vektordatenbanken und Datenpipelines, um kontextbasierte Datenflüsse zuverlässig abzubilden und AI-Systeme fachlich wirksam zu machen.
  • Cloud & Betrieb : Du entwickelst, deployest und betreibst skalierbare AI-Lösungen auf Azure und bindest dabei APIs, Datenbanken, Observability-Tools und cloudbasierte Services nahtlos in die Gesamtarchitektur ein.
  • Security & Governance : Du sicherst hohe Standards in Bezug auf Datenschutz, Compliance, verantwortungsvollen KI-Einsatz und technische Governance über den gesamten Lebenszyklus der Systeme hinweg.
  • Zusammenarbeit & Agilität : Du arbeitest eng mit AI-Engineers, Data Engineers, Software-Entwicklern und Fachbereichen zusammen und bringst Dich aktiv in agile Entwicklungsprozesse, technische Konzeption und Enablement ein.

Dein Profil

  • Akademischer Hintergrund : Du hast ein Studium der Informatik, des Ingenieurwesens oder eines vergleichbaren Fachgebiets abgeschlossen. Ein Schwerpunkt auf KI, Softwareentwicklung, Daten oder Cloud-Technologien ist von Vorteil.
  • LLM- und KI-Verständnis : Du verfügst über fundierte praktische Erfahrung mit Large Language Models, Prompting, RAG-Architekturen und Evaluierungsansätzen und kannst dieses Wissen in produktive Anwendungen übertragen.
  • Technologische Kompetenz : Du bringst fundierte Erfahrung in der Backend- und Plattformentwicklung mit und arbeitest sicher mit APIs, Microservices sowie modernen Software-Engineering-Praktiken rund um produktive AI-Systeme.
  • Cloud-Erfahrung : Du hast Erfahrung mit Azure-basierten Entwicklungs- und Deployment-Umgebungen und bringst ein gutes Verständnis für moderne DevOps-, CI/CD- und Betriebsprozesse mit.
  • Datenverständnis : Du hast Erfahrung mit Datenpipelines, Embeddings, Vektordatenbanken und Retrieval-Konzepten und verstehst, wie Datenqualität die Leistungsfähigkeit von LLM-Anwendungen beeinflusst.
  • Tooling & Frameworks : Du bringst praktische Erfahrung mit LLM-Frameworks, Evaluierungs-Tooling und Observability-Lösungen mit und kennst gängige Muster zur Operationalisierung generativer KI.
  • Arbeitsweise und Kommunikation : Du arbeitest eigenständig, denkst analytisch und kommunizierst klar (Deutsch C1 und Englisch B2) mit fachlichen und technischen Stakeholdern, auch bei komplexen Anforderungen und in interdisziplinären Teams.

Deine Benefits

Die abgebildeten Leistungen können je nach Position und Standort leicht variieren.

Veröffentlicht am 2026-07-11

Empfohlene Jobs

Examinierter Krankenpfleger m/w/d für Palliativ

München

Wir sind dauerhaft auf der Suche nach Ihnen als examinierte Krankenpflegekräfte m/w/d und Fachkrankenpflegekräfte m/w/d für Palliativ für Münchner Kliniken. ~ Wir bieten Ihnen auch gut ausgesta…

Details Anzeigen
Veröffentlicht am 2026-03-31

Junior IT Consultant (m/w/d)

MESKRU GmbH
München

Komm ins Team – Bei MESKRU ist es mehr als nur IT-Beratung: Wir sind ein dynamisches Start-up, das mit Leidenschaft die digitale Zukunft formt. Werde Teil unseres engagierten Teams und gestalte mit u…

Details Anzeigen
Veröffentlicht am 2026-07-04

Internship/Working Student for Green Hydrogen Lab - Germany

Sungrow - EMEA
München

Your mission Servus and hallo bei uns hier in Sungrow! Are you looking for new experiences and exciting tasks in the field of renewable energy?  Then come and support us in our Advanced Hydrogen…

Details Anzeigen
Veröffentlicht am 2026-04-30

Medizinische Fachangestellte / MFA (m/w/d)

PERMACON GmbH München
München

Medizinische Fachangestellte / MFA (m/w/d) Wir bringen Bewegung in Ihre Karriere. Für unseren Kunden, ein MVZ, im Süden von München, suchen wir ab sofort eine Medizinische Fachangestellte / MFA (…

Details Anzeigen
Veröffentlicht am 2026-07-10

Sportwissenschaftler (m/w/d)

MedAix Holding GmbH
München

MedAix Holding GmbH Werde Teil unseres Teams – Wir suchen dich! Als Sportwissenschaftler (m/w/d) brennst du für aktive Therapie- und Trainingsmethoden und einen gesunden & bewegten Lebensstil? Da…

Details Anzeigen
Veröffentlicht am 2026-07-06

IT Auslieferungsfahrer (m/w/d) IT Rollout in München

München

Aufbau und Einrichtung von IT-Arbeitsplätzen im Außendienst Auslieferung, Aufbau und Inbetriebnahme verschiedenster IT-Hardware (z. B. PCs, Notebooks, Drucker) Transport, Abholung sowie sachgere…

Details Anzeigen
Veröffentlicht am 2026-05-12

Werkstudent Online-Redaktion mit Schwerpunkt Politik und Gesellschaft bei Focus Online (m/w/d)

BurdaForward
München

München, Berlin, Hamburg, Köln, Teilzeit, befristet Was dich bei uns erwartet... Du bist fester Bestandteil der Online-Redaktion und arbeitest für Focus Online Die Recherche und das Ver…

Details Anzeigen
Veröffentlicht am 2026-07-05

Inside Sales Representative (m/w/d) | Secure Enterprise Messaging & Collaboration

HRpeople
München

~ München (Hybrid) | 50.000–70.000 € OTE | Vollzeit Keywords : Inside Sales, ISR, SDR, BDR, Lead Generation , SaaS, Enterprise Software, B2B Sales, München Hybrid München | HQ Europe: Mü…

Details Anzeigen
Veröffentlicht am 2026-06-29