(Senior) MLOps Engineer (w/m/d)

KPMG Karriere Deutschland
Berlin

Du möchtest Large Language Models in stabile Produktivsysteme überführen und moderne AI-Plattformen an der Schnittstelle von Modellen, Daten, Infrastruktur und Governance aufbauen? Dann bring Dich hier ein:

  • LLMOps & Lifecycle Management : Du konzipierst, entwickelst und betreibst End-to-End-LLM-Pipelines – von der Modellauswahl über Prompt- und Versionierungsstrategien bis hin zu Evaluierung, Monitoring und kontinuierlicher Optimierung.
  • Produktivsetzung von AI : Du überführst Prototypen in stabile, skalierbare Produktivsysteme und stellst Performance, Zuverlässigkeit, Wartbarkeit und reibungslose Betriebsprozesse sicher.
  • Modellintegration & Orchestrierung : Du integrierst moderne KI-Technologien wie Azure OpenAI, OpenAI, Agent Frameworks und weitere LLM-Services in produktive Business-Anwendungen und etablierst robuste Orchestrierungslogiken.
  • Agentic Skills & Skalierung : Du entwickelst und operationalisierst Agentic Skills für konkrete Business-Anwendungsfälle und schaffst die technischen Voraussetzungen, um diese nachhaltig im Unternehmen zu skalieren.
  • Evaluierung & Qualität : Du entwickelst Evaluierungs-, Benchmarking- und Guardrail-Ansätze, um LLM-basierte Anwendungen transparent, sicher, evaluierbar und qualitativ hochwertig zu machen.
  • Daten & Retrieval : Du entwickelst und integrierst RAG-Architekturen, Vektordatenbanken und Datenpipelines, um kontextbasierte Datenflüsse zuverlässig abzubilden und AI-Systeme fachlich wirksam zu machen.
  • Cloud & Betrieb : Du entwickelst, deployest und betreibst skalierbare AI-Lösungen auf Azure und bindest dabei APIs, Datenbanken, Observability-Tools und cloudbasierte Services nahtlos in die Gesamtarchitektur ein.
  • Security & Governance : Du sicherst hohe Standards in Bezug auf Datenschutz, Compliance, verantwortungsvollen KI-Einsatz und technische Governance über den gesamten Lebenszyklus der Systeme hinweg.
  • Zusammenarbeit & Agilität : Du arbeitest eng mit AI-Engineers, Data Engineers, Software-Entwicklern und Fachbereichen zusammen und bringst Dich aktiv in agile Entwicklungsprozesse, technische Konzeption und Enablement ein.

Dein Profil

  • Akademischer Hintergrund : Du hast ein Studium der Informatik, des Ingenieurwesens oder eines vergleichbaren Fachgebiets abgeschlossen. Ein Schwerpunkt auf KI, Softwareentwicklung, Daten oder Cloud-Technologien ist von Vorteil.
  • LLM- und KI-Verständnis : Du verfügst über fundierte praktische Erfahrung mit Large Language Models, Prompting, RAG-Architekturen und Evaluierungsansätzen und kannst dieses Wissen in produktive Anwendungen übertragen.
  • Technologische Kompetenz : Du bringst fundierte Erfahrung in der Backend- und Plattformentwicklung mit und arbeitest sicher mit APIs, Microservices sowie modernen Software-Engineering-Praktiken rund um produktive AI-Systeme.
  • Cloud-Erfahrung : Du hast Erfahrung mit Azure-basierten Entwicklungs- und Deployment-Umgebungen und bringst ein gutes Verständnis für moderne DevOps-, CI/CD- und Betriebsprozesse mit.
  • Datenverständnis : Du hast Erfahrung mit Datenpipelines, Embeddings, Vektordatenbanken und Retrieval-Konzepten und verstehst, wie Datenqualität die Leistungsfähigkeit von LLM-Anwendungen beeinflusst.
  • Tooling & Frameworks : Du bringst praktische Erfahrung mit LLM-Frameworks, Evaluierungs-Tooling und Observability-Lösungen mit und kennst gängige Muster zur Operationalisierung generativer KI.
  • Arbeitsweise und Kommunikation : Du arbeitest eigenständig, denkst analytisch und kommunizierst klar (Deutsch C1 und Englisch B2) mit fachlichen und technischen Stakeholdern, auch bei komplexen Anforderungen und in interdisziplinären Teams.

Deine Benefits

Die abgebildeten Leistungen können je nach Position und Standort leicht variieren.

Veröffentlicht am 2026-06-06

Empfohlene Jobs

Empfangsmitarbeiter (m/w/d) für Berlin

RADAS Jobbörse & Personalvermittlung GmbH
Berlin

+++ DIREKTVERMITTLUNG in Festanstellung (keine Zeitarbeit) / Vermittlungsgutscheine (AVGS) werden akzeptiert +++ Bei Fragen einfach unverbindlich anrufen: 03048479484 oder einen Rückruf vereinbaren…

Details Anzeigen
Veröffentlicht am 2026-06-01

Senior Director, Project Management Office (PMO)

Novanta, Inc.
Berlin

Build a career powered by innovations that matter! At Novanta, our innovations power technology products that are transforming healthcare and advanced manufacturing-improving productivity, enhancing …

Details Anzeigen
Veröffentlicht am 2026-06-06

Duales Studium Bachelor of Science (B.Sc.) Infor­matik (m/w/d)

Deutsche Rentenversicherung Bund
Berlin

Duales Studium Bachelor of Science (B.Sc) Infor­matik Werde IT-Profi mit Führungsstärke: Du kombinierst Theorie mit Praxis, entwickelst Software, sicherst Netzwerke und gestaltest die digitale Zu…

Details Anzeigen
Veröffentlicht am 2025-08-29

Trainee (m/w/d) Influencer Marketing

rsa Media GmbH
Berlin

Du weißt, was auf TikTok und Instagram gerade passiert und warum. Creator:innen hast du auf dem Schirm, bevor sie groß werden, und du willst verstehen, wie aus diesem Wissen echte Kampagnen entstehen…

Details Anzeigen
Veröffentlicht am 2026-05-30

Praktikum Immobilienentwicklung / Immobilienwirtschaft (m/w/x) (mind. 12 Monate)

Trivista Grundbesitz
Berlin

Über uns: Trivista Grundbesitz ist ein junges und schnell wachsendes Immobilienunternehmen in Berlin, welches sich auf den Kauf, die Entwicklung und Vermietung von Wohn- und Gewerbeimmobilien spez…

Details Anzeigen
Veröffentlicht am 2026-06-06

Technical System Expert (3rd Level) -...

Epikur Software GmbH & Co. KG
Berlin

Gestalte mit uns die Zukunft der digitalen Gesundheitsversorgung Du möchtest die Digitalisierung des Gesundheitswesens nicht nur begleiten, sondern technisch absichern? Macht es dir Spaß, tief in …

Details Anzeigen
Veröffentlicht am 2026-06-06

Praktikum Personal - Talent Management Processes International in Neckarsulm, Lidl

Lidl Stiftung & Co. KG
Berlin

Deine Aufgaben Unterstütze uns bei der konzeptionellen Gestaltung internationaler Talent-Strategien und setze Impulse für die Weiterentwicklung globaler HR-Prozesse. Ab August / September für 6 Mo…

Details Anzeigen
Veröffentlicht am 2026-04-16

(Senior) Frontend Engineer (d/w/m)

Rulemapping Group GmbH
Berlin

Die Rulemapping Solutions mit Sitz in Berlin steht für Innovation an der Schnittstelle von Recht und Technologie. Unsere Mission: komplexe bürokratische Prozesse vereinfachen, beschleunigen und fü…

Details Anzeigen
Veröffentlicht am 2026-05-24

Cateringunternehmen

PerZukunft Arbeitsvermittlung GmbH&Co.KG
Berlin

Für die Arbeit in einem Cateringunternehmen suchen wir derzeit zuverlässige und kommunikative Köche m/w/d. Wir freuen und auf Ihre Bewerbung! Koch m/w/d (-) Catering Bewerben Sie sich am besten no…

Details Anzeigen
Veröffentlicht am 2026-05-18

Angestellte/r Zahnarzt / Zahnärztin (m/w/d) - Berlin Kreuzberg

Zahnzentrum Kreuzberg
Berlin

Für meine etablierte und digital ausgerichtete Zahnarztpraxis in Berlin-Kreuzberg suche ich zum nächstmöglichen Zeitpunkt eine/n angestellte/n Zahnarzt/Zahnärztin in Voll- oder Teilzeit. Bei uns…

Details Anzeigen
Veröffentlicht am 2026-04-15