(Senior) MLOps Engineer (w/m/d)

KPMG Karriere Deutschland
Berlin

Du möchtest Large Language Models in stabile Produktivsysteme überführen und moderne AI-Plattformen an der Schnittstelle von Modellen, Daten, Infrastruktur und Governance aufbauen? Dann bring Dich hier ein:

  • LLMOps & Lifecycle Management : Du konzipierst, entwickelst und betreibst End-to-End-LLM-Pipelines – von der Modellauswahl über Prompt- und Versionierungsstrategien bis hin zu Evaluierung, Monitoring und kontinuierlicher Optimierung.
  • Produktivsetzung von AI : Du überführst Prototypen in stabile, skalierbare Produktivsysteme und stellst Performance, Zuverlässigkeit, Wartbarkeit und reibungslose Betriebsprozesse sicher.
  • Modellintegration & Orchestrierung : Du integrierst moderne KI-Technologien wie Azure OpenAI, OpenAI, Agent Frameworks und weitere LLM-Services in produktive Business-Anwendungen und etablierst robuste Orchestrierungslogiken.
  • Agentic Skills & Skalierung : Du entwickelst und operationalisierst Agentic Skills für konkrete Business-Anwendungsfälle und schaffst die technischen Voraussetzungen, um diese nachhaltig im Unternehmen zu skalieren.
  • Evaluierung & Qualität : Du entwickelst Evaluierungs-, Benchmarking- und Guardrail-Ansätze, um LLM-basierte Anwendungen transparent, sicher, evaluierbar und qualitativ hochwertig zu machen.
  • Daten & Retrieval : Du entwickelst und integrierst RAG-Architekturen, Vektordatenbanken und Datenpipelines, um kontextbasierte Datenflüsse zuverlässig abzubilden und AI-Systeme fachlich wirksam zu machen.
  • Cloud & Betrieb : Du entwickelst, deployest und betreibst skalierbare AI-Lösungen auf Azure und bindest dabei APIs, Datenbanken, Observability-Tools und cloudbasierte Services nahtlos in die Gesamtarchitektur ein.
  • Security & Governance : Du sicherst hohe Standards in Bezug auf Datenschutz, Compliance, verantwortungsvollen KI-Einsatz und technische Governance über den gesamten Lebenszyklus der Systeme hinweg.
  • Zusammenarbeit & Agilität : Du arbeitest eng mit AI-Engineers, Data Engineers, Software-Entwicklern und Fachbereichen zusammen und bringst Dich aktiv in agile Entwicklungsprozesse, technische Konzeption und Enablement ein.

Dein Profil

  • Akademischer Hintergrund : Du hast ein Studium der Informatik, des Ingenieurwesens oder eines vergleichbaren Fachgebiets abgeschlossen. Ein Schwerpunkt auf KI, Softwareentwicklung, Daten oder Cloud-Technologien ist von Vorteil.
  • LLM- und KI-Verständnis : Du verfügst über fundierte praktische Erfahrung mit Large Language Models, Prompting, RAG-Architekturen und Evaluierungsansätzen und kannst dieses Wissen in produktive Anwendungen übertragen.
  • Technologische Kompetenz : Du bringst fundierte Erfahrung in der Backend- und Plattformentwicklung mit und arbeitest sicher mit APIs, Microservices sowie modernen Software-Engineering-Praktiken rund um produktive AI-Systeme.
  • Cloud-Erfahrung : Du hast Erfahrung mit Azure-basierten Entwicklungs- und Deployment-Umgebungen und bringst ein gutes Verständnis für moderne DevOps-, CI/CD- und Betriebsprozesse mit.
  • Datenverständnis : Du hast Erfahrung mit Datenpipelines, Embeddings, Vektordatenbanken und Retrieval-Konzepten und verstehst, wie Datenqualität die Leistungsfähigkeit von LLM-Anwendungen beeinflusst.
  • Tooling & Frameworks : Du bringst praktische Erfahrung mit LLM-Frameworks, Evaluierungs-Tooling und Observability-Lösungen mit und kennst gängige Muster zur Operationalisierung generativer KI.
  • Arbeitsweise und Kommunikation : Du arbeitest eigenständig, denkst analytisch und kommunizierst klar (Deutsch C1 und Englisch B2) mit fachlichen und technischen Stakeholdern, auch bei komplexen Anforderungen und in interdisziplinären Teams.

Deine Benefits

Die abgebildeten Leistungen können je nach Position und Standort leicht variieren.

Veröffentlicht am 2026-07-18

Empfohlene Jobs

Software Engineer

leverdemo-8
Berlin

This templated opening is in German This is a description 1   This is a description 2

Details Anzeigen
Veröffentlicht am 2026-06-24

Ehrenamtskoordinatoren (m/w/d) in Flüchtlingsunterkünften

Landesbetrieb für Gebäude- bewirtschaftung, Betriebsteil B
Berlin

Ehrenamtskoordinatoren (m/w/d) in Flüchtlingsunterkünften Der Landesbetrieb für Gebäudebewirtschaftung – Betriebsteil B (LfG-B) ist ein seit Frühjahr 2017 bestehender Landesbetrieb des Landes Berl…

Details Anzeigen
Veröffentlicht am 2026-07-12

Zahnmedizinische:r Fachangestellte:r für die Rezeption (m/w/d) Kieferorthopädische Erfahrung mind. 1 Jahr

KAUGUT Ihre Kieferorthopäden in Steglitz
Berlin

Über uns Herzlich willkommen bei KAUGUT Ihre Kieferorthopäden in Steglitz! Unsere kieferorthopädische Praxis besteht seit dem 01.07.2009 und behandelt sowohl gesetzlich als auch privat versicherte P…

Details Anzeigen
Veröffentlicht am 2026-06-30

Sachbearbeiter (m/w/d) Buchhaltung in Voll- oder Teilzeit

Berlin

Sie haben Spaß an Themen im Bereich der Buchhaltung und wollen Ihre Kenntnisse weiter ausbauen? Dann sind Sie hier genau richtig! Wir suchen im Auftrag unseres Kunden im Herzen von Berlin einen…

Details Anzeigen
Veröffentlicht am 2026-06-06

Wissenschaftlicher Mitarbeiter (m/w/d) Fonds

YPOG
Berlin

Jobbeschreibung Willkommen bei YPOG Wir sind auf der Suche nach neuen Talenten und freuen uns, wenn du uns während deines Referendariats in der Rechtsanwalts- oder Wahlstation oder auch als wis…

Details Anzeigen
Veröffentlicht am 2026-07-18

Gesundheits- und Krankenpfleger (m/w/d)

Mike Jirschinetz-Degenhardt Arbeitsvermittlung
Berlin

Wir suchen Pflegefachkräfte (m/w/d) an der Ostsee . Arbeitsort: Greifswald und Umgebung Unser Angebot: unbefristeter Arbeitsvertrag in Voll- oder Teilzeit Vergütung: ab 26 €/h zzgl. Son…

Details Anzeigen
Veröffentlicht am 2026-06-22

Mitarbeiter/in Lager - Trinkpäckchen - Attraktives Gehalt

PerZukunft Arbeitsvermittlung GmbH&Co.KG GmbH & Co. KG
Berlin

Wir, [perZukunft] - Ihre private Arbeitsvermittlung, sind auf der Suche nach einem flexiblem Lageristen (m/w/d) zur Festanstellung. Unser Kunde ist spezialisiert auf Trinkpäckchen. Die Einstellung er…

Details Anzeigen
Veröffentlicht am 2026-07-06

Verkaufsunterstützung in Voll-/Teilzeit (m/w/d)

Aktiv-Schuh Handelsgesellschaft mbH
Berlin

Ihre Aufgaben Onlinebestellungen & Versand: Sie bearbeiten eingehende Onlinebestellungen sorgfältig und bereiten diese für den Versand vor. Retourenbearbeitung: Sie nehmen Rücksendungen an, p…

Details Anzeigen
Veröffentlicht am 2026-04-09

Technischer Systemplaner HLS Berlin (m/w/d) (Berlin)

ROCKSOLID Personalvermittlung
Berlin

Spitzengehalt bis 60K € - Homeoffice - nachhaltige Großprojekte - klare Karrierechancen - regelmäßige Teamevents Gebiet: Berlin Arbeitgeberbeschreibung: Ihr Einstieg in die moderne Gebäudetech…

Details Anzeigen
Veröffentlicht am 2026-07-18