Staff Research Engineer (LLM Pre-Training)
Jobbeschreibung
Staff Research Engineer (LLM Pre-Training)
We value engineers who:
- Can plan projects and make decisions independently, consulting with others if needed.
- Identify customer needs and prioritize their tasks accordingly.
- Start with the simplest solutions and gradually add complexity as needed.
- Take sole responsibility for an entire subsystem.
- Have a passion for learning and a desire to stay up to date with the latest developments in the LLM field.
In this role, you will:
- Work with stakeholders to convert business requirements into technical specifications.
- Train LLMs from scratch on a large GPU cluster.
- Collect and process pre-training and fine-tuning datasets.
- Support and improve existing subsystems.
How we develop JetBrains AI:
- A cluster of hundreds of NVIDIA GPUs as training infrastructure.
- Git for source control management.
- Python, PyTorch, and HuggingFace as an ML stack.
- Kubeflow and Weights & Biases for experiment tracking.
- TeamCity as a CI Automation system.
Voraussetzungen
We’ll be happy to have you on our team if you have:
- Experience in design, deployment, and support of production ML systems.
- A strong theoretical background in NLP and transformer-based approaches.
- Proficiency with modern deep learning frameworks such as PyTorch and common libraries for NLP.
- Experience in distributed training of multi-billion parameter models.
- Attention to detail in everything you do and great communication skills.
We’d be especially thrilled if you have experience with:
- LLM inference frameworks such as vLLM, DeepSpeed, TensorRT.
- LLM alignment techniques such as RLHF/RLAIF.
- MLOps tools and practices, including CI/CD for ML.
- K8s and Kubeflow.
- Scientific publications in the NLP field.
Wir bieten Ihnen
Empfohlene Jobs
Clinical Feasibility Strategist & Optimizer (all genders)
At Bayer we’re visionaries, driven to solve the world’s toughest challenges and striving for a world where ,Health for all, Hunger for none’ is no longer a dream, but a real possibility. We’re doing …
MS Dynamics CE Entwickler (m/w/d) - mehrere Standorte oder remote
Für meinen Auftraggeber, einen renommierten Endkunden aus der Technologiebranche mit aktuell ca. 100 Mitarbeitern, der seit über 17 Jahren am Markt tätig ist, suche ich ab sofort in unbefristeter Fes…
Fahrer - Pflanzen - Vollzeitposition (m/w/d)
Ein Berliner Pflanzen- und Blumengeschäft sucht aufgrund der großen Nachfrage im Bereich der Onlinebestellungen einen Fahrer m/w/d. Ihre Aufgabe ist es, bestellte Pflanzen und Blumen, zu Kunden auszu…
Rehatechniker für den Vertrieb (m/w/d) Region Nordost
Rehatechniker für den Vertrieb (m/w/d) Region Nordost Du liebst es, Kunden zu begeistern und im Außendienst echte Erfolge zu feiern? Dann starte als Rehatechniker für den Vertrieb (m/w/d) für das Ge…
Maschinen- und Anlagenführer im Automobilbereich m/w/d
Unser langjähriger Kunde in der Automobilbranche sucht zum nächstmöglichen Zeitpunkt zuverlässige und engagierte Maschinen- und (Anlagenführer) (m/w/d). Bewerben Sie sich am besten noch heute tele…
Ausbildung 2026 zum Industrie-Gerüstbauer (m/w/d)
Location: Berlin Beginn: 01.08.2026 Dauer: 3 Jahre Als international führender Industriedienstleister sorgen wir mit unseren mehr als 30.000 Kolleg…
Ingenieur Maschinenbau (m/w/d) Vollzeitstelle
+++ DIREKTVERMITTLUNG in Festanstellung (keine Zeitarbeit) / Vermittlungsgutscheine (AVGS) werden akzeptiert +++ Bei Fragen einfach unverbindlich anrufen: 03048479484 oder einen Rückruf vereinbaren…
Arabic Gaming Support Specialist - Sofia, Fully Paid Relocation
Mercier Consultancy is thrilled to offer an exciting opportunity for an Arabic Backend Gamer Support Specialist based in Sofia, Bulgaria, with fully paid relocation assistance. In this role, you will…
Berufskraftfahrer - Mineralöl / Tankwagen - Vollzeit (m/w/d)
Für (Treibstofflieferungen) an Tankstellen im Raum Berlin sucht PerZukunft -Ihre private Arbeitsvermittlung, ab sofort einen Berufskraftfahrer (m/w/d) in Vollzeit. Sie planen Ihre Tour selbstständig …
Logopäden (m/w/d)
Aufgaben, Kompetenzen und Verantwortung Wir, BPG, sind auf die Vermittlung von Fachkräften im Gesundheitsbereich spezialisiert (keine Zeitarbeit). Für eine unserer renommierten Partnerpraxe…