Staff Research Engineer (LLM Pre-Training)
Jobbeschreibung
Staff Research Engineer (LLM Pre-Training)
We value engineers who:
- Can plan projects and make decisions independently, consulting with others if needed.
- Identify customer needs and prioritize their tasks accordingly.
- Start with the simplest solutions and gradually add complexity as needed.
- Take sole responsibility for an entire subsystem.
- Have a passion for learning and a desire to stay up to date with the latest developments in the LLM field.
In this role, you will:
- Work with stakeholders to convert business requirements into technical specifications.
- Train LLMs from scratch on a large GPU cluster.
- Collect and process pre-training and fine-tuning datasets.
- Support and improve existing subsystems.
How we develop JetBrains AI:
- A cluster of hundreds of NVIDIA GPUs as training infrastructure.
- Git for source control management.
- Python, PyTorch, and HuggingFace as an ML stack.
- Kubeflow and Weights & Biases for experiment tracking.
- TeamCity as a CI Automation system.
Voraussetzungen
We’ll be happy to have you on our team if you have:
- Experience in design, deployment, and support of production ML systems.
- A strong theoretical background in NLP and transformer-based approaches.
- Proficiency with modern deep learning frameworks such as PyTorch and common libraries for NLP.
- Experience in distributed training of multi-billion parameter models.
- Attention to detail in everything you do and great communication skills.
We’d be especially thrilled if you have experience with:
- LLM inference frameworks such as vLLM, DeepSpeed, TensorRT.
- LLM alignment techniques such as RLHF/RLAIF.
- MLOps tools and practices, including CI/CD for ML.
- K8s and Kubeflow.
- Scientific publications in the NLP field.
Wir bieten Ihnen
Empfohlene Jobs
Assistenz der Bauleitung (m/w/d)
Das ist zukünftig dein Job * Zentrale Schnittstelle für die Teams und Bewahrung des Überblicks über die operativen Prozesse * Administrative Datenerfassung und Nachhaltung von Fristen in allen Bereic…
MTLA für Blutuntersuchungen / Hämatologie
Einleitung Etabliertes, diagnostisches Labor im zentralen Berlin, sucht Unterstützung! Man wünscht sich hier eine*n MTLA für die unterschiedlichsten Blutuntersuchungen und Auswertungen. Sie test…
Senior Data Engineer (w/m/d)
Über Arsipa Die Arsipa GmbH ist eine deutschlandweit tätige Unternehmensgruppe in den Bereichen Arbeitssicherheit, Arbeitsmedizin und Umweltschutz. Mit über 850 Mitarbeitenden an rund 70 Standorte…
PKA (m/w/d) bei den Apotheken mit Herz - Lichtenberg Apotheke
PKA (m/w/d) - Lichtenberg Apotheke Apotheken mit Herz | Lichtenberg Apotheke (Berlin) Start: ab 01. Juni 2026 oder später Arbeitszeit: Vollzeit oder Teilzeit (30–39 Std./Woche) Werde Teil…
Senior Business Developer & Project Manager Power Plant Construction (m/w/d)
ACT NOW! ENGIE arbeitet in Deutschland an der Entwicklung eines diversifizierten Energiemixes, bei dem der Anteil der erneuerbaren Energien deutlich steigen soll. Mehr als 5.500 Mitarbeiter:innen a…
Sanitärinstallateur (m/w/d)
Sanitärinstallateur (m/w/d) Stellen-ID: 3119 Standort: Berlin Arbeitszeit: 35 Stunden pro Woche Beschäftigungsbeginn: 28.02.2026 Sie suchen einen neuen Job? Für unseren Kunden im techni…
Engineering Manager - Platform & DevEx (d/w/m)
Paymenttools hat es sich zur Aufgabe gemacht, die Zahlungslandschaft für Händler in Europa zu verändern. Mit mehr als 4,4 Milliarden Besuchern pro Jahr in unseren mehr als 15.000 REWE Group Märkten u…
Internal IT Lead - System Administration & Helpdesk (m/w/d)
Hilf uns dabei, Wissenschaft besser zu vernetzen. Das Web wurde ursprünglich geschaffen, um wissenschaftliche Zusammenarbeit zu fördern und Fortschritte für eine bessere Welt zu ermöglichen. Genau…
Helfer (m/w/d) - Elektro - Sichtkontrolle - ohne Erfahrung
Ab sofort suchen wir nach einem Produktionshelfer m/w/d für die Qualitätskontrolle von hergestellten Handys. Sie werden in einem 2-Schichtsystem arbeiten. Keine Erfahrung? Kein Problem! Bewerben Sie …
Facharzt HNO (m/w/d) | Berlin | Anstellung im Ärztehaus | Work-Life Balance
Unser Kunde, ein Medizinversorgungszentrum in Berlin, sucht zum nächstmöglichen Zeitpunkt einen Facharzt HNO (m/w/d) zur Unterstützung der HNO Praxis. Das Medizinversorgungszentrum beherbergt Praxen v…