Руководитель направления Pretrain Efficiency

Сбер·Москва·25 сент.

Руководитель направления Pretrain Efficiency

Ориентир по рынку≈ 70 000 – 145 000 ₽наш грубый ориентир по 165 вакансиям этого грейда на рынке, без учёта специальности: у работодателя вилка не указана

🔄 ГибридБез опытаПолная занятостьКорпорация

≈ 70 000 – 145 000 ₽наша приблизительная оценка

Стоит ли откликаться

Стоит откликнуться, но спросите про деньги

Вилку работодатель не назвал, но ориентир по рынку есть: он в строке «Деньги». Объявление живое, и что за работа, понятно из текста.

3 из 4 в норме

Вилку не назвали: какую сумму назвать вам и ниже какой не соглашаться

Деньги

Сумму в объявлении не указали. Грубый ориентир: столько платят в 165 вакансиях без опыта по всему рынку, без учёта специальности.

платят меньше70 000 – 145 000 ₽ у половины таких вакансийплатят больше

Вилки нет

Живость

Открыта 24 дня, и признаков фиктивного найма у неё нет.

Живая

Описание

Обязанности: 16, требования: 12. Понятно, что за работа, ещё до отклика.

Не сказано: сколько дней в офисе

Подробно

Что требуют

ОбязательноPythonPyTorchLLM

ПлюсомCUDAKubernetes

Ясно

Полный разбор в Pro

Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме

Сколько просить

Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга

Ваше резюме против требований

Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика

Спросить у работодателя

Что стоит спросить: вопросы именно к этой вакансии для первого созвона

Когда откликаться

Стоит ли спешить: за сколько дней эта компания обычно закрывает вакансии

30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro

Чем предстоит заниматься

Определять, как должно развиваться направление эффективности RL: какие места критичны на данный момент, как измерять прогресс и что в первую очередь ограничивает скорость экспериментов

Вести направление целиком: от постановки гипотез и плана работ до внедрения результатов в регулярный цикл обучения

Принимать решения о приоритетах между ускорением rollout, оптимизацией обучающего цикла, инфраструктурой и системой оценки качества

Оптимизировать пайплайн online RL: генерация rollout'ов, сбор reward-сигналов, обновление весов модели, overlap этапов

Выстраивать эффективное взаимодействие между обучающим контуром и инференс-движком (vLLM / SGLang / собственные решения), добиваясь высокой утилизации и низкой задержки

Работать с весами и KV-cache: быстрое обновление весов между итерациями, снижение overhead синхронизаций, оптимизация памяти

Повышать стабильность больших RL-прогонов: контроль деградаций, автоматическое восстановление, диагностика сбоев

Развивать фреймворк обучения, поддерживающий RLHF / RLVR / PPO / GRPO / DPO и их вариации на масштабе

Делать так, чтобы новые RL-рецепты можно было быстро и безопасно запускать на больших моделях без ручной поддержки для каждого эксперимента

Обеспечивать воспроизводимость RL-экспериментов: версионирование данных, конфигов, чекпоинтов, reward-моделей

Самостоятельно писать и дорабатывать критичные части RL-пайплайна

Профилировать обучение на всех уровнях стека и находить узкие места в rollout, обучении и коммуникациях

Оставаться сильным инженером и исследователем, а не только руководителем: при необходимости самому разбирать узкие места в коде, экспериментах и взаимодействии с hardware

Руководить командой инженеров по эффективности RL, задавать высокую планку по качеству решений и перфу

Помогать команде превращать исследовательские идеи в работающие решения, которые можно встроить в основной цикл RL-обучения

Удерживать баланс между глубиной оптимизаций, инженерной надёжностью и практическим результатом для модели

Наши требования

Отличное владение Python и PyTorch (DDP/FSDP, distributed training)

Практический опыт с обучением LLM и понимание механики RL post-training: RLHF, RLVR, PPO / GRPO / DPO

Опыт оптимизации обучения и инференса LLM: профилирование, узкие места, параллелизм, mixed precision

Понимание архитектуры LLM: Transformer, attention (MHA/GQA/MLA), MoE и их влияние на rollout

Способность самостоятельно взять направление и довести его до результата: от постановки задач до внедрения в продакшн-RL

Опыт руководства сильной технической командой и готовность лично писать важные части системы руками

Опыт работы с современными RL-стэками: verl, TRL или собственные решения

Опыт работы с large-scale inference (vLLM, SGLang, TRT-LLM) и оптимизацией генерации

Опыт написания CUDA / Triton ядер и понимание особенностей NVIDIA GPU

Понимание коммуникационного стека больших обучений: NCCL, NVSHMEM, RDMA/IB

Опыт работы с кластерными системами: Slurm, Kubernetes, Ray или собственные оркестраторы

Публикации, open-source вклад или сильный прикладной research track record

Мы предлагаем

Сильные и сложные задачи на переднем крае развития русскоязычных LLM

Большую степень влияния на архитектуру решений, методы обучения и качество итоговой модели

Команду сильных инженеров и исследователей

Возможность совмещать управление направлением с глубокой технической работой

Конкурентную компенсацию, премии и расширенный соцпакет

Дополнительно

Мы развиваем GigaChat и ищем сильного руководителя направления RL Efficiency. Это роль для человека, который возьмёт на себя эффективность всего RL-контура: обучающий цикл, rollout, reward-сигналы, взаимодействие с инференсом и инфраструктура под онлайн-эксперименты

Цель направления — сделать так, чтобы online RL / RLHF / RLVR обучение GigaChat было максимально быстрым, стабильным и дешёвым: сократить time-to-feedback по экспериментам, поднять утилизацию кластера и упростить запуск новых RL-рецептов на масштабе