Pretrain Data LLM Researcher (GigaChat)

Сбер·Москва (м. Кутузовская)·12 июня

Pretrain Data LLM Researcher (GigaChat)

Ориентир по рынку≈ 386 000 – 494 000 ₽наш грубый ориентир по 47 вакансиям этого грейда на рынке, без учёта специальности: у работодателя вилка не указана

≈ 4,7 тыс.–6 тыс. $

🔄 ГибридLeadПолная занятость

≈ 386 000 – 494 000 ₽наша приблизительная оценка

Стоит ли откликаться

Стоит откликнуться, но спросите про деньги

Вилку работодатель не назвал, но ориентир по рынку есть: он в строке «Деньги». Смущает только, что вакансия висит давно.

2 из 4 в норме

Висит давно: что спросить, чтобы не откликаться в пустоту

Деньги

Зарплату в объявлении не раскрыли. Грубый ориентир: столько платят в 47 вакансиях уровня Lead по всему рынку, без учёта специальности.

платят меньше386 000 – 494 000 ₽ у половины таких вакансийплатят больше

Вилки нет

Живость

Открыта уже 131 день. Источник её держит, но за таким сроком часто стоит трудный найм или набор в резерв.

Висит дольше 90% вакансий того же грейда
Зарплата не указана

Открыта давно

Описание

Обязанности: 14, требования: 8. Понятно, что за работа, ещё до отклика.

Известно: продукт делают с нуля
Не сказано: сколько дней в офисе

Подробно

Что требуют

ОбязательноLLMMLComputer VisionPythonPyTorchSparkAirflowKubernetesDataLensGitLab CI

Ясно

Полный разбор в Pro

Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме

Сколько просить

Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга

Ваше резюме против требований

Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика

Спросить у работодателя

10 вопросов именно к этой вакансии: что спросить на первом созвоне

Когда откликаться

Стоит ли спешить: за сколько дней Сбер обычно закрывает вакансии

30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro

Наша компания

Данные — главный рычаг качества фронтирной модели. Станьте тем, кто его держит GigaChat обучает одна из крупнейших ML-команд страны. Мы знаем то же, что знают OpenAI и Anthropic: качество следующей версии модели определяют претрейн-данные. Поэтому мы ищем не «инженера по датасетам», а исследователя, который будет владеть данными как рычагом роста модели — от стратегии сбора до измеримого прироста на бенчмарках.

О роли

Контур влияния короткий и прямой: ваша гипотеза → эксперимент → обучающий прогон → прирост метрик модели, которой пользуются миллионы людей.

Чем предстоит заниматься

Вести программу экспериментов с данными

Планировать, запускать и анализировать ablation-эксперименты: сравнивать версии смеси данных, фильтров и порядка обучения при фиксированном вычислительном бюджете. Вы автор эксперимента, а не исполнитель

Оптимизировать смесь и порядок использования данных

Отвечать на главный вопрос претрейна: какие данные, в какой пропорции и в каком порядке должна видеть модель. Применять интуицию scaling laws к распределению токенов

Измерять качество данных

Превращать расплывчатые «хорошие данные» в конкретные измеримые сигналы: классификаторы для отбора документов, насыщенных рассуждениями, кодом и знаниями

Курировать корпус на масштабе триллионов токенов

Проводить точную и fuzzy-дедупликацию, фильтрацию, очистку от утечек бенчмарков, html2text

Собирать данные для agentic-pretrain

Проводить поиск, сбор и генерацию траекторий использования инструментов, многошаговых рассуждений и взаимодействия со средой — чтобы агентные способности закладывались в модель уже на этапе претрейна, а не только в пост-обучении

Создавать рецепты подготовки синтетических данных

Генерировать синтетику под дефицитные способности модели (длинный контекст, рассуждения, код) — с количественной проверкой через эксперименты

Замыкать петлю: «данные → обучение → оценка»

Развивать контур бенчмарков и сетапов экспериментов для измерений, чтобы каждое изменение данных имело измеримый ответ

Наши требования

Нам нужны сильные исследователи, а не исполнители. Главное — умение самостоятельно задавать правильные вопросы, проектировать эксперименты и доводить гипотезы до измеримого результата

Опыт именно с LLM не обязателен, если у вас сильная экспериментальная практика в любой области ML — компьютерное зрение, рекомендательные системы, классический ML, наука — специфике больших языковых моделей мы научим

Сильные основы ML и статистики, культура контролируемого эксперимента: гипотеза → дизайн → измерение → вывод

Уверенный Python и опыт обучения моделей на PyTorch или аналогах

Самостоятельность в исследованиях: умение вести направление от вопроса до результата, а не ждать постановки задачи

Понимание цикла обучения LLM хотя бы на уровне теории: токенизация, scaling laws, влияние состава данных на качество

Знакомство с распределённой обработкой данных (Spark, Dask, Airflow, Kubernetes) и открытыми data-проектами (FineWeb, OLMo, Dolma) — как минимум представление о том, как это устроено

Не обязательно закрывать все вышеперечисленные пункты. Если вы сильный экспериментатор и хотите дорасти до владения всем циклом данных фронтирной модели — давайте поговорим

Мы предлагаем

Вычислительные ресурсы под ваши эксперименты

Один из крупнейших GPU-кластеров в стране

Ablation-эксперименты — это обучающие прогоны, и вы сможете запускать их регулярно, а не «раз в квартал, если повезёт»

Претрейн с нуля, а не дообучение чужих весов

Мы обучаем собственную модель с первого токена — это значит, что ваши решения по данным определяют фундамент модели, а не косметику поверх чужого претрейна. Сейчас мы учим модели размером 400–700B параметров, и у нас есть амбиции выйти на масштаб 1.5–2T

Опенсорс и мировая планка. Мы выкладываем модели в открытый доступ, и наша цель — достичь мирового уровня среди опенсорс-моделей. Ваша работа будет видна всему сообществу и будет сравниваться с лучшими открытыми моделями мира

Полная ориентация на результат

Минимум бюрократии, максимум ответственности и свободы. Работу меряем не количеством задач, а приростом модели на бенчмарках при том же бюджете. Подтверждённая гипотеза попадает в обучение следующей модели

Развитая инфраструктура

Зрелый стек для работы с данными и экспериментами: S3, YTsaurus, Airflow, DataLens, GitLab CI, wandb

Вы приходите не строить платформу с нуля, а исследовать — пайплайны, оркестрация, трекинг экспериментов и визуализация уже работают