NLP-разработчик в команду качества претрейна Alice LLM

Ориентир по рынку≈ 250 000 – 425 000 ₽наша приблизительная оценка по 9 вакансиям этой роли и грейда, у работодателя вилка не указана

🌍 УдалённоMiddleПолная занятостьКорпорация

≈ 250 000 – 425 000 ₽наша приблизительная оценка

Стоит ли откликаться

Стоит откликнуться, но спросите про деньги

Сумму в объявлении не указали. Сколько платят за похожую работу, видно в разборе. Вакансия живая, задачи расписаны.

3 из 4 в норме

Зарплата не указана: ваша цель, нижняя граница и фраза для первого созвона

Наша компания

Привет! Меня зовут Дмитрий Лунин, я руковожу командой данных, которая отвечает за претрейн LLM в Алисе. Претрейн — это самый масштабный этап обучения LLM, именно на нём закладывается фундамент возможностей модели. Конечный продукт нашей команды — мультимодальные претрейн-модели, которые после этапа элайнмента становятся основой для Alice AI, а также используются в 25+ других сервисах Яндекса. Если вам интересно узнать подробнее про вызовы, которые есть на этапе претрейна сейчас, — буду рад познакомиться. Дмитрий Лунин

О роли

Руководитель команды данных Наша цель — создавать модели, которые смогут конкурировать с лучшими LLM на рынке, такими как Claude или Gemini. Нам необходимо поддерживать превосходство над моделями, доступными на рынке РФ, и добиваться паритета с лучшими моделями на запросах, распространённых среди наших пользователей. Таким образом мы предоставляем российским пользователям доступ к LLM хорошего кач

Чем предстоит заниматься

Сбор данных

Один из способов сбора датасета — найти хорошие источники данных и путём их обработки и фильтрации составить качественный датасет. Яндекс — это поисковая компания, и у нас, как правило, есть готовые инструменты для скачивания и обхода веб-страниц. В таком подходе основная часть работы состоит в том, чтобы придумать, как из большого массива данных выделить именно то, что нужно для решения задачи

Генерация синтетических данных

Сейчас для нас это основной способ получения сложных датасетов — например, для кода или математики. В этом подходе важно найти способ составления большого количества разнообразных интересных задач, а затем — разработать эффективный пайплайн их решения при помощи LLM. Иногда для этого нужно обучить специализированную модель для решения тех или иных задач

Разработка экспериментальных сетапов

В работе над претрейном важно правильно выбрать схему проведения экспериментов — так, чтобы их результаты отражали картину на больших обучениях. Поэтому нужно работать над подбором параметров сетапа, исследовать scaling laws, взаимодействовать с аналитиками по вопросам составления бенчмарков

Работа над релизными обучениями

Здесь бывает нужно выбрать правильную схему, этапы обучения и его параметры. Есть также ряд задач, связанных с автоматизацией процесса постановки релизов и их контролем

Больше об ML в Яндексе — в канале Yandex for ML

Наши требования

Хорошо знаете Python — для разработки мы применяем в первую очередь его. Будет плюсом знание C++: некоторые инструменты в Яндексе написаны на нём

Хорошо ориентируетесь в ML, можете применять научный подход к постановке экспериментов и интерпретации результатов

Хорошо понимаете устройство LLM, ориентируетесь в процессе обучения, прочитали техрепорты ключевых опенсорс-моделей, таких как DeepSeek и Qwen

Применяли LLM для решения каких-либо задач, понимаете, как собрать пайплайн на основе LLM для решения той или иной практической задачи

Мы понимаем, что на рынке совсем немного компаний, в которых можно заниматься полномасштабными обучениями LLM, поэтому не требуем такого опыта. Тем не менее будет плюсом коммерческий опыт обучения, файнтюнинга, или алайна LLM