ML-разработчик в команду инфраструктуры претрейна Alice AI LLM

Ориентир по рынку≈ 296 000 – 386 000 ₽наша приблизительная оценка по 9 вакансиям этой роли и грейда, у работодателя вилка не указана

≈ 3,6 тыс.–4,7 тыс. $

🔄 ГибридMiddleПолная занятостьКорпорация

≈ 296 000 – 386 000 ₽наша приблизительная оценка

Стоит ли откликаться

Стоит откликнуться, но спросите про деньги

Сумму в объявлении не указали. Сколько платят за похожую работу, видно в разборе. Правда, вакансия открыта уже давно.

2 из 4 в норме

Открыта долго: как понять до отклика, ищут ли ещё

Наша компания

Мы занимаемся претрейном Alice AI LLM уже пять лет. За это время наша команда: Обучила большую часть языковых моделей, которые используются в Яндексе

О роли

Разработала фреймворк для распределённого обучения больших языковых моделей (используется для претрейна, алайнмента, даунстрим-применений, а также для обучения VLМ и SpeechGPT) Разработала технологию YaFSDP, которая ускоряет обучение моделей с 70 млрд параметров на 20–50%

Чем предстоит заниматься

Оптимизация обучений в контексте RL

В современных открытых решениях использование GPU не превышает 10%, что крайне неэффективно. Вам предстоит ускорить обучение в этой схеме

Построение более эффективных схем коммуникаций

Комбинация YaFSDP + YCCL + FP8 позволяет обучать модели, имеющие сотни миллиардов параметров, с максимальной производительностью. Но для больших моделей требуются более сложные схемы: Pipeline Parallelism, продвинутый Expert Parallelism, Context Parallelism

Выполнение низкоуровневых оптимизаций

Мы стремимся к тому, чтобы тензорные ядра были нагружены по максимуму. Вы будете проводить нетривиальные оптимизации на низком уровне с написанием кода на Triton, CUDA или CuTe DSL

Больше об ML в Яндексе — в канале Yandex for ML