МТС·Москва·3 дн назад
ML-инженер по продуктивизации LLM (инференс и поставка, MWS AI)
Ориентир по рынку≈ 250 000 – 425 000 ₽наша приблизительная оценка по 9 вакансиям этой роли и грейда, у работодателя вилка не указана
🏢 ОфисMiddleПолная занятость
Стоит ли откликаться
Стоит откликнуться, но спросите про деньги
Вилку работодатель не назвал, но ориентир по рынку есть: он в строке «Деньги». Вакансия к тому же свежая, откликаться лучше сейчас.
3 из 4 в норме
Вилку не назвали: какую сумму назвать вам и ниже какой не соглашаться
Деньги
Вилку работодатель не назвал. Ориентир на созвон: столько платят в 9 похожих вакансиях ML Engineer уровня Middle.
- Кроме оклада: премия. Размер не назван, а от него зависит доход за год.
Живость
Опубликована 3 дня назад. Раньше не выкладывалась: вакансия новая, а свежие почти всегда живые.
Описание
Обязанности: 7, требования: 14. Понятно, что за работа, ещё до отклика.
- Обещают
- ДМС со стоматологией, обучение за счёт компании, конференции за счёт компании и аккредитованная IT-компания
Что требуют
ОбязательноMLLLMAIPythonDockerKubernetesPyTorchHugging FaceComputer VisionC++
ПлюсомCUDA
Надбавка к зарплате на этом уровне: Python +40%.
Полный разбор в Pro
Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме
Сколько просить
Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга
Ваше резюме против требований
Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика
Спросить у работодателя
Что стоит спросить: вопросы именно к этой вакансии для первого созвона
Когда откликаться
Стоит ли спешить: за сколько дней эта компания обычно закрывает вакансии
30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro
Наша компания
MWS AI – это часть экосистемы МТС Web Services, где создаются AI-решения будущего. Голосовые ассистенты и чат-боты могут ответить на любой вопрос клиента, а компьютерное зрение \- распознавать лица и эмоции. Мы объединили сильных разработчиков, самый мощный суперкомпьютер, и прорывные идеи, чтобы делать жизнь людей комфортнее и безопаснее и помогать бизнесу. Мы ищем опытного инженера, который доводит большие языковые модели от исследовательского чекпоинта до промышленной поставки: ускоряет инференс, квантует, измеряет качество и скорость, собирает поставку для клиентов и внутренних продуктов.
Чем предстоит заниматься
Квантование моделей (GPTQ, W8A8, FP8 и др.) и сравнение качества до и после
Ускорение инференса: speculative decoding, MTP, кэширование префиксов, логит-процессоры
Выбор и настройка рантаймов инференса (vLLM, SGLang, TensorRT-LLM, llama.cpp / MLX — по задаче)
Нагрузочное тестирование и методология замера скорости: throughput, latency, длинный контекст
Автоматическая оценка моделей на бенчмарках и сравнение с open-source моделями (Qwen, GLM и др.)
Подготовка релизов моделей: чекпоинт в S3, Docker-образ, поставка в продукты и клиентам
Разбор инцидентов у пользователей (качество, зацикливания, ошибки генерации)
Наши требования
Python на уровне промышленной разработки
Практический опыт инференса LLM хотя бы в одном рантайме (vLLM, SGLang, TensorRT-LLM или аналог)
Понимание квантования и его влияния на качество
Опыт замеров производительности моделей на GPU (latency, throughput, утилизация)
Docker; базовое понимание того, как модель запускается в Kubernetes
PyTorch, Hugging Face Transformers
Опыт оптимизации LLM — очень приветствуется: ускорение, сжатие, спарсификация моделей
CUDA и C++: написание и оптимизация ядер, чтобы самостоятельно реализовывать низкоуровневые оптимизации (например, спарсификацию модели)
Speculative decoding, MTP, кастомные логит-процессоры
Triton Inference Server
ClearML или другой трекер экспериментов; автоматизация оценки
Работа с длинным контекстом и reasoning-режимами
Опыт поставки моделей во внешний контур клиента
Речевые модели (TTS, ASR)
Мы предлагаем
Гибридный формат работы
Оклад + квартальные и годовые бонусы
Комфортный офис в 10 минутах пешком от метро Таганская
ДМС со стоматологией, страхование при поездках за рубеж, страхование жизни
Участие в конференциях и митапах, обучение за счет компании
Бесплатная мобильная связь
Специальные предложения от партнеров и друзей МТС
