MlOps inference engineer

HeadHunter·Москва·4 дн назад

MlOps inference engineer

Ориентир по рынку≈ 250 000 – 425 000 ₽наша приблизительная оценка по 9 вакансиям этой роли и грейда, у работодателя вилка не указана

🏢 ОфисMiddleПолная занятость

≈ 250 000 – 425 000 ₽наша приблизительная оценка

Стоит ли откликаться

Стоит откликнуться, но спросите про деньги

Вместо вилки в объявлении «Достойный уровень заработной платы»: что это значит в цифрах, придётся выяснять. Вакансия к тому же свежая, откликаться лучше сейчас.

3 из 4 в норме

Вилку не назвали: какую сумму назвать вам и ниже какой не соглашаться

Деньги

Вместо вилки в объявлении «Достойный уровень заработной платы». Ориентир на созвон: столько платят в 9 похожих вакансиях ML Engineer уровня Middle.

платят меньше250 000 – 425 000 ₽ у половины таких вакансийплатят больше

Вилки нет

Живость

Опубликована 4 дня назад. Раньше не выкладывалась: вакансия новая, а свежие почти всегда живые.

Свежая

Описание

Обязанности: 5, требования: 15. Понятно, что за работа, ещё до отклика.

Обещают: ДМС со стоматологией, гибкий график, обучение за счёт компании, конференции за счёт компании и аккредитованная IT-компания
Не сказано: кто настоящий работодатель и как оформят

Подробно

Что требуют

ОбязательноMLOpsLLMKubernetesPythonLinuxCI/CD

ПлюсомCUDARAG

Надбавка к зарплате на этом уровне: Python +40%.

Ясно

Полный разбор в Pro

Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме

Сколько просить

Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга

Ваше резюме против требований

Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика

Спросить у работодателя

Что стоит спросить: вопросы именно к этой вакансии для первого созвона

Когда откликаться

Стоит ли спешить: за сколько дней эта компания обычно закрывает вакансии

30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro

Чем предстоит заниматься

Разработка и оптимизация инфраструктуры инференса LLM‑моделей

Performance-tunning llm моделей, поиск точек деградации или кейсов оптимизации на основе реальных логов

Помощь в capacity-планировании командам-заказчикам

Обеспечивать масштабируемость и надежность LLM‑serving инфраструктуры, выбор инструментов для инференса (sglang, vLLM, TensorRT‑LLM)

Разрабатывать и внедрять механизмы оптимизации стоимости и производительности GPU‑нагрузок

Наши требования

Глубокая экспертиза в архитектуре и инференсе больших языковых моделей

Понимание устройства моделей (трансформеры, BERT, LLM и т.д.)

Опыт построения высокопроизводительных LLM‑сервисов с использованием vLLM, TensorRT‑LLM/FasterTransformer/Triton Inference Server/etc

Знание методов оптимизации и ускорения LLM‑инференса: quantization (FP16, INT8, FP8), FlashAttention, paged attention, speculative decoding

Понимание нюансов распределенных систем и GPU‑коммуникации (NCCL, MPI, RDMA, InfiniBand)

Опыт в управлении кластером для LLM‑нагрузок (Kubernetes, Ray, KServe, Kubeflow) в облаке или на своем железе

Уверенное владение Python

Знание инструментов профилирования GPU (nvidia‑smi, Nsight, TensorRT Profiler)

Опыт участия в архитектурном дизайне крупных AI‑платформ

Продвинутые навыки работы в Linux, CI/CD и системах оркестрации моделей

Опыт построения LLM‑сервисов с потоковой генерацией токенов (streaming inference)

Знание особенностей служебных компонентов LLM‑пайплайна: токенизаторы, KV‑кэш, контекстное окно

Понимание внутренней архитектуры GPU (CUDA, cuDNN, Tensor Cores) для глубокой оптимизации производительности

Участие в проектах по оптимизации инфраструктуры для LLM‑инференса на уровне платформы (multi‑tenant LLM serving, dynamic batching)

Понимание принципов векторных баз данных (Milvus/Qdrant/FAISS/pgvector) для RAG‑решений и не только

Мы предлагаем

Возможность выбора формата работы: гибрид, удаленно или из офиса

Гибкий график

Корпоративный ДМС со стоматологией c первого месяца работы

Активная корпоративная жизнь: регулярно проводим неформальные оффлайн-встречи, возможность командировок из других городов

Хороший тренажерный зал в офисе и душ при нем, а также занятия йогой, настольный теннис и кикер

Кофе в кофемашинах, чай, печенье, фрукты на кухне

Электронная корпоративная библиотека

Молодой, профессиональный и дружный коллектив

Возможность профессионального развития, обучения за счет компании, участия в конференциях

Достойный уровень заработной платы

Совместную постановку целей и индивидуальный план развития

Дополнительно

Мы строим платформу LLM‑инференса, обслуживающую как внутренние, так и продакшен-сервисы. Наша миссия — обеспечить стабильный, масштабируемый и экономичный сервинг больших языковых моделей. Мы ищем инженера, который поможет в развитии инфраструктуры, оптимизацию latency и throughput, а также внедрение передовых подходов к распределенному LLM‑инференсу