Cloud.ru·Удаленно·29 сент.
LlmOps
Ориентир по рынку≈ 341 000 – 450 000 ₽наша приблизительная оценка по 10 вакансиям этой роли и грейда, у работодателя вилка не указана
🌍 УдалённоMiddleПолная занятостьПродуктовая
Стоит ли откликаться
Стоит откликнуться, но спросите про деньги
Вместо вилки в объявлении «Конкурентный уровень дохода»: что это значит в цифрах, придётся выяснять. Вакансия живая, задачи расписаны.
3 из 4 в норме
Зарплата не указана: ваша цель, нижняя граница и фраза для первого созвона
Деньги
Вместо вилки в объявлении «Конкурентный уровень дохода». Ориентир на созвон: столько платят в 10 похожих вакансиях ML Engineer уровня Middle.
- Кроме оклада: премия. Размер не назван, а от него зависит доход за год.
Живость
Висит 20 дней, признаков фиктивного найма нет.
Описание
Расписано подробно: обязанностей 17, требований 20. Картина ясна до первого созвона.
- Обещают
- ДМС со стоматологией, гибкий график, компенсация спорта и аккредитованная IT-компания
- Известно
- высокие нагрузки
- Не сказано
- как оформят и из каких стран можно работать
Что требуют
ОбязательноLLMHugging FaceCUDAPythonDockerKubernetesLinuxGitCI/CD
ПлюсомNode.jsPyTorch
Надбавка к зарплате на этом уровне: Python +40%, Git +8%.
Полный разбор в Pro
Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме
Сколько просить
Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга
Ваше резюме против требований
Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика
Спросить у работодателя
Что стоит спросить: вопросы именно к этой вакансии для первого созвона
Когда откликаться
Стоит ли спешить: за сколько дней эта компания обычно закрывает вакансии
30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro
Чем предстоит заниматься
Готовить LLM и другие генеративные модели к промышленному запуску
Выбирать inference-движок с учетом архитектуры модели, оборудования и требований продукта
Создавать воспроизводимые контейнерные образы и конфигурации model serving
Настраивать tensor parallelism, pipeline parallelism, batching, KV cache, длину контекста и управление памятью
Подбирать методы квантизации и оптимизации с контролем влияния на качество модели
Определять оптимальное количество и тип GPU для целевых latency, throughput и нагрузки
Проводить профилирование, функциональные и нагрузочные тесты моделей
Находить узкие места на уровне модели, inference-движка, CUDA, GPU, сети и хранилища
Автоматизировать развертывание, обновление, откат и масштабирование моделей в Kubernetes
Настраивать метрики, логи и трассировку model-serving-сервисов
Формировать эталонные конфигурации и таблицы производительности поддерживаемых моделей
Контролировать потребление GPU, утилизацию памяти и стоимость inference
Участвовать в настройке маршрутизации, балансировки и отказоустойчивости сервисов моделей
Адаптировать конфигурации моделей для облачной и on-premise-инфраструктуры
Оценивать новые модели, inference-фреймворки, методы оптимизации и аппаратные платформы
Консультировать продуктовые команды по возможностям, ограничениям и инфраструктурным требованиям моделей
Взаимодействовать с командами разработки моделей, DevOps/SRE, Agents Space и частных инсталляций
Наши требования
Практический опыт запуска LLM или других крупных генеративных моделей в production либо на высоконагруженных стендах
Хорошее понимание архитектуры Transformer и жизненного цикла inference-запроса
Опыт работы хотя бы с одним современным inference-движком: vLLM, NVIDIA TensorRT-LLM, Triton Inference Server, Hugging Face TGI или аналогичным
Понимание tensor/pipeline parallelism, continuous batching, KV cache и методов управления памятью
Знание методов квантизации и их влияния на качество и производительность
Практический опыт работы с GPU, CUDA и инструментами диагностики
Уверенное владение Python
Опыт контейнеризации с Docker и развертывания сервисов в Kubernetes
Опыт проведения нагрузочных тестов и анализа latency, throughput, time to first token и inter-token latency
Опыт настройки мониторинга и профилирования inference-сервисов
Знание Linux, Git и основных принципов CI/CD
Умение документировать эксперименты и принимать решения на основании измеримых результатов
Опыт работы с NVIDIA GPU Operator, DCGM, MIG, NCCL и multi-node inference
Знание PyTorch и Hugging Face Transformers
Опыт оптимизации моделей с помощью TensorRT, ONNX или custom kernels
Опыт работы с Ray Serve, KServe, Seldon или аналогичными системами
Понимание особенностей MoE-моделей, speculative decoding и prefix caching
Опыт построения автоматизированного контура оценки качества LLM
Опыт эксплуатации моделей в on-premise или изолированных средах
Опыт расчета и оптимизации unit-экономики inference
Мы предлагаем
Оформление в соответствии с трудовым законодательством РФ
Конкурентный уровень дохода (оклад + годовой бонус)
ДМС со стоматологией и возможностью подключения к программе своих детей и родственников
Прозрачную систему мотивации, которая позволяет влиять на уровень дохода
Работу в команде профессионалов
Участие в создании инновационных продуктов
Гибкое начало рабочего дня, пятница - сокращенный рабочий день
Возможность работать удаленно
Офис в центре Москвы
Корпоративную мобильную связь
Льготную программу ипотечного и потребительского кредитования
Возможность вертикального и горизонтального роста
Бонусные программы от компаний партнеров
Возможность получения бонуса за закрытие вакансии по вашей рекомендации
Материальная помощь при рождении детей и др. семейных обстоятельствах
Обучение в Корпоративном университете за счёт компании
Участие в профильных конференциях в качестве спикера или слушателя
Корпоративная жизнь: спортивные комьюнити, клубы по интересам (настолки, интеллектуальные игры)
Технологии и навыки
Мы против мошенников на площадке: если тебя просят заплатить, продиктовать код или установить непонятное приложение, прекращай общение и сразу пиши нам (чат с основателем или форма обратной связи).