Middle devops инженер (LLM модели)

Сбер·Москва·30 сент.

Middle devops инженер (LLM модели)

Ориентир по рынку≈ 180 000 – 388 000 ₽наша приблизительная оценка по 22 вакансиям этой роли, у работодателя вилка не указана

🏢 ОфисJuniorПолная занятость

≈ 180 000 – 388 000 ₽наша приблизительная оценка

Стоит ли откликаться

Стоит откликнуться, но спросите про деньги

Сумму в объявлении не указали. Сколько платят за похожую работу, видно в разборе. Вакансия живая, задачи расписаны.

3 из 4 в норме

Зарплата не указана: ваша цель, нижняя граница и фраза для первого созвона

Деньги

Зарплату в объявлении не раскрыли. Ориентир на созвон: столько платят в 22 похожих вакансиях DevOps / SRE, без учёта уровня.

платят меньше180 000 – 388 000 ₽ у половины таких вакансийплатят больше

Кроме оклада: премия и пересмотр зарплаты. Размер не назван, а от него зависит доход за год.

Вилки нет

Живость

Висит 19 дней, признаков фиктивного найма нет. Повторных публикаций не было.

Живая

Описание

Расписано подробно: обязанностей 5, требований 12. Картина ясна до первого созвона.

Обещают: ДМС со стоматологией
Известно: высокие нагрузки

Подробно

Что требуют

ОбязательноLLMLinuxKubernetesNginxHAProxyBashPythonJenkinsCI/CDC++

ПлюсомCUDAElasticsearchRAG

Ясно

Полный разбор в Pro

Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме

Сколько просить

Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга

Ваше резюме против требований

Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика

Спросить у работодателя

Что стоит спросить: вопросы именно к этой вакансии для первого созвона

Когда откликаться

Стоит ли спешить: за сколько дней эта компания обычно закрывает вакансии

30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro

Наша компания

Мы - команда высококлассных инженеров, которые строят платформу для инференса и SFT opensource LLM. Используем продвинутые cutting edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token thoughput. Cейчас мы разрабатываем и оптимизируем инфраструктуру инференса LLM-моделей.

Чем предстоит заниматься

Разрабатывать и оптимизировать инфраструктуру инференса LLM-моделей для минимальной задержки и высокой пропускной способности внутренних приложений и сервисов

Обеспечивать масштабируемость и надежность LLM-serving инфраструктуры; выбирать и настраивать инструменты для инференса (sglang, vLLM, llama.cpp)

Разрабатывать механизмы разграничения доступов к API-сервисам моделей

Строить систему observability и мониторинга LLM-инференс

Собирать модели в сервисы и интерфейсы (FastAPI, Flask, Tornado, Streamlit, Chainlit и т.д.)

Наши требования

Опыт в роли devops от 2 лет

Уверенные знания Linux: сеть, storage, роли/пользователи, менеджмент процессов

Владение Kubernetes (Istio Service Mesh)

Опыт построения высокопроизводительных LLM-сервисов (sglang, vLLM)

Опыт настройки высоконагруженных прокси-серверов (nginx, Envoy, HAProxy): load balancing, rate limiting, SSL termination, health checks

Владение языками: Bash, Python, Groovy (Jenkins scripted)

Продвинутые навыки в CI/CD и оркестрации моделей

Опыт с AI-агентами

Понимание распределенных систем и GPU-коммуникации (NCCL, MPI, RDMA, InfiniBand)

Знание служебных компонентов LLM-пайплайна: токенизаторы, KV-cache, контекстное окно

Понимание внутренней архитектуры GPU (CUDA, cuDNN, Tensor Cores)

Опыт работы с векторными БД (Opensearch, Qdrant, FAISS, pgvector) для RAG и других задач

Мы предлагаем

Гибридный формат работы (2-3 дня в офисе)

Годовой бонус и ежегодный пересмотр

Расширенный ДМС с первого дня + стоматологию и льготное страхование для семьи

Корпоративный университет Сбера, внутреннюю образовательную платформу, участие в IT-конференциях

Офис на Кутузовской с зонами отдыха и спортзалом

Льготную ипотеку в Сбере, корпоративную пенсионную программу, подписку СберПрайм с возможностью совместного использования на трёх близких, скидки от партнеров и сервисов группы компаний