Yadro·Москва, Нижний Новгород·28 янв.
Senior LLM Inference Backend Engineer
Ориентир по рынку≈ 275 000 – 400 000 ₽наша приблизительная оценка по 34 вакансиям этой роли и грейда, у работодателя вилка не указана
🔄 ГибридSeniorПолная занятостьПродуктовая
Стоит ли откликаться
Сначала уточните детали
Висит дольше, чем обычно закрываются такие вакансии: сначала убедитесь, что найм ещё идёт.
2 из 4 в норме
Висит давно: что спросить, чтобы не откликаться в пустоту
Деньги
Зарплату в объявлении не раскрыли. Ориентир на созвон: столько платят в 34 похожих вакансиях Backend Developer уровня Senior.
Живость
Открыта дольше обычного для таких вакансий. Что на это указывает:
- Висит 264 дня
- Висит дольше 90% вакансий того же грейда
- У компании 77 из 121 вакансий висят дольше обычного
- Зарплата не указана
- Компания обычно держит вакансии открытыми 667 дней
Описание
Обязанности: 22, требования: 4. Понятно, что за работа, ещё до отклика.
- Известно
- высокие нагрузки
- Не сказано
- сколько дней в офисе
Что требуют
ОбязательноLLMPythonFastAPI
Надбавка к зарплате на этом уровне: LLM +43%, Python +22%.
Полный разбор в Pro
Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме
Сколько просить
Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга
Ваше резюме против требований
Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика
Спросить у работодателя
Что стоит спросить: вопросы именно к этой вакансии для первого созвона
Когда откликаться
Стоит ли спешить: за сколько дней эта компания обычно закрывает вакансии
30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro
Наша компания
Наша команда обеспечивает доступность нейросетей для тысяч пользователей одновременно. Мы сопровождаем и улучшаем production-платформу для хостинга LLM: ее надежность, производительность и масштабирование. Кроме того, мы создаём прикладные AI-продукты на базе LLM. Ищем опытного инженера, которому интересно работать и с платформенной частью, и с продуктовой.
Чем предстоит заниматься
Инфраструктура и высоконагруженный инференс (Platform Engineering)
Проектирование и поддержка GPU-кластера инференса (Nvidia) для десятков тысяч пользователей: скалирование, балансировка и приоритизация запросов, пользовательские лимиты
Оптимизация производительности: кэширование, батчинг, etc
Надежность и observability: обеспечение SLA и предотвращение регрессий
Оценка и внедрение новых LLM
Продуктовая разработка (LLM Application)
Разработка AI-сервисов: AI Code Assistant (Co-Pilot), AI Chat, AI Code Review
Проектирование пайплайнов автоматизаций: tool/function calling, обработка ошибок, управление контекстом/состоянием
Интеграции: встраивание AI-сервисов в корпоративную среду (API, БД, legacy-системы)
Исследования и прототипирование (R&D)
Проведение экспериментов, создание MVP и выстраивание пути доведения до продакшена
Исследование новых технологий и подходов для улучшения продуктов
Экспертиза в Python & Backend
Опыт разработки на Python (5+ лет), знание стандартов: typing, асинхронность, паттерны проектирования
Опыт создания высоконагруженных API (FastAPI или аналоги), работа с очередями, воркерами и фоновыми задачами
Архитектура и надежность (Production)
Опыт построения gateway/router, управление ключами, маршрутизация, пользовательские лимиты
Опыт поддержки высоконагруженных сервисов в продакшене: стабильность контрактов, обработка ошибок
Глубокие знания LLM & Inference
Опыт работы с инструментами инференса (vLLM, SGLang, OpenAI API), понимание их внутренней работы
Опыт настройки инференса под highload: latency/throughput, управление GPU-ресурсами
Опыт построения решений с tool/function calling: MCP, guardrails, борьба с галлюцинациями
Наши требования
Насмотренность в применении AI агентов, мультиагентных систем, оркестрации инструментов
Понимание основных метрик качества LLM решений, опыт проведения A/B-тестов и офлайн-оценки: eval-сеты, human eval, etc
Опыт Lua-разработки
Опыт разработки и интеграции MCP
Мы против мошенников на площадке: если тебя просят заплатить, продиктовать код или установить непонятное приложение, прекращай общение и сразу пиши нам (чат с основателем или форма обратной связи).