Сбер·Москва·2 сент.
LLM Backend Engineer
Ориентир по рынку≈ 150 000 – 350 000 ₽наша приблизительная оценка по 54 вакансиям этой роли и грейда, у работодателя вилка не указана
🏢 ОфисMiddleПолная занятостьКорпорация
63
Хорошие условия
Навык редкий и дорогой (Docker), работа расписана подробно. Но вилки нет, про деньги придётся договариваться с нуля.
Чем предстоит заниматься
Разрабатывать и сопровождать бэкенд AI-агентов: оркестрация графов на LangGraph — состояния, ветвления, циклы, human-in-the-loop, политики retry и fallback
Проектировать и версионировать инструменты (tools) для агентов, интегрировать их с внутренними системами банка через REST/gRPC/MCP/A2A
Работать со сложными промптами, настраивать источники данных под RAG для эффективного поиска и оценивать ответы моделей на точность, релевантность и качество
Упаковывать сервисы в Docker и выводить их в промышленный Kubernetes
Проектировать и проводить эксперименты и A/B-тесты над промптами, пайплайнами и конфигурациями моделей
Развивать систему eval — формировать наборы задач и сценариев, определять метрики accuracy/relevance/robustness, автоматизировать прогон экспериментов и анализ результатов; принимать продуктовые решения на основе метрик
Заниматься тонкой настройкой и оптимизацией конфигураций моделей и агентов: сравнивать модели, версии и параметры inference, подбирать баланс качества, latency и стоимости, обеспечивать устойчивость и предсказуемость работы оркестраций в production
Выстраивать мониторинг: трассировку цепочек вызовов, метрики латентности, токенов и стоимости, алертинг
Вместе с командой решать сложные задачи внедрения AI, ревьюить код и держать высокую планку качества решений
Наши требования
Практический опыт работы с LLM: промпт-инжиниринг, сборка пайплайнов, интеграция моделей
LangGraph — опыт разработки агентных графов, вывода их в прод и отладки нетривиального поведения
Docker — сборка и оптимизация образов, multi-stage, работа с реестрами
Kubernetes — реальный опыт эксплуатации сервисов в кластере, а не только знакомство по документации
Python — глубокое понимание asyncio / multithreading / multiprocessing, понимание алгоритмов и структур данных для решения нетривиальных задач, продвинутые знания SQL: сложные JOIN, CTE, оконные функции, оптимизация запросов (EXPLAIN), работа с подзапросами
Понимание метрик качества и практический опыт A/B-тестирования ML-решений
Умение приоритизировать гипотезы, обоснованно выбирать модели, методы и алгоритмы и проектировать эффективные инженерные решения
Опыт поставки качественного ПО и владение циклом разработки целиком — от технического дизайна до мониторинга после выката
Понимание ландшафта LLM-провайдеров: как коммерческих, так и open-source моделей, разворачиваемых в собственном контуре
Знакомство с open-source инструментами для построения и оценки RAG: LangChain, LlamaIndex, Ragas, MLflow и подобными
Умение объяснять сложные технические вещи широкой аудитории стейкхолдеров
Опыт вывода в прод бизнес-критичных ML/AI-приложений
Опыт адаптации, дообучения и разворачивания open-source моделей в on-premise или закрытом контуре
MCP (Model Context Protocol), разработка MCP-серверов и проксирования инструментов
Мультиагентные архитектуры: маршрутизация, разделение ролей, общая память между агентами
Практический опыт работы с Redis (кэширование, брокер) и ClickHouse (или другими колоночными СУБД), опыт работы с очередями сообщений: Kafka и/или Celery
Личное портфолио pet-проектов по ML или вклад в open-source
Опыт работы в банке, финтехе или другом регулируемом домене
Опыт построения React-агентов на современных open-source решениях
Опыт использования Openclaw, Hermes, Ouroboros
Навыки работы с генеративными AI-моделями, опыт создания AI-агентов и использование их в работе будет преимуществом
Опыт использования GigaChat, Kandinsky и аналогов в продуктах
Инструментальное владение Ai для анализа, генерации и автоматизации
Мы предлагаем
Гибридный формат работы(2 дня в офисе, 3 дня дома), адрес офиса Кутузовский проспект 32
Ежегодный пересмотр зарплаты, квартальная и годовая премия
Корпоративный спортзал и зоны отдыха
Более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
Программа адаптации и помощь руководителя на старте
Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
Гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
Подписка Прайм с возможностью совместного использования на трёх близких
Вознаграждение за рекомендацию друзей в команду Сбера
Дополнительно
Мы ищем LLM инженеров в команду AI HUB БЛиК, перед которой стоят две задачи: агентизировать HR-процессы Банка с помощью AI-инструментов и внедрить их в платформу Пульс, сделав решения доступными каждому из сотрудников
Мы используем Python, LangGraph, Kubernetes, а также собственные и внешние модели. При этом, свободно сочетаем готовые инструменты с решениями, которые пишем сами. Нам важны системы, которые приносят организации измеримый результат
Вы будете ключевым специалистом в кросс-функциональной команде и будете работать бок о бок с backend, DS, Data и другими LLM-инженерами
Первый этап отбора на эту вакансию — общение с AI-рекрутером. После отклика ждите сообщение от него, диалог займёт примерно 10 минут. Задача AI-рекрутера — уточнить недостающие детали и ускорить рассмотрение вашей кандидатуры. AI-рекрутер только начинает свой путь, поэтому просим относиться с пониманием. Ваш опыт и участие помогут сделать его удобным и полезным для всех!