Python Backend / LLM Engineer (FastAPI, LangGraph, RAG)
Дабл Ап
Москва
до 300 000 RUR
🏢 Офис
Middle
Полная занятость
Описание вакансии
О проекте
2UP AI Platform — корпоративная AI SaaS-платформа для создания и развёртывания граф-агентов на базе LangGraph.
Платформа объединяет агентные сценарии, RAG, работу с несколькими LLM-провайдерами, корпоративные интеграции, мультитенантную архитектуру, потоковую генерацию ответов и инструменты наблюдаемости.
Мы ищем инженера, который сможет работать на стыке сильного Python backend и прикладной AI-разработки: развивать сервисы платформы, создавать LLM-агентов, улучшать RAG-пайплайны и доводить AI-функциональность до стабильного production.
Что предстоит делать
Backend и архитектура платформы
•Разрабатывать и развивать сервисы на Python и FastAPI.
•Проектировать API и внутреннюю архитектуру AI-платформы.
•Работать с асинхронным Python: asyncio, aiohttp, async-драйверы баз данных.
•Развивать pipeline обработки сообщений: инициализация, подготовка контекста, retrieval, вызов LLM, работа с инструментами, кэширование, метрики и форматирование ответа.
•Работать с MongoDB: модели данных, индексы, запросы, агрегации и оптимизация производительности.
•Использовать Redis для кэширования, хранения состояния и временных данных.
•Реализовывать WebSocket/SSE streaming ответов AI-агентов.
•Интегрировать корпоративные и внешние сервисы через API: Jira, Confluence, Google Workspace, S3, OAuth/OIDC и другие системы.
•Писать тесты, участвовать в code review и рефакторинге существующего кода.
LLM, агенты и RAG
•Разрабатывать AI-агентов и графовые workflow на LangGraph.
•Реализовывать StateGraph, tool calling, memory, управление контекстом, ветвлениями и обработкой ошибок.
•Создавать и улучшать RAG-пайплайны для работы с документами и корпоративными источниками знаний.
•Настраивать загрузку и обработку PDF, DOCX, PPTX, wiki, тикетов и других источников.
•Работать с чанкингом, метаданными, embeddings, векторным и гибридным поиском.
•Настраивать retrieval, reranking, фильтрацию и цитирование источников.
•Интегрировать разные LLM через OpenAI API, Anthropic API, OpenRouter, LiteLLM или аналогичные инструменты.
•Разрабатывать MCP-инструменты и подключать их к агентному фреймворку.
•Улучшать качество ответов и снижать количество галлюцинаций.
•Оптимизировать latency, стоимость запросов, размер контекста и выбор моделей.
Качество и эксплуатация
•Настраивать трассировку и наблюдаемость LLM-сценариев.
•Формировать наборы тестовых запросов и проводить регрессионные проверки.
•Использовать Langfuse, RAGAS, LLM-as-a-judge или аналогичные подходы.
•Участвовать в контейнеризации, CI/CD, мониторинге и логировании.
•Анализировать production-инциденты и повышать устойчивость AI-сервисов.
Обязательные требования
•От 3 лет коммерческого опыта backend-разработки на Python.
•Уверенное знание Python 3.11+.
•Практический опыт разработки production-сервисов на FastAPI, Flask, Django или аналогичных фреймворках.
•Опыт с асинхронным Python.
•Опыт работы с PostgreSQL и/или MongoDB.
•Практический опыт с Redis.
•Уверенная работа с Docker и docker-compose.
•Опыт интеграции внешних API.
•Опыт работы с LLM API и понимание особенностей LLM-систем.
•Практический опыт создания RAG-решений.
•Опыт с LangChain, LangGraph или аналогичными агентными фреймворками.
•Понимание embeddings, vector search, chunking, retrieval и reranking.
•Умение разбираться в существующем коде и развивать уже работающую систему.
Будет плюсом
•Опыт с Qdrant, pgvector, Pinecone, Weaviate или другими векторными хранилищами.
•Опыт с LightRAG, GraphRAG или agentic RAG.
•Практический опыт с Langfuse, LangSmith, RAGAS.
•Опыт разработки MCP-серверов и инструментов.
•Опыт с LiteLLM и несколькими LLM-провайдерами.
•Опыт с Keycloak, OAuth2, OIDC и JWT.
•Опыт разработки мультитенантных SaaS-систем.
•Опыт с S3/MinIO.
•Знание Prometheus, Grafana, Sentry, OpenTelemetry.
•Опыт с Kubernetes и CI/CD.
•Опыт self-hosted LLM, vLLM, Ollama или Hugging Face.
•Опыт fine-tuning моделей через LoRA/QLoRA.
Кого мы ищем
Нам подойдёт инженер, который
•не ограничивается прототипами и умеет доводить решения до production;
•одинаково уверенно чувствует себя в backend-разработке и AI-интеграциях;
•понимает, что качество AI-системы зависит не только от промпта, но и от архитектуры, данных, retrieval, наблюдаемости и обработки ошибок;
•умеет принимать технические решения с учётом качества, скорости, стоимости и дальнейшего масштабирования;
•готов работать с существующей кодовой базой, а не только создавать решения с нуля.
Условия
•Работа над собственной корпоративной AI-платформой.
•Удалённый или гибридный формат.
•Полная занятость.
•Возможность влиять на архитектуру продукта и технические решения.
•Задачи на стыке backend, LLM, RAG и AI Agents.
•Оформление и уровень дохода обсуждаются индивидуально.
Процесс отбора
•Короткое знакомство с HR.
•Техническое интервью с командой.
•Финальная встреча с руководителем.
