Опыт работы в области MLOps/ML-engineer от 3 лет
Понимание ML-алгоритмов и жизненного цикла модели
От постановки задачи, экспериментов и версионирования до деплоя и мониторинга в продакшене
Знаете, как работают бустинги
Чем трансформеры (LLM) отличаются от классических сетей
Знаете, что такое эмбеддинги и для чего они применяются
Python и FastAPI
Уверенное владение асинхронным/многопоточным программированием (asyncio, threading, multiprocessing)
ООП с принципами SOLID
Проектирование поддерживаемых, документированных и высоконагруженных API
Работа с SQLAlchemy, асинхронными драйверами базы данных
Airflow: разработка и отладка DAG-ов для batch-инференса моделей
Контейнеризация и оркестрация: работа с Docker и Kubernetes — опыт эксплуатации production-кластеров, настройка лимитов
Работа с базами данных: SQL, NoSQL - владение реляционными БД для хранения структурированных данных
KServe / Seldon / TorchServe — опыт развертывания моделей на inference-платформах
Triton Inference Server — оптимизация инференса, динамическое батчирование, работа с разными бекендами (TensorRT, ONNX)
Опыт инференса больших языковых моделей (vLLM, llama), оптимизация GPU-памяти, continuous batching
Агенты: опыт проектирования агентных систем, работа с LangChain, LlamaIndex, LangGraph
Real-time системы: Kafka, RabbitMQ, streaming-инференс, Faust