Модель запускалась оффлайн или онлайн
Что проверяют
Дошла ли ваша модель до реального использования и понимаете ли вы, как её предсказания попадали к потребителю. По ответу интервьюер решает, куда копать дальше: в задержки и нагрузку или в расписание пересчёта и свежесть данных.
Как отвечать
Сначала уточните смысл: вопрос бывает о режиме инференса или об оценке модели (офлайн-метрики на отложенной выборке против онлайн A/B-теста). Если неясно, коротко ответьте на оба.
Каркас про инференс:
- режим: batch по расписанию, сервис по запросу, потоковая обработка событий или запуск на устройстве;
- инструменты: для batch Airflow или другой оркестратор, Spark, запись предсказаний в таблицу; для онлайна FastAPI, Triton или другой сервинг; для потока Kafka и обработчик событий;
- цифры: для batch частота пересчёта, объём и время прогона; для онлайна RPS, задержка p95 или p99, бюджет на запрос;
- потребитель: кто читал предсказания и что с ними делал, например скоринг в CRM у менеджеров или подмешивание в рекомендательную выдачу;
- почему такой выбор: если решение принимается раз в день, онлайн не нужен и дорог; если важен контекст текущей сессии, batch не справится.
Добавьте, как следили за моделью после запуска: дрейф признаков, распределение предсказаний, откат на прошлую версию.
Примеры и цифры нужны свои. Если модель в прод не попала, скажите прямо: она осталась на этапе исследования в ноутбуке, и объясните, какой режим выбрали бы и почему. Честный ответ с разумной схемой ценится выше выдуманного деплоя.
Где спотыкаются
Отвечают «онлайн, в облаке» без деталей. Следующий вопрос про p99 или про откат версии показывает, что сервисом занимались не вы.
Не упоминают training-serving skew: признаки при обучении считались в Spark по историческим данным, а в сервисе иначе, и качество в проде падает без видимых ошибок.
Выбирают онлайн, потому что это звучит солиднее, хотя задача решалась ночным пересчётом. Интервьюер спросит, зачем платить за постоянно работающий сервис, и на это нужен ответ.