Какие задачи решал с рекомендательными системами и классическим машинным обучением
Что проверяют
Был ли у вас полный цикл: от постановки задачи до модели в работе и измеренного эффекта. Интервьюер слушает, как вы выбирали метрику и проверяли результат. Следом почти всегда спрашивают, как считали офлайн-метрики и был ли A/B-тест.
Как отвечать
Нужны ваши реальные проекты, по одному на каждую тему. Каркас для каждого: бизнес-задача, данные, бейзлайн, модель, валидация, как внедрили, чем измерили эффект. Цифры только свои и с пояснением, как получены.
Для рекомендаций покажите, что понимаете устройство:
- бейзлайн: популярное за период. Его часто трудно обогнать, и без него любые цифры бессмысленны;
- двухэтапная схема: генерация кандидатов (ALS из
implicit, item-kNN, эмбеддинги) и ранжирование бустингом, напримерCatBoostсYetiRankили LightGBM сlambdarank; - метрики: офлайн
Recall@k,NDCG@k,MAP@k, плюс покрытие каталога и новизна, иначе модель рекомендует всем одни и те же хиты; - холодный старт: что показывали новым пользователям и новым товарам.
Для классического ML типовые задачи: отток, кредитный скоринг, прогноз спроса. Здесь говорите про признаки, разбиение по времени, работу с дисбалансом, выбор порога под бизнес-стоимость ошибок, калибровку вероятностей и мониторинг дрейфа после выката.
Если опыта с рекомендациями нет, не выдумывайте. Скажите, что в работе были задачи классификации, а рекомендации вы делали на открытом датасете вроде MovieLens, и расскажите, что там узнали: например, почему случайное разбиение завышает метрики.
Где спотыкаются
Приписывают модели бизнес-результат. Модель оттока ничего не сокращает сама, отток снижают удерживающие акции, и их эффект видно только в эксперименте с контрольной группой.
Делят данные случайно. В рекомендациях и прогнозах это утечка из будущего, валидировать нужно по времени.
Хвалятся ROC-AUC на задаче с одним процентом положительного класса. Честнее показать PR-AUC или precision и recall на рабочем пороге.