Какой бустинг использовался в проекте
Что проверяют
Выбирали ли вы алгоритм осознанно и понимаете ли, чем реализации отличаются друг от друга. Название библиотеки знает каждый, интереснее, почему именно она. Следом обычно спрашивают про ключевые гиперпараметры и про то, как вы боролись с переобучением.
Как отвечать
Начните с задачи и данных: тип задачи, объём, сколько категориальных признаков, какая метрика. Затем назовите библиотеку и причину выбора:
- CatBoost: сильный вариант по умолчанию при большом числе категориальных признаков. Кодирует их сам через упорядоченные target-статистики, строит симметричные деревья и часто даёт хорошее качество почти без тюнинга;
- LightGBM: быстрый на больших табличных данных за счёт гистограмм и роста деревьев по листьям. Главный параметр сложности
num_leaves, на маленьком датасете легко переобучается; - XGBoost: растит деревья по уровням, для скорости использует гистограммный метод
hist, категориальные признаки поддерживает черезenable_categorical=True; HistGradientBoostingClassifierиз sklearn: когда нужен бустинг без лишних зависимостей и объём умеренный.
Дальше процесс: базовый уровень (логистическая регрессия или константный прогноз), валидация с учётом времени, если данные временные, ранняя остановка по отложенной выборке, подбор learning_rate, глубины и регуляризации через Optuna. Для несбалансированных классов упомяните scale_pos_weight или веса классов и PR-AUC вместо accuracy. Интерпретацию лучше показывать через SHAP, а не только встроенную важность признаков.
Результат называйте своими цифрами и в метрике задачи. Если бустинг вы пробовали только в учебных проектах, так и скажите и объясните, что с чем сравнивали.
Где спотыкаются
Не могут объяснить выбор: «взял XGBoost, потому что все берут». Регуляризация и обработка пропусков есть во всех трёх библиотеках, это не аргумент в пользу одной.
Хвастаются приростом accuracy на задаче оттока, где положительных примеров мало. Такая метрика высокая и у модели, которая всегда предсказывает «не уйдёт».
Делают target encoding на всей выборке до разбиения и получают утечку, а потом удивляются падению качества на проде.