Использовалась ли F1 мера или аналогичные метрики
Что проверяют
Проверяют не определение, а то, как вы выбирали метрику под задачу: почему F1, а не accuracy или ROC-AUC, и что за этим стояло в бизнесе. Следом почти наверняка спросят, какой был порог классификации и как вы его подбирали.
Как отвечать
Стройте ответ на своём проекте, по шагам:
- задача и баланс классов: что предсказывали и какая доля положительного класса. Например, мошеннических транзакций около процента, и модель, которая всегда отвечает «не мошенничество», набирает accuracy 99%;
- почему F1: это гармоническое среднее precision и recall,
2 * P * R / (P + R), и оно проседает, если низкая хотя бы одна из них. Если пропуск дороже ложной тревоги, честнее F-beta, например F2 черезfbeta_score(beta=2); - усреднение в многоклассовой задаче:
average="macro"даёт каждому классу равный вес и показывает провалы на редких,microиweightedтянутся к частым классам; - порог:
predict()режет по 0,5, а F1 от порога зависит. Подбирали поprecision_recall_curveна валидации, не на тесте; - с чем сравнивали: PR-AUC (
average_precision_score) на сильном дисбалансе информативнее ROC-AUC, который на редком классе выглядит оптимистично; - итог в деньгах или действиях: сколько случаев поймали, сколько ложных срабатываний пришлось разбирать людям.
Числа берите свои, из своего проекта, и будьте готовы объяснить каждое. Если опыта не было, так и скажите: в учебном проекте смотрели accuracy, а сейчас вы бы начали с доли классов и цены ошибок. Покажите это на пет-проекте или соревновании на Kaggle.
Где спотыкаются
Определяют F1 как обычное среднее precision и recall или путают precision с recall. На поведенческом вопросе это сразу обесценивает историю.
Не знают, что F1 не учитывает истинно отрицательные ответы. Если важно качество на обоих классах, одной F1 мало.
Рассказывают, что «F1 выросла с 0,6 до 0,9», но не могут объяснить, за счёт чего. Круглые впечатляющие цифры без механики звучат как выдуманные.