Какие задачи выполнял джуниор по предобработке данных
Что проверяют
Вы действительно руками готовили данные или только слышали, как это делается. Интервьюер ищет понимание, зачем нужен каждый шаг и где он может навредить модели. Почти наверняка спросят: «Как вы заполняли пропуски и почему именно так?» и «На каких данных вы обучали скейлер?»
Как отвечать
Опишите проект в одном-двух предложениях (какие данные, для какой задачи), затем перечислите, что делали лично вы:
- загрузка и типы: чтение из SQL или файлов в pandas или Polars, приведение дат и чисел, проверка кодировок и форматов;
- пропуски: сначала выяснить, почему значения отсутствуют, затем медиана для скошенных распределений, отдельная категория для категориальных признаков, флаг «значение было пропущено»,
SimpleImputerвнутри пайплайна; - дубли и выбросы: дубли по бизнес-ключу, а не по всей строке; выбросы через IQR или правила предметной области, с отдельным решением, ошибка это или редкое, но реальное значение;
- категориальные признаки: one-hot для небольшого числа значений, target encoding со схемой кросс-валидации для высокой кардинальности, встроенная обработка в CatBoost;
- масштабирование:
StandardScalerдля линейных моделей, kNN и нейросетей; деревьям и бустингу оно не нужно; - сборка:
PipelineиColumnTransformerиз scikit-learn, чтобы одни и те же преобразования применялись на обучении и в проде.
Главная мысль, которую стоит проговорить вслух: все статистики (медиана, среднее для скейлера, частоты для кодирования) считаются только на обучающей выборке, иначе это утечка данных. Если опыт учебный, так и скажите и расскажите на примере своего ноутбука.
Где спотыкаются
Обучают скейлер или импьютер на всём датасете до разбиения. Метрика на валидации завышается, а интервьюер ловит это одним вопросом.
Говорят, что нормализация улучшает любую модель. Для случайного леса и бустинга она ничего не меняет, и это частая проверка на понимание.
Приписывают предобработке «рост точности на 15%» без базовой модели для сравнения. Лучше честно назвать метрику до и после, которую вы видели сами.