IT_One·Удаленно·29 сент.
Инженер данных
Ориентир по рынку≈ 135 000 – 300 000 ₽наш грубый ориентир по 190 вакансиям этого грейда на рынке, без учёта специальности: у работодателя вилка не указана
🌍 УдалённоMiddleПолная занятостьАутсорсАнглийский A2
Стоит ли откликаться
Стоит откликнуться, но спросите про деньги
Сумму в объявлении не указали. Сколько платят за похожую работу, видно в разборе. Вакансия живая, задачи расписаны.
3 из 4 в норме
Зарплата не указана: ваша цель, нижняя граница и фраза для первого созвона
Деньги
Зарплату в объявлении не раскрыли. Грубый ориентир: столько платят в 190 вакансиях уровня Middle по всему рынку, без учёта специальности.
Живость
Висит 20 дней, признаков фиктивного найма нет.
Описание
Расписано подробно: обязанностей 24, требований 22. Картина ясна до первого созвона.
- Известно
- английский A2
- Не сказано
- как оформят, из каких стран можно работать и часовой пояс команды
Что требуют
ОбязательноSQLGreenplumVaultSparkPythonJavaAirflowGitCI/CDOracle
Надбавка к зарплате на этом уровне: Python +40%, SQL +20%, Git +8%.
Полный разбор в Pro
Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме
Сколько просить
Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга
Ваше резюме против требований
Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика
Спросить у работодателя
Что стоит спросить: вопросы именно к этой вакансии для первого созвона
Когда откликаться
Стоит ли спешить: за сколько дней эта компания обычно закрывает вакансии
30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro
Чем предстоит заниматься
Самостоятельно реализовывать и сопровождать пайплайны для критичных бизнес-процессов
Работать с задачами повышенной сложности без постоянного контроля руководителя
Понимать полный цикл поставки данных: источник → загрузка → трансформация → контроль качества → публикация витрины → эксплуатация → исправление дефектов
Участвовать в постановке загрузок на регулярное расписание и согласовывать технические решения с аналитиками и владельцами витрин
Разрабатывать и поддерживать ETL/ELT-процессы в Airflow или аналогичном оркестраторе
Вносить улучшения в существующие ETL-цепочки: повышать стабильность, снижать время загрузки, устранять избыточные шаги и повторяющиеся ручные операции
Уверенно работать с Greenplum или другими MPP-СУБД: сложный SQL, оптимизация запросов, индексы, партиционирование, анализ причин деградации производительности
Понимать нормализацию, денормализацию, схемы звезда/снежинка и принципы Data Vault 2.0
Участвовать в проектировании слоев КХД, витрин и интеграций
Реализовывать пайплайны с учетом требований к надежности, идемпотентности, повторному запуску и полноте загрузки данных
Иметь практический опыт работы с Apache Spark: Spark SQL, DataFrame API, пакетная обработка
Применять базовые приемы оптимизации: партиционирование, кэширование, broadcast join
Диагностировать типовые проблемы производительности в Spark-задачах
Выполнять сверки между источниками, слоями КХД и витринами
Внедрять SQL-проверки полноты, согласованности и корректности данных
Отслеживать стабильность загрузок, анализировать логи, участвовать в расследовании инцидентов и устранении причин дефектов
Настраивать базовый мониторинг загрузок, логи и оповещения по критичным сбоям
Участвовать в автоматизации отладки пайплайнов
Собирать статистику сроков построения витрин и помогать оценивать возможность SLA по загрузкам и отчетности
Писать тесты и сверки для ETL-процессов, контролировать полноту, корректность и своевременность загрузок
Документировать потоки данных, правила трансформации, зависимости и эксплуатационные особенности
Работать в связке с аналитиками данных, тестировщиками, архитектором и владельцами витрин
Следовать архитектурным стандартам и документировать технические решения
Понимать подходы к миграции данных между DWH-платформами (например, Oracle → Greenplum или сопоставимые переходы)
Наши требования
Опыт работы в инженерии данных или ETL-разработке не менее 3 лет, включая промышленную разработку банковских КХД, витрин и интеграционных потоков
Опыт работы в промышленном ETL-ландшафте: регулярные загрузки, расписания, зависимости, инциденты и сопровождение витрин после внедрения
Понимание полного цикла поставки данных
Уверенное владение SQL: сложные запросы, оптимизация, индексы, партиционирование
Глубокое понимание Greenplum (или других MPP-СУБД): распределение, партиционирование, планы выполнения, анализ деградации производительности
Понимание схем звезда/снежинка и принципов Data Vault 2.0
Практический опыт Apache Spark: Spark SQL, DataFrame API, пакетная обработка
Базовые приемы оптимизации в Spark: партиционирование, кэширование, broadcast join, диагностика проблем производительности
Python и/или Java для доработки пайплайнов, утилит, проверок качества и автоматизации регламентных операций
Airflow (или аналогичный оркестратор) — разработка и поддержка ETL/ELT-процессов
Git и участие в CI/CD-процессах
Liquibase (или аналоги) для управления схемами и миграциями данных
Понимание подходов к миграции между DWH-платформами (Oracle → Greenplum и др.)
Аналитическое мышление
Умение объяснять сложные вещи простым языком
Умение структурировать информацию и фиксировать договоренности по итогам встреч
Навыки письменной коммуникации: понятные комментарии, статусы, описания решений, инструкции и документация
Ответственность за корректность результатов
Опыт работы с OpenMetadata или другими каталогами данных
Опыт миграции данных между DWH-платформами
Участие в настройке мониторинга и алертинга для ETL-пайплайнов
Понимание SLA по загрузкам и отчетности
Дополнительно
Мы ищем инженера данных для работы в крупном банке с промышленным хранилищем данных и большими объемами финансовых и операционных данных. Вы будете разрабатывать и сопровождать ETL/ELT-пайплайны, обеспечивать надежность загрузок и качество данных на всех этапах: от источников до витрин и BI-отчетности
Технологический стек