СБЕР·Москва·18 авг.
Middle/Senior NLP/PLP Researcher (GigaCode R&D)
🏢 ОфисMiddleПолная занятость
Вилки нет, про деньги придётся договариваться с нуля.
Наша компания
Мы — команда GigaCode, разрабатываем и развиваем AI-ассистента для разработчика. Целимся конкурировать с Copilot, Cursor, Windsurf и прочими инструментами. Обучаем новые SOTA LLM по работе с кодом, как на уровне подсказок в IDE, так и на уровне редактирования целого проекта. Мы R&D команда, поэтому мы не только заимствуем лучшие решения из публикаций, но и ведем собственные исследования, публикуем статьи, open-source инструменты и датасеты.
О роли
Наши основные направления: претрейн кодовых моделей с нуля, пост-тренировка моделей (SFT/DPO/GRPO), обучение рассуждающих моделей, дообучение работе в агентном режиме и использованию инструментов, поиск в коде по текстовым запросам, ускорение инференса, дизайн бенчмарков, автоматическое создание датасетов проверяемых задач. Обучаем модели на картах H100, на кластере Кристофари, у нас много свободы
Чем предстоит заниматься
Дизайн экспериментов, формулировка гипотез для улучшения NLP/PLP моделей и алгоритмов, планирование исследовательских экспериментов с выводами
Проведение экспериментов, написание кода, подготовка датасетов и бенчмарков, проведение замеров и анализ результатов
Обучение моделей на кластере, включая обучение моделей с нуля и дообучение опенсорс моделей
Взаимодействие с прод-командой для интеграции моделей и алгоритмов в продакшн. Взаимодействуем с командой инженеров SberWorks
Ориентированность на SOTA, читать пейперы, быть в курсе последних исследований, предлагать новые смелые подходы и направления
Наши требования
Хорошие теоретические знания в DL, с упором в современный NLP и трансформеры
Умение формулировать эксперименты с научной строгостью, обосновывать их, проводить самостоятельно и делать выводы
Опыт обучения трансформеров
Опыт распределенного обучения моделей (deepspeed, fsdp, torch.distributed, accelerate)
Знание стандартных библиотек для DL и NLP (PyTorch и библиотеки Huggingface)
Увлеченность NLP/PLP и DL
Опыт менторинга стажеров и младших коллег
Опыт работы на похожей позиции
Участие в соревнованиях по ML
Сабмиты на лидербордах по NLP/PLP
Публикации уровня А/A, Q1
Обучение моделей на кластере
Опыт управления командой исследователей
Мы предлагаем
Комфортный современный офис рядом с м. Кутузовская
Гибридный формат работы
Ежегодный пересмотр зарплаты, годовая премия
Корпоративный спортзал и зоны отдыха
Система обучения для профессионального и карьерного развития
Расширенный полис ДМС с первого дня работы и страхование для семьи
Программа ипотеки для сотрудников
Подписка Прайм с возможностью совместного использования на трёх близких
Вознаграждение за рекомендацию друзей в команду Сбера
СБЕР
Москва
ГрейдMiddle
ЗанятостьПолная занятость
РегионРоссия
ФорматОфис
ИсточникСкрыто
Опубликовано18 авг.
Мы против мошенников на площадке: если тебя просят заплатить, продиктовать код или установить непонятное приложение, прекращай общение и сразу пиши нам (чат с основателем или форма обратной связи).