Чем предстоит заниматься
Дообучение VLM для вождения
Вы будете дообучать vision-language-модель предсказывать траектории, добавлять ризонинг, чтобы повысить интерпретируемость действий, и расширять знания в области вождения и понимания дорожной обстановки, разметки, знаков, сигналов светофоров, действий других автомобилей и пешеходов. Также вы будете вносить архитектурные изменения: добавлять энкодеры для новых модальностей (например, карты и лидары) и реализовывать методы для ускорения инференса модели — от action modality injection и спекулятивного декодинга до flow matching head
Развитие RL-подходов для VLM
Вы будете разрабатывать и внедрять передовые методы RL, чтобы научить VLM принимать более безопасные, эффективные и понятные человеку решения. Вам предстоит решать нетривиальные задачи: создавать устойчивые reward-функции, бороться с reward hacking и выстраивать масштабируемую систему обучения в симуляции
Имплементация SOTA-решений
Вы будете следить за современными подходами, изучать актуальные статьи и внедрять SOTA-решения, а также быстро проверять гипотезы
Больше об ML в Яндексе — в канале Yandex for ML