Эксперт по безопасности GenAI-моделей (LLM/MLM) и приложений
СБЕР
Москва
🏢 Офис
Junior
Полная занятость
Описание вакансии
Мы предлагаем возможность присоединиться к проектам в новом, динамично развивающемся направлении безопасности генеративного искусственного интеллекта (GenAI). Ваши задачи будут связанны с поиском и исследованием уязвимостей GenAI-моделей (LLM/MLM) и приложений с их использованием, в том числе AI-агентов. В дружном коллективе опытных экспертов вы будете участвовать в исследовании и развитии существующих методов и создании новых методов исследования и тестирования безопасности ИИ. Разнообразие архитектур и компонентов в ИИ решениях требует широкого кругозора от исследователя безопасности ИИ, а также умения быстро разбираться в новых инструментах и технологиях.
Вам предстоит
•анализ новых инцидентов и методов проведения атак, подготовка рекомендаций по улучшению защищенности
•разработка и создание практических примеров атак (Proof-of-Concept, PoC) для исследования и демонстрации уязвимостей ИИ
•улучшение имеющихся программных инструментов для тестирования моделей ИИ и приложений на основе ИИ, включая ИИ агентов, анализ устойчивости к новым методам атак
•оценка уровня защищенности существующих моделей ИИ и приложений в Банке и предложение улучшений
•участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.
Что для нас важно
•профиль и образование: законченное высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин, либо эквивалентный практический опыт
•программирование на Python, понимание и использование принципов «чистого кода», знание основных python библиотек, установка/настройка/применение, опыт использования ИИ python библиотек (например, torch, transformers, langchain), работа с huggingface
•технический (ИТ, ИБ) английский язык для беглого чтения и понимания статей (arXiv и аналоги), опыт разбора статей на английском языке
•технологии ИИ: знание основных задач и принципов машинного обучения, знание основных метрик оценки качества, общее понимание архитектуры, принципов работы и обучения LLM/MLM
•знание основ информационной безопасности, понимание принципов работы основных методов атаки и защиты LLM и AI агентов, знание актуального состояния фреймворков OWASP, MITRE, БДУ ФСТЭК, «Модель угроз кибербезопасности AI Сбер» и других, понимание их структуры и принципов использования в работе
•2+ лет релевантного опыта работы, включая опыт в академической среде.
Будет преимуществом
•участие в соревнованиях по атакам на модели/агентов GenAI
•опыт представления результатов своей работы широкой аудитории, публикации, репозитории git, kaggle и т.п.
Мы предлагаем
•комфортный современный офис
•офисный формат работы
•ежегодный пересмотр зарплаты, годовая премия
•корпоративный спортзал и зоны отдыха
•более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
•программа адаптации и помощь руководителя на старте
•расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
•гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
•подписка Прайм с возможностью совместного использования на трёх близких
•вознаграждение за рекомендацию друзей в команду Сбера.