О проекте
Международный проект в области AI Security, связанный с разработкой сред, которые помогают LLM-моделям проходить обучение с подкреплением для задач, связанных с кибербезопасностью.
Эти среды будут содержать задания в различных областях кибербезопасности (пентестинг, реагирование на инциденты, эксплуатация, вредоносное ПО и т.д.), при этом цель — создавать достаточно сложные задачи, чтобы модель допускала ошибки, но которые при этом остаются решаемыми для профессиональных специалистов.
Важно: это не классическая позиция Pentester или Red Team Engineer. Основная задача специалиста — создавать сложные, но реалистичные и проверяемые security-сценарии, в которых LLM-модели совершают ошибки именно из-за недостатков в рассуждении (reasoning), а не из-за неоднозначных инструкций или ограничений среды.
Чем предстоит заниматься
•Проектировать security-сценарии для оценки и обучения LLM-моделей
•Создавать environments с использованием GitHub, Slack и других инструментов, встречающихся в реальной разработке
•Разрабатывать задачи, требующие сложного многошагового reasoning
•Моделировать реальные offensive security-сценарии (например, supply chain attacks, malicious pull requests, exploitation через GitHub Actions и другие современные техники)
•Проверять разработанные сценарии на нескольких frontier-моделях и анализировать причины их ошибок
•Формулировать ожидаемое поведение модели и описывать, почему конкретная ошибка считается reasoning failure
•Автоматизировать создание и проверку задач с использованием Python и других инструментов
Что мы ожидаем
•5+ лет практического опыта в Offensive Security, Application Security или Web Penetration Testing
•Глубокое понимание современных техник атак и поверхности атаки веб-приложений, API, GitHub, CI/CD и связанных экосистем
•Практический опыт проведения penetration testing и исследования безопасности приложений
•Опыт разработки на Python и/или JavaScript
•Навыки статического и динамического анализа кода (Python, JavaScript, Java)
•Умение самостоятельно исследовать новые направления, проектировать сложные сценарии и объяснять результаты своей работы
•Свободный английский язык (Upper-Intermediate / B2+)
•Практический опыт работы с современными LLM-моделями
•Понимание особенностей их работы, ограничений и типичных failure modes
•Интерес к AI Security и исследованию поведения LLM
Будет большим плюсом
•Практический опыт AI Red Teaming или LLM Security
•Опыт работы с Agentic AI, AI Agents или Model Evaluation
•Опыт исследований безопасности GitHub Actions, CI/CD, Supply Chain Security
•Сертификаты OSWE, eWPTXv2, OWEE, OSWA или аналогичные
•Публикации, write-ups, участие в Bug Bounty, HackTheBox, TryHackMe, Pwn2Own или других исследовательских проектах
Самая ценная компетенция здесь — не умение эксплуатировать очередную XSS, а способность придумать новый, не похожий на существующие сценарий, который сломает сильную модель.
Здесь важны исследовательское мышление, креативность и сп