АО "СберТех"·Москва·31 июля
Middle AI Guardrails Developer (Platform V AI Guardrails)
Ориентир по рынку≈ 150 000 – 325 000 ₽наша приблизительная оценка по 101 вакансии этой роли и грейда, у работодателя вилка не указана
🏢 ОфисMiddleПолная занятостьКорпорация
Стоит ли откликаться
Стоит откликнуться, но спросите про деньги
Вилку работодатель не назвал, но ориентир по рынку есть: он в строке «Деньги». Смущает только, что вакансия висит давно.
2 из 4 в норме
Висит давно: что спросить, чтобы не откликаться в пустоту
Деньги
Вилку работодатель не назвал. Ориентир на созвон: столько платят в 101 похожей вакансии Разработчик уровня Middle.
- Кроме оклада: премия и пересмотр зарплаты. Размер не назван, а от него зависит доход за год.
Живость
Открыта уже 80 дней. Источник её держит, но за таким сроком часто стоит трудный найм или набор в резерв.
- Зарплата не указана
Описание
Обязанности: 7, требования: 15. Понятно, что за работа, ещё до отклика.
- Обещают
- аккредитованная IT-компания и ДМС
Что требуют
ОбязательноAIMLPythonLLMNLPPyTorchHugging FaceLangChainCI/CDDocker
ПлюсомRAGFastAPIKubernetes
Надбавка к зарплате на этом уровне: Python +40%.
Полный разбор в Pro
Это короткий разбор. В Pro полный: под эту вакансию и ваше резюме
Сколько просить
Не продешевите: сумма под ваше резюме, нижняя граница и готовые фразы для торга
Ваше резюме против требований
Пройдёт ли ваше резюме фильтр: что совпало с требованиями и что дописать до отклика
Спросить у работодателя
Что стоит спросить: вопросы именно к этой вакансии для первого созвона
Когда откликаться
Стоит ли спешить: за сколько дней эта компания обычно закрывает вакансии
30 дней Pro: полный разбор каждой вакансииЧто ещё входит в Pro
Наша компания
Мы разрабатываем системы безопасности и контроля для LLM и генеративных AI-моделей. Наша цель — создавать надёжные guardrails, которые предотвращают нежелательное поведение моделей, токсичный контент, jailbreak-атаки, утечки данных и нарушения политик, сохраняя при этом полезность и качество ответов. Мы ищем сильного специалиста в команду разработки. Человек будет не просто писать код, а глубоко понимать предметную область: проектировать и развивать защитные механизмы вокруг LLM, проводить активную аналитику собственного решения и решений конкурентов, выявлять слабые места и предлагать улучшен
Чем предстоит заниматься
Разрабатывать и улучшать компоненты AI Guardrails: фильтры контента, системы детекции токсичности, bias, PII, jailbreak-попыток, prompt injection и других рисков
Интегрировать и дообучать модели классификации / модерации (toxicity, hate speech, self-harm, sexual content и др.)
Проектировать и реализовывать пайплайны pre-/post-processing для LLM (input/output filtering, rewriting, refusal mechanisms)
Создавать и поддерживать evaluation-фреймворки: бенчмарки, red-teaming, adversarial testing, метрики безопасности и robustness
Работать с LLM API / open-source моделями, оптимизировать latency и качество guardrails
Участвовать в разработке политик безопасности, документировать решения
Анализировать инциденты, улучшать покрытие edge-cases и снижать false positive/negative
Наши требования
2–4+ года коммерческого опыта в ML/AI-разработке (Python)
Опыт работы с LLM (OpenAI, Anthropic, open-source: Llama, Mistral, Qwen и т.д.)
Практический опыт построения систем модерации / content safety / guardrails или похожих задач (toxicity detection, PII redaction, prompt defense)
Хорошее знание NLP: классификация текста, embeddings, fine-tuning (LoRA/QLoRA), evaluation
Опыт с PyTorch / Hugging Face Transformers, LangChain / LlamaIndex / аналогичными фреймворками
Понимание основных угроз LLM (jailbreaks, prompt injection, data leakage, hallucination risks)
Умение писать чистый, тестируемый код, работать с CI/CD, Docker
Самостоятельность и ownership: способность брать задачу end-to-end (от исследования до production)
Навыки работы с генеративными AI-моделями
Опыт red-teaming / adversarial ML / safety evaluation
Знание техник alignment (RLHF, DPO, constitutional AI) и safety benchmarks (HarmBench, JailbreakBench, AdvBench и др.)
Опыт работы с vector DB, RAG-пайплайнами и их безопасностью
Знание multi-modal guardrails (изображения + текст)
Опыт production-deployment ML-систем (FastAPI, Kubernetes, мониторинг)
Английский на уровне чтения документации
Мы предлагаем
Гибридный формат работы
Годовой бонус и ежегодный пересмотр зарплаты
Статус аккредитованной ИТ-компании
Расширенный ДМС с первого дня и льготное страхование для семьи
Корпоративный университет Сбера, внутренняя образовательная платформа, участие в IT-конференциях
90 дней удаленной работы из любого региона РФ
Льготная ипотека в Сбере
Бесплатная подписка СберПрайм, которой можно поделиться с 3 близкими
АО "СберТех"
Москва
Зарплата≈ 150 000 – 325 000 ₽наша оценка
ГрейдMiddle
ЗанятостьПолная занятость
РегионРоссия
ФорматОфис
ИсточникСкрыто
Опубликовано31 июля
Мы против мошенников на площадке: если тебя просят заплатить, продиктовать код или установить непонятное приложение, прекращай общение и сразу пиши нам (чат с основателем или форма обратной связи).