Чем предстоит заниматься
Создавать гардрейлы: разрабатывать системы защиты для AI‑агентов на базе GigaPlatform и других open‑source LLM — защита от промпт‑инъекций, фильтрация токсичности, контроль галлюцинаций (Intrinsic/Extrinsic/Fine-tuned Detectors), валидация выходов
Тьюнить LLM: адаптировать и дообучать наши LLM (Prompt Tuning, LoRA, SFT, GRPO), чтобы они были устойчивы к вредоносным воздействиям и давали безопасные ответы
Исследовать: изучать новые технологии и SOTA подходы по AI Safety, делиться опытом и развивать культуру R&D в команде
Внедрять: участвовать в выводе гардрейлов в продакшн
Работать на мощном железе: 8–16 A100 80 GB
Технологический стек: vLLM, ollama, llama.cpp, LangChain, Guardrails AI / NeMo Guardrails, Transformers, PyTorch Lightning, MLflow