Есть ли ограничения из-за работы с персональными данными
Что проверяют
Работали ли вы с реальными пользовательскими данными и понимаете ли, как закон и политика безопасности меняют пайплайн: где лежат данные, кто их видит, что можно отправлять в модель. Следом спрашивают, чем обезличивание отличается от псевдонимизации и можно ли отправлять такие данные во внешнюю LLM.
Как отвечать
Ответ «да, есть», и дальше конкретно, какие именно:
- закон: в России это 152-ФЗ «О персональных данных». Данные граждан РФ должны записываться и храниться в базах на территории России (локализация), цель обработки фиксируется заранее, лишнее не собирается. С 30 мая 2025 года за утечки действуют оборотные штрафы. Для пользователей из ЕС применяется GDPR с правом на удаление, которое трудно исполнить для уже обученной модели;
- цель обработки: данные, собранные для оказания услуги, нельзя просто взять для обучения модели под другую задачу. Нужно отдельное основание или обезличивание;
- доступ: аналитики и DS работают с маскированными выгрузками, продовые таблицы с ПДн доступны по ролям, запросы логируются, в dev и тестовых средах реальных данных нет;
- обезличивание: хеш email или телефона это псевдонимизация, такие данные по-прежнему персональные. Реальный риск в квазиидентификаторах: дата рождения, пол и город вместе часто однозначно указывают на человека. Помогают обобщение, k-анонимность, дифференциальная приватность, синтетические данные;
- внешние модели: отправка текстов обращений с ФИО во внешний API означает передачу данных третьему лицу, а если сервер за рубежом, ещё и трансграничную передачу. Поэтому ПДн маскируют до отправки или используют модель, развёрнутую в своём контуре.
Закончите своим примером: что делали в проекте и чем это ограничило признаки и выбор модели.
Где спотыкаются
Считают, что удалённое ФИО делает датасет анонимным. Оставшиеся поля восстанавливают личность по открытым источникам.
Рассказывают только про GDPR, работая в российской компании, где интервьюер ждёт 152-ФЗ и локализацию.
Забывают, что модель сама может запомнить персональные данные: языковая модель, дообученная на переписке с клиентами, способна воспроизвести номер телефона из обучающей выборки.