- Обучение ИИ на персональных данных — это их обработка, требующая основания
- Автоматизированные решения, затрагивающие человека, должны быть обжалуемы
- Право на удаление сложно реализовать в уже обученной модели — это нужно учитывать заранее
- Субъект имеет право понимать логику автоматизированного решения о нём
- Минимизация и обезличивание данных снижают риски при работе с ИИ
Искусственный интеллект перестал быть экзотикой: чат-боты, рекомендательные системы, скоринг, распознавание — всё это работает на данных людей. Но закон о персональных данных писался до эпохи массового ИИ, и применять его к моделям машинного обучения приходится вдумчиво. Разберёмся, как использовать ИИ, не нарушая ФЗ-152.
Использование искусственного интеллекта не выводит обработку из-под действия ФЗ-152. Если модель обучается на персональных данных или принимает решения о людях, применяются все требования закона: основание, права субъектов, защита. ИИ — это способ обработки, а не исключение из правил.
Обучение моделей на персональных данных
Модели машинного обучения учатся на данных. Если в обучающем наборе есть персональные данные — истории клиентов, переписка, поведение, — это их обработка.
Здесь возникает ключевой вопрос: было ли основание использовать эти данные именно для обучения. Часто данные собирались для другой цели — выполнения заказов, поддержки, — а обучение модели становится новой целью.
Данные, собранные для одной цели, нельзя автоматически использовать для обучения ИИ. Если клиент оставил переписку для решения своего вопроса, обучать на ней чат-бота — новая цель, требующая основания. Безопасный путь — обезличивание данных перед обучением там, где это возможно.
Обезличивание как решение
Лучший способ снизить риски при обучении ИИ — работать с обезличенными данными. Если из обучающего набора убрать идентифицирующие признаки так, что конкретного человека уже не установить, обработка перестаёт быть обработкой персональных данных.
Обезличивание не всегда возможно и не всегда полноценно, но там, где модель не нуждается в идентификации конкретных людей, это лучший подход.
Автоматизированные решения
Особая зона внимания — решения, которые ИИ принимает о человеке без участия людей. Отказ в кредите по скорингу, автоматическое отклонение заявки, блокировка аккаунта по подозрению.
Когда автоматизированная система принимает значимое для человека решение, субъект имеет право не быть объектом исключительно автоматического решения. Это значит: возможность обжаловать решение, потребовать его пересмотра человеком, получить объяснение. Полностью отдавать судьбу человека алгоритму без права на обжалование нельзя.
Объяснимость
С автоматизированными решениями связано требование прозрачности. Человек, которого затронуло решение алгоритма, вправе понимать его логику хотя бы в общих чертах.
| Ситуация | Что должен получить субъект |
|---|---|
| Отказ по скорингу | Понимание, что решение автоматическое, право обжаловать |
| Отклонение заявки | Возможность пересмотра человеком |
| Блокировка | Объяснение причины и путь оспаривания |
Отговорка «решение приняла система, мы ни при чём» не работает. За решения алгоритма отвечает оператор, который его применяет. Человек вправе получить объяснение и обжаловать решение, а не упереться в непрозрачный «чёрный ящик».
Подробный разбор прав субъекта при автоматизированных решениях, включая право на обжалование и участие человека — в отдельной статье «Автоматизированное принятие решений и права субъекта».
Проблема права на удаление в обученной модели
Право на удаление — одна из самых сложных тем в применении ФЗ-152 к ИИ, потому что модель устроена принципиально иначе, чем база данных.
Удаление записи о клиенте из CRM не равно удалению его данных из обученной на них модели. База данных хранит данные явно, и удаление строки решает вопрос полностью. Модель машинного обучения не хранит исходные данные — она хранит веса, на формирование которых эти данные повлияли. Информация о конкретном человеке «растворена» в параметрах модели, и точечно «вынуть» её оттуда технически нельзя.
На практике есть несколько подходов, и ни один не идеален:
Полное переобучение без данных субъекта. Самый надёжный способ, но дорогой: каждый запрос на удаление в теории требует нового цикла обучения. Подходит при нечастых запросах или периодическом переобучении по графику.
Machine unlearning. Группа технических методов, позволяющих «вычесть» влияние конкретных данных из уже обученной модели без полного переобучения. Метод развивается, но пока не даёт гарантий, сравнимых с переобучением с нуля.
Фильтрация на уровне вывода. Если модель обращается к внешней базе данных при ответе (RAG-архитектуры), удаление из этой базы закрывает большую часть риска, даже если сама модель когда-то видела эти данные на этапе предобучения.
Не обучать на идентифицирующих данных вовсе. Самый практичный путь для большинства бизнес-задач — обезличивать данные до обучения, чтобы вопрос «как удалить человека из модели» не возникал в принципе.
Если право на удаление не заложено в архитектуру системы заранее, ответ на запрос субъекта может оказаться технически невозможным быстро и дёшево. Это нужно решать на этапе выбора архитектуры, а не разбираться постфактум, когда запрос уже пришёл.
Практические принципы работы с ИИ
Свести риски к минимуму помогает несколько принципов. Используйте обезличенные данные для обучения везде, где это возможно. Получайте основание, если обучаете на персональных данных. Обеспечьте право на обжалование автоматизированных решений и участие человека. Делайте логику решений объяснимой. Закладывайте механизм удаления данных в архитектуру заранее. И минимизируйте — не скармливайте модели больше данных, чем нужно.
Сторонние ИИ-сервисы как обработчики персональных данных
Использование внешних ИИ-сервисов — ChatGPT, Claude, любого API языковой модели — для обработки запросов клиентов означает передачу данных третьей стороне, и здесь применяются те же правила, что и для любого облачного обработчика.
Промпт с данными клиента — это передача персональных данных. Если сотрудник поддержки вставляет в чат-бот переписку с клиентом, его ФИО, номер заказа или диагноз для составления ответа — это обработка персональных данных через сторонний сервис, требующая законного основания и, как правило, договора с обработчиком.
Большинство популярных ИИ-сервисов хранят и обрабатывают данные на серверах за пределами РФ. Если в промпт попадают персональные данные граждан России, это может означать нарушение требования локализации и трансграничную передачу без законного основания — даже если компания об этом не задумывалась, просто подключив API.
Что делать на практике:
- Заключайте DPA с провайдером ИИ-сервиса, если в промптах оказываются персональные данные — как с любым обработчиком.
- Обезличивайте данные перед отправкой в промпт там, где это возможно: заменяйте ФИО и контакты на условные идентификаторы.
- Ограничьте сотрудникам возможность вставлять данные клиентов в публичные бесплатные версии ИИ-чатов — там данные, как правило, используются для дальнейшего обучения модели без выделенного DPA.
- Для регулярной интеграции ИИ в продукт рассматривайте версии с корпоративным контрактом и гарантиями неиспользования данных для обучения, либо российские модели с локальным размещением.
Сотрудник, вставивший данные клиента в публичный чат-бот для быстрого ответа, формально передал персональные данные третьему лицу без оснований. Это частая и незаметная утечка, которую сложно отследить постфактум — правило лучше закрепить в инструкции для сотрудников, а не полагаться на их осторожность.
- Для обучения на персональных данных есть основаниеобязательно
- Где возможно, обучение ведётся на обезличенных данныхобязательно
- Автоматизированные решения можно обжаловатьобязательно
- Обеспечена возможность участия человека в значимых решенияхобязательно
- Логика решений объяснима субъекту
- Механизм удаления данных продуман на уровне архитектуры
- Соблюдается минимизация обучающих данных
Искусственный интеллект открывает огромные возможности, но и повышает ставки в обращении с данными. Модель, обученная на чужих данных без основания, или алгоритм, безоговорочно решающий судьбу человека, — это не только правовой риск, но и этическая проблема. Ответственный подход к ИИ — обезличивание, основания, право на обжалование и объяснимость — делает технологию и законной, и заслуживающей доверия.