Риск утечки данных через ИИ. Как не потерять коммерческую тайну
Сотрудники часто используют нейросети для работы с документами, не задумываясь о безопасности. Но данные, отправленные в облачный чат, могут стать частью обучающей выборки и уйти в открытый доступ.
Уровень риска данных зависит от последствий утечки и возможности их отозвать. Публичные документы, вроде текстов с сайта или пресс-релизов, передавать нейросетям безопасно. Их утечка не принесет юридических проблем, так как информация уже доступна всем.
Внутренние регламенты и черновики документов относятся к категории умеренного риска. Юридически такая утечка не опасна, но может ударить по репутации. Сложнее обстоит дело с исходным кодом и финансовыми отчетами. Потеря конкурентного преимущества в этом случае часто необратима.
Реальный пример показал масштаб проблемы. В марте 2023 года инженеры Samsung использовали ChatGPT, что привело к трем инцидентам за три недели. Сотрудники загружали исходный код и расшифровки совещаний. Эти данные попали на серверы OpenAI и могли быть использованы для обучения моделей.
Для компаний с жестким режимом коммерческой тайны утечка через ИИ может стать юридическим вопросом. Однако персональные данные и медицинская тайна требуют особого подхода. В России за утечку персональных данных грозят штрафы до 15 млн рублей, а при повторных нарушениях, до 3% от выручки компании.
Передача конфиденциальной информации в сторонние сервисы создает риск ее случайного раскрытия другим пользователям. Если модель использует данные для обучения, вернуть их назад практически невозможно. Для бизнеса это означает потерю контроля над интеллектуальной собственностью.
Работа с ИИ требует четкого разделения типов информации. Если вы используете публичные данные, риск минимален. Для всего остального стоит внедрять внутренние правила использования нейросетей, чтобы избежать штрафов и потери секретов.
· обновлено, версия 3
Текст подготовила языковая модель по материалам источников.
