Эксперт дал рекомендации по внедрению ИИ в компании без утечки данных
Искусственный интеллект (ИИ) активно внедряется в бизнес-процессы, помогая в подготовке документов, анализе данных и автоматизации рутинных задач. Однако использование нейросетей может привести к утечке конфиденциальной информации, если сотрудники передают во внешние сервисы важные документы. Об этом сообщил управляющий директор LANSOFT Сергей Таран. Об этом пишет Известия.
По словам эксперта, основной риск заключается не в самом применении ИИ, а в отсутствии четких правил работы с данными. Сотрудник может загрузить в нейросеть часть договора, техническую документацию или финансовую отчетность, в результате чего компания теряет контроль над тем, где эта информация хранится и кто имеет к ней доступ.
Таран отметил, что первым шагом к внедрению ИИ должна стать инвентаризация данных. Компании необходимо классифицировать информацию на категории: общедоступную, внутреннюю и сведения ограниченного доступа, включая персональные данные и коммерческую тайну. Для каждой группы должны быть установлены свои правила. Открытые материалы можно использовать для подготовки черновиков и обработки информации, в то время как внутренние документы должны оставаться только в защищенной корпоративной среде.
Персональные данные клиентов и сотрудников, информация о сделках и критически важные сведения не должны передаваться в открытые внешние сервисы без соответствующих правовых и технических оснований.
Запрет на использование нейросетей не решает проблему, так как сотрудники могут обращаться к публичным инструментам с личных устройств. Более эффективным решением является создание корпоративного ИИ-сервиса с разграничением прав доступа и журналом действий, что исключает использование внутренних данных для обучения сторонних моделей.
Эксперт также отметил, что компании могут применять открытые модели ИИ, которые устанавливаются внутри их инфраструктуры. Эти решения позволяют сохранить контроль над информацией, но требуют дополнительных технических ресурсов.
Еще одним важным принципом безопасной работы с ИИ является минимизация данных. По словам Тарана, алгоритму не всегда необходим полный документ для выполнения задачи. Например, при анализе обращения клиента можно удалить фамилию, телефон и адрес. В документах можно использовать условные обозначения вместо реальных данных, чтобы получить нужный результат без риска раскрытия конфиденциальной информации.
Настройка прав доступа также имеет большое значение. Сотрудники и ИИ-системы должны получать только те полномочия, которые необходимы для выполнения конкретных задач. Например, алгоритм может подготовить проект ответа, но не должен иметь возможность выгружать всю клиентскую базу без дополнительного подтверждения.
Обучение сотрудников также остается важным аспектом. Общие запреты, такие как «не загружайте секретные данные», работают хуже, чем четкие инструкции. Компании должны объяснять, какие сервисы разрешены, какие данные можно использовать в запросах к нейросетям и как правильно обезличивать информацию.
Таран подчеркнул, что безопасное использование ИИ требует контроля не только за входящими запросами, но и за результатами работы алгоритмов. Важно выявлять недостоверные ответы и ограничивать применение ИИ в чувствительных сферах.
Эффективное внедрение ИИ основывается не на полном запрете технологий, а на сочетании четких правил, защищенной инфраструктуры и подготовки сотрудников. Такой подход позволяет использовать преимущества ИИ, сохраняя контроль над корпоративной информацией.
