 |
UDV Group: банки столкнутся с ИБ-рисками из-за нейросетей без правил
Российский разработчик решений в области киберустойчивости UDV Group прокомментировал рекомендации Банка России по безопасному использованию искусственного интеллекта финансовыми организациями. По оценке эксперта компании, нейросети становятся для банков отдельным объектом управления информационной безопасностью, а не только инструментом автоматизации.
Банк России выпустил рекомендации по безопасному использованию искусственного интеллекта финансовыми организациями. Регулятор отдельно выделил риски утечек данных, кибератак, подмены обучающих данных, ошибочных ответов нейросетей и компрометации цепочки поставок.
Для финансового рынка это означает переход к более зрелой модели работы с ИИ. Нейросети все чаще используются не только в пилотных проектах, но и в бизнес-процессах: клиентском сервисе, антифроде, скоринге, обработке обращений, внутренней аналитике, подготовке документов и генерации кода. В таких сценариях компаниям необходимо оценивать не только экономический эффект, но и риски для данных, клиентов, внутренних процессов и принимаемых решений.
Один из ключевых рисков связан с данными, на которых обучаются или дообучаются ИИ-модели. Если они искажены, подменены или получены из недоверенных источников, система может начать выдавать неверные рекомендации. Для банков это особенно чувствительно, поскольку ошибка ИИ может повлиять на обслуживание клиентов, оценку рисков, работу антифрод-систем, автоматизированные решения и внутренние управленческие процессы.
Отдельная проблема - использование нейросетей сотрудниками вне утвержденных правил. ИИ-сервисы уже применяются для подготовки документов, анализа текстов, обработки обращений, работы с внутренней информацией и кодом. Если организация не определила, какие данные можно передавать в такие сервисы, кто отвечает за их применение и как проверяется результат, ИИ становится неучтенным каналом риска.
«Рекомендации ЦБ важны тем, что переводят разговор об ИИ из плоскости экспериментов в плоскость управляемых процессов. Для бизнеса уже недостаточно просто разрешить или запретить нейросети. Нужно понимать, где именно ИИ используется, какие данные в него попадают, кто является владельцем процесса и кто отвечает за последствия ошибки. Если модель работает с клиентской информацией, внутренними документами или решениями, влияющими на бизнес, она должна быть встроена в контур ИБ: с классификацией данных, контролем доступа, моделью угроз, правилами проверки результатов и понятной ответственностью», - отметила Ольга Луценко, ведущий эксперт UDV Group.
По словам эксперта, компаниям важно не ограничиваться формальной политикой по ИИ. Необходимо описать допустимые сценарии использования нейросетей, определить запрещенные категории данных, настроить контроль доступа, вести учет применяемых сервисов и регулярно пересматривать риски по мере изменения моделей и бизнес-процессов.
Особое значение такой подход имеет для организаций с повышенными требованиями к защите информации. В финансовом секторе, КИИ и компаниях с большим объемом персональных данных ошибка ИИ может привести не только к утечке, но и к неверному клиентскому, операционному или управленческому решению. Поэтому контроль должен охватывать весь жизненный цикл ИИ-системы: выбор модели, источники данных, дообучение, эксплуатацию, обновления и вывод из использования.
В UDV Group считают, что рекомендации Банка России задают для рынка более зрелую рамку применения искусственного интеллекта. Банкам и другим финансовым организациям предстоит переходить от точечных пилотов к управляемой модели внедрения ИИ, где безопасность, ответственность владельцев процессов и контроль данных закладываются до запуска системы, а не после первых инцидентов.
Контактное лицо: UDV Group (написать письмо автору)
Компания: UDV Group (все новости этой организации)
Добавлен: 22:05, 11.08.2026
Количество просмотров: 17
Страна: Россия
|
|
