 |
Юрий Чернышов, UDV Group: Цифровая гигиена — основа безопасности Comnews
Доцент УНЦ «Искусственный интеллект» УрФУ, руководитель исследовательского центра UDV Group Юрий Чернышов дал комментарий изданию Comnews о том, что срочное формирование «цифровой гигиены» и просвещение разных групп пользователей необходимы для снижения рисков при работе с ИИ и чат-ботами, а конфиденциальные данные нельзя передавать недоверенным сервисам.
• Как вы оцениваете такие рекомендации?
• Любое действие по повышению грамотности организаций и населения в области информационной безопасности я оцениваю позитивно, считаю это очень нужным и правильным. Особенно для инновационных технологий, к которым многие оказались не готовы с точки зрения безопасного поведения. Правила «медицинской» гигиены вырабатывались годами и десятилетиями, но на формирование «цифровой» гигиены у нас такого времени нет, слишком быстро появляются новые непонятные населению технологии и слишком масштабные последствия нарушения элементарных правил самозащиты в цифровом мире. Последствия ошибок часто относятся не к одному человеку, а затрагивают большие коллективы, а материальный ущерб может многократно превышать посильный для человека уровень, поскольку опять же срабатывает «технологический рычаг», позволяющий злоумышленникам выманивать значительные суммы. У людей медленно формируются защитные паттерны безопасного поведения, поэтому любая просветительская деятельность в любой форме очень важна. Я также считаю правильным и необходимым расширять перечень подобных информационных материалов, ориентируя их на конкретные сегменты пользователей: школьники младшего возраста, молодежь, работающее население, пенсионеры. Все эти категории по-разному воспринимают информацию, для них необходимо по-разному формировать правила безопасного поведения. Известно, что формирование и поддержание в актуальном состоянии правил пользовательского поведения существенно снижает риск и уменьшает объем инцидентов. Важно, что эта информация доводится из доверенных источников: официальных сайтов государственных организаций, учебных заведений, надежных коммерческих компаний.
• Как расценивать банковских чат-ботов исходя из рекомендаций министерства государственного управления, информационных технологий и связи Подмосковья и Минцифры, когда чат-боты знают данные карт, сведения о счетах и сбережениях? Или робота Макса на Госуслугах, знающего ФИО, СНИЛС, ИНН, адреса, телефоны, паспортные данные?
• Важно понимать, что официальный банковский чат-бот является частью инфраструктуры банка. Официальные организации, работающие с пользователями, использующие их персональные данные, обязаны позаботиться об информационной безопасности этих данных, обеспечить их конфиденциальность, целостность и доступность, независимо от того – используется чат-бот или нет.
Но вот что действительно представляет опасность для пользователя, так это мошеннические копии подобных банковских чат-ботов, так называемые скаминговые ресурсы. Они внешне очень похожи на официальные ресурсы. Пользователей заманивают в эти мошеннические системы ссылками в фишинговых письмах или в мессенджерах. Эти ссылки, как правило, незначительно отличаются от официальных ссылок на ресурсы организаций. В таких случаях часто помогает простая проверка, полезно запомнить путь в браузере к официальному сайту организации, чтобы вовремя увидеть разницу между gosuslugi.ru (официальный портал государственных услуг РФ) и g0suslugi.org (символ “o” заменен на цифру «0», получается похожий адрес, но он отличается от официального, это обычное поведение для скамингового ресурса). В подобные скаминговые сервисы, имитаторы чат-ботов, категорически нельзя отдавать никакие данные, это может привести как к их утере, так и к продолжению персонализированных действий злоумышленников, направленных на попавшегося на «удочку» фишинговой рассылки человека.
• Какую информацию точно не следует сообщать искусственному интеллекту и почему?
• Если вы не знаете архитектуру и логику работы системы ИИ, которая использует ваши данные, если не имеете договорные отношения с зафиксированным SLA с поставщиком таких сервисов, если ИИ система не является частью официального сервиса, либо надежной организации, то надо понимать, что передавать данные в такую систему небезопасно.
Для наглядности я бы привел несколько примеров опасного применения недоверенного ИИ сервиса в Интернет, относящийся как к предприятиям, так и обычным пользователям. Сейчас существует множество ИИ сервисов в Интернет, которые помогают сделать презентацию, проанализировать договор, сделать поздравительную открытку, автоматизировать рабочие задачи, оптимизировать настройки. При этом, как правило, такие сервисы запрашивают информацию, в том числе и являющуюся конфиденциальной: личную информацию и персональные данные, изображения, схемы, информацию о предприятии. Важно помнить, что при загрузке текста договора в недоверенную систему вы раскрываете информацию – реквизиты, суммы, предмет сделки. Загружая персональные данные (фотографии, личную информацию, контактные данные) в недоверенный сервис вы можете передать злоумышленникам данные для организации таргетированной фишинговой рассылки. Создавая с помощью недоверенных облачных LLM правила конфигурации внутренних маршрутизаторов предприятия, вы раскрываете данные об инфраструктуре, которые можно будет использовать при проведении атаки. Думаю, что этих нескольких примеров достаточно для того, чтобы понять схему действий злоумышленников и сформировать правила безопасного поведения.
Контактное лицо: UDV Group (написать письмо автору)
Компания: UDV Group (все новости этой организации)
Добавлен: 20:24, 03.11.2025
Количество просмотров: 288
Страна: Россия
| UDV Group: Disaster Recovery — инженерный подход к непрерывности бизнеса, UDV Group, 21:57, 12.01.2026, Россия |
65 |
| Федор Маслов, эксперт компании UDV Group, рассказал, что современные подходы к Disaster Recovery строятся вокруг приоритизации бизнес-процессов, точного расчета RTO и RPO, регулярной валидации резервных копий и реалистичного тестирования сценариев сбоев. Такой подход позволяет выстраивать отказоустойчивую инфраструктуру без избыточных затрат, обеспечивая баланс между требованиями бизнеса, регуляторов и возможностями ИТ-архитектуры. |
|
| Что изменится в России с 1 января 2026 года, Компания "Гарант", 22:00, 04.01.2026, Россия |
623 |
| Всего в декабре вступают в силу положения 520 федеральных нормативных актов, принятых на данный момент. Ключевые поправки касаются: социальной сферы, трудовой сферы, налогообложения, бизнеса, военной службы, иных сфер. Рассмотрим самые важные изменения подробно. |
|
| Итоги «Такском» в 2025 году: ключевые результаты и события, Такском, 21:57, 04.01.2026, Россия |
633 |
| 2025 год стал для компании «Такском» очередным этапом уверенного развития и укрепления позиций на рынке цифровых услуг. С момента основания в 2000 году мы продолжаем создавать безопасную и технологичную среду для взаимодействия бизнеса, государства и граждан |
|
| Optimacros — финалист финтех-премии⁠ «Меркурий‑2025», Оптимакрос, 21:55, 04.01.2026, Россия |
1146 |
| CPM/IBP-платформа Optimacros стала лауреатом национальной премии в области финансовых технологий, учрежденной Ассоциацией КорпФинТех. Российская система для интегрированного планирования, бюджетирования и бизнес-аналитики вошла в число финалистов в номинации «Продукт года». |
 |
| CommuniGate Pro: вышел новый продуктовый релиз 6.5.4, CommuniGate Pro, 21:53, 04.01.2026, Россия |
57 |
| Разработчик единой платформы корпоративных коммуникаций CommuniGate Pro выпустил обновление своего программного продукта. В версии 6.5.4 значительно улучшен веб-интерфейс, повышена стабильность работы в крупных инсталляциях и усилена информационная безопасность решения. |
 |
|
|
