 |
UDV Group: угрозы ИИ в кибербезопасности
Юрий Чернышов, к.ф.-м.н., доцент УНЦ «Искусственный интеллект» УрФУ, руководитель исследовательского центра UDV Group рассказал о том, как ИИ позволяет выявлять сложные атаки нулевого дня, одновременно усиливая как возможности SOC-аналитиков.
Юрий Чернышов, к.ф.-м.н., доцент УНЦ «Искусственный интеллект» УрФУ, руководитель исследовательского центра UDV Group рассказал о том, как ИИ позволяет выявлять сложные атаки нулевого дня, одновременно усиливая как возможности SOC-аналитиков, так и требования к контролю, тестированию и безопасному применению интеллектуальных систем.
Выявление атак нулевого дня с помощью искусственного интеллекта
Большинство атак обнаруживается с помощью простых индикаторов: обнаружение комбинации байтов в коде программы, скомпрометированные IP адресов и доменных имен. Эти правила простые и наглядные, поэтому работают быстро, ими легко управлять – модифицировать, передавать. Но эти же свойства индикаторов компрометации являются и их слабостью: они статичны, их логику легко понять и обойти злоумышленнику. Поэтому все чаще применяются сложные сценарии атак: распределенные, скрытные (обфускация, стеганография), с динамически изменяющимися характеристиками (полиморфизм). Большинство подобных сценариев являются новыми атаками, 0-day. Чтобы обнаруживать подобные атаки необходима более сложная логика детектора с применением анализа больших данных и использованием баз знаний, а также возможность детектора самообучаться, подстраиваться под новые условия. Это все позволяют сделать различные методы ИИ, среди которых на практике встречаются как очень простые (классификация, кластеризация, обнаружение аномалий), так и сложные, например, большие языковые модели (LLM), специально дообученные (finetune) для обнаружения и объяснения инцидентов, а также для реагирования.
Генеративные модели ИИ как фактор новых киберугроз
Надо осознать тот факт, что качество создания искусственным интеллектом цифровых объектов, текстов, изображений, и даже видео, приближается к человеческому, или даже превосходит. И мы не можем отличить искусственный объект от созданного человеком, даже если очень хорошо знаем этого человека. А самое главное – стоимость этой генерации существенно снизилась, а значит атаки злоумышленников стали более рентабельными (да, в этой отрасли тоже считают окупаемость), поэтому все чаще GenAI применяется для мошеннических действий. Автоматизация позволяет действовать масштабно, охватывая большой перечень потенциальных жертв, но применяя в каждом конкретном случае персональный сценарий воздействия. Это новая цифровая угроза, против которой у большинства людей еще не сформировался иммунитет и паттерны безопасного поведения, и это представляет собой большую угрозу.
Контроль и безопасность автономных ИИ-систем реагирования
Контролю и анализу защищенности необходимо уделять внимание уже на этапе проектирования системы, использовать безопасные паттерны архитектуры и безопасного кода, добавлять средства мониторинга защищенности, предусматривать необходимые тесты безопасности. В промышленной эксплуатации важен непрерывный мониторинг и анализ всех компонентов информационных систем: процессов, интерфейсов взаимодействия, исполняемых инструкций и команд, получаемого и создаваемого контента, пользовательских действий, состояния инфраструктуры.
Важным аспектом, повышающим уровень надежности и защищенности системы с ИИ, является улучшение взаимодействия с пользователями. Это может включать в себя: контроль диалога, отслеживание токсичности, выявление факта применения методов социальной инженерии со стороны пользователя, дополнительные меры аутентификации, в том числе по косвенным признакам, сохранение и использование истории взаимодействия с пользователем.
Зачастую проведение специального обучения для пользователей вопросам безопасности работы с ИИ дает очень значимый эффект.
Тестирование надежности ИИ-систем в кибербезопасности
Как и в любых других эксплуатируемых системах для ИИ-систем необходимо проводить постоянный поиск и исследование новых возможностей для атак злоумышленников, проводить анализ защищенности всех компонентов системы, включая модели ИИ, в том числе с применением специальных программных средств и методов социальной инженерии.
Влияние ИИ на работу аналитиков SOC
ИИ системы, особенно большие языковые модели, дают большие возможности для автоматизации многих действий операторов SOC: поиск информации, анализ и расследование инцидента, подготовка писем (результаты анализа, уведомление).
Контактное лицо: UDV Group (написать письмо автору)
Компания: UDV Group (все новости этой организации)
Добавлен: 22:00, 18.12.2025
Количество просмотров: 177
Страна: Россия
| UDV Group: поиск скрытых майнеров в сети предприятия - анализ трафика и нагрузок, UDV Group, 00:11, 09.05.2026, Россия |
236 |
| Михаил Пырьев, менеджер продукта UDV NTA, объяснил, почему сетевой анализ надёжнее агентов: майнеры скрываются на хосте, но выдают себя в сети. Рассказал о ключевых сетевых признаках: длительные сессии с пулами Monero, стабильная повторяемость трафика, аномалии TTL/RTT, DGA-домены. Что даёт сетевой анализ: под наблюдением оказываются сразу тысячи устройств. |
|
| МегаФон обнулит трафик на миграцию файлов из iCloud, МегаФон, 00:11, 09.05.2026, Россия |
237 |
| Оператор дает возможность абонентам не расходовать интернет-трафик своего тарифа при пользовании Облаком Мail в браузере и мобильном приложении. Предложение приурочено к запуску возможности переноса файлов из iCloud: теперь пользователи могут скачать данные из иностранного хранилища, не беспокоясь о лимитах. |
|
| «Такском» представил решения для ЭПД на Транспортно-логистическом форуме в Ростове-на-Дону, Такском, 00:10, 09.05.2026, Россия |
231 |
| Руководитель офиса обслуживания компании «Такском» в Ростове-на-Дону Олег Максюта принял участие в бизнес-конференции «Транспортно-логистический форум», прошедшей 28 апреля в формате отраслевой дискуссии. Мероприятие, организованное при участии бизнеса, профильных объединений и органов власти, было посвящено вопросам трансформации логистики, новым инструментам регулирования и цифровизации отрасли. |
|
| ГК «Юзтех» примет участие в главном событии по цифровой экономике и технологиям ЦИПР-2026, ГК "Юзтех", 00:04, 09.05.2026, |
43 |
| ГК «Юзтех», разработчик ИТ-продуктов и сервисов, примет участие в крупнейшем российском мероприятии по цифровым технологиям – «Цифровая индустрия промышленной России» (ЦИПР), где представит свои передовые решения для промышленного сектора. В фокусе экспозиции – платформы «Октопус» и «Лонч», призванные помогать производственным компаниям эффективно справляться с современными вызовами. |
|
|
|
