 |
Innostage выпустила продукт AIDR для защиты корпоративного ИИ от взломов и утечек данных
Компания Innostage выпустила AIDR (Artificial Intelligence Detection & Response) – «Защита ИИ». Продукт для корпоративных больших языковых моделей (LLM) блокирует атаки на ИИ-сервисы, предотвращает утечки данных и встраивает контроль над ИИ в процессы информационной безопасности (ИБ).
Корпоративные ИИ-сервисы всё чаще используют в рабочих процессах: при подготовке документов, анализе данных, работе с кодом, внутренней аналитикой и клиентскими запросами. В таких сценариях для информационной безопасности важно контролировать не только доступ к ИИ-приложению, но и сам диалог с моделью: какие данные попадают в запрос, какие инструкции получает LLM и какой ответ возвращается пользователю.
При этом традиционные средства защиты не всегда дают детальную видимость того, что происходит внутри взаимодействия с моделью. Из-за этого у команды безопасности может появляться зона риска, которую сложно расследовать без отдельного контроля запросов, ответов и событий ИИ.
Innostage AIDR работает как прозрачный прокси между пользовательским ИИ-приложением и языковой моделью. Продукт фильтрует входящие запросы до передачи в LLM и блокирует попытки внедрения вредоносных инструкций в запрос к модели (prompt injection), а также обхода ограничений модели (jailbreak). Исходящие ответы проверяются на наличие персональных данных, коммерческой тайны, конфиденциальной и другой критичной информации. Дополнительно Innostage AIDR контролирует тематику, тональность и токсичность ответов. В сценариях разработки продукт помогает контролировать работу с LLM: выявляет и маскирует секреты в запросах, включая логины, пароли и токены, снижая риск их передачи в модель. События безопасности передаются в SIEM-систему с уровнем критичности.
«Когда компания внедряет ИИ в рабочие процессы, она создает новый контур работы с данными. Задача не в том, чтобы ограничить использование ИИ, а в том, чтобы дать команде безопасности понятные точки контроля там, где риск возникает в самом диалоге пользователя с моделью. AIDR помогает сделать этот контур управляемым для ИБ», – отметил Айдар Фатыхов, владелец продукта Innostage AIDR.
Для организаций, на которые распространяются требования ФСТЭК России, Innostage AIDR также может выступать технологической основой защиты ИИ-систем в части реализации мер по фильтрации и контролю входных и выходных данных, а также регистрации событий безопасности.
Справка:
Innostage — российская ИТ-компания, первый кибериспытанный интегратор сервисов и решений в области цифровой безопасности. Компания обеспечивает цифровую устойчивость бизнеса и государства в условиях повышенных требований к информационной безопасности.
Контактное лицо: Татьяна Алексеева (написать письмо автору)
Компания: Innostage (все новости этой организации)
Добавлен: 15:50, 02.06.2026
Количество просмотров: 27
Страна: Россия
| ActiveCloud расширяет направление DevOps-услуг для российского бизнеса, ActiveCloud, 16:01, 02.06.2026, Россия |
40 |
| Компания ActiveCloud объявляет о расширении направления DevOps-услуг для российских компаний. К уже существующим сервисам по управлению и администрированию ИТ-инфраструктуры, мониторингу, администрированию СУБД, работе с облачными платформами, контейнеризацией и CI/CD компания добавила новые возможности для комплексного сопровождения инфраструктуры. |
|
| «Печорин» научился предсказывать поломки оборудования при помощи Okdesk, OOO "Облачные решения" (Okdesk), 15:48, 02.06.2026, Россия |
24 |
| Пекарни «Печорин» более 9 лет выпекают вкусный и свежий хлеб для своих точек продаж и известных ресторанов Москвы не только благодаря мастерству пекарей и уникальным рецептам, но и за счет современных технологий. Один из “секретных” ингредиентов – автоматизация на базе Okdesk, которая обеспечивает непрерывную работу оборудования и собственных заведений. |
|
|
|
