Искусственный интеллект всё чаще упоминается в контексте кибербезопасности — иногда как панацея, иногда как угроза. В управлении уязвимостями AI действительно играет три роли одновременно: он помогает быстрее находить и приоритизировать проблемы, даёт новые инструменты злоумышленникам и сам становится объектом атак. Разберём каждую роль без хайпа и с практическими выводами.

AI как помощник: ускорение поиска и приоритизации

Одно из самых заметных применений AI — автоматический поиск уязвимостей в коде и бинарных файлах. Например, система Google Big Sleep, по сообщениям, смогла предотвратить реальную атаку, обнаружив уязвимость до того, как её использовали. Это не означает, что AI заменит специалистов по безопасности, но он может существенно сократить время на рутинный анализ.

Кроме того, AI помогает приоритизировать уязвимости: анализировать контекст, оценивать эксплуатируемость и предлагать порядок исправления. Это особенно полезно, когда сканеры выдают сотни предупреждений, и нужно быстро выделить критичные.

Конкретные шаги для внедрения AI-помощника:

  • Начните с пилота на ограниченном наборе проектов или компонентов, чтобы оценить точность и ложные срабатывания.
  • Интегрируйте AI-инструменты в существующий процесс управления уязвимостями, а не создавайте параллельный.
  • Обучите команду интерпретировать результаты: AI может ошибаться, поэтому важна верификация.
  • Установите метрики эффективности: время от обнаружения до исправления, доля ложных срабатываний, количество пропущенных уязвимостей.

Критерии выбора AI-инструмента: прозрачность модели (возможность понять, почему уязвимость признана критичной), поддержка ваших языков и форматов, возможность локального развёртывания (если данные чувствительны), наличие API для интеграции с CI/CD и трекерами задач.

AI как оружие: сжатие окна реакции

Те же технологии, что помогают защитникам, доступны и злоумышленникам. AI позволяет автоматизировать поиск уязвимостей, генерировать эксплойты и адаптировать атаки под конкретные цели. В результате окно между публикацией информации об уязвимости и началом её активной эксплуатации сокращается до часов, а иногда и минут.

Это означает, что традиционный подход «узнали об уязвимости — запланировали исправление на следующей неделе» становится опасным. Необходимо пересматривать процессы реагирования.

Что делать:

  • Автоматизируйте обнаружение и первичную оценку уязвимостей, чтобы не терять время на ручной анализ.
  • Внедрите практику «виртуальных патчей» (WAF-правила, изоляция сегментов сети) для быстрого снижения риска до выхода официального обновления.
  • Определите критичные активы и для них установите максимально короткие сроки исправления (например, 24–48 часов для интернет-доступных сервисов).
  • Проводите учения по реагированию на инциденты с учётом сценариев, где эксплойт появляется почти сразу после раскрытия уязвимости.

AI как мишень: защита собственных AI-систем

Пока одни команды используют AI для защиты, другие внедряют AI-сервисы в продукты и внутренние процессы. Эти системы сами становятся целью атак. Для них уже сформировался набор типовых уязвимостей — например, OWASP Top 10 для больших языковых моделей (LLM). Кроме того, появляются специфические риски, такие как уязвимости в протоколе MCP (Model Context Protocol), который используется для взаимодействия AI-агентов с внешними инструментами.

Проблема усугубляется тем, что AI-системы часто работают «в тени»: их разворачивают бизнес-подразделения без ведома ИБ, и они не попадают в периметр мониторинга.

Как защитить AI-системы:

  • Проведите инвентаризацию всех AI-сервисов и моделей, включая экспериментальные и внутренние. Заведите реестр.
  • Включите AI-компоненты в процесс управления уязвимостями: сканируйте зависимости, проверяйте конфигурации, тестируйте на типовые атаки (prompt injection, отравление данных, небезопасный доступ к API).
  • Ограничьте права AI-агентов: они должны иметь доступ только к необходимым ресурсам, с логированием действий.
  • Обучите разработчиков и владельцев продуктов основам безопасности AI, чтобы они понимали риски и сообщали о новых системах в ИБ.

Типичные ошибки и примеры

Одна из распространённых ошибок — слепо доверять AI-инструментам при приоритизации. Модель может недооценить уязвимость, если в обучающих данных не было похожих случаев. Поэтому всегда нужна человеческая валидация для критичных решений.

Другая ошибка — игнорировать AI-системы при построении защиты. Например, компания развернула чат-бота на основе LLM для поддержки клиентов, но не ограничила его доступ к внутренним базам данных. В результате через prompt injection злоумышленник мог получить конфиденциальную информацию. Подобные инциденты уже описаны в сообществе.

Третья ошибка — отсутствие автоматизации реагирования. Если у вас нет заготовленных сценариев и виртуальных патчей, окно реакции остаётся широким, даже если вы используете AI для обнаружения.

В итоге AI — это усилитель. Он не решает проблемы безопасности сам по себе, но может как повысить устойчивость, так и увеличить риски. Ключ — осознанное внедрение с контролем, инвентаризацией и обучением команды.