Сегодня искусственный интеллект используется (ИИ) во множестве ИБ-направлений, начиная от зрелых кейсов с классическим ML, заканчивая автономными SOC и SOAR c использованием агентов. В этой статье рассмотрим основные примеры использования ИИ в информационной безопасности.
ОГЛАВЛЕНИЕ
Анализ аномалий или первые успешные сценарии применения ИИ в сфере ИБ
Развитие ИИ в ИБ прошло несколько этапов. Первые практические кейсы были связаны с классическим Machine Learning (ML) — алгоритмами, которые обучались на сетевом трафике, поведении пользователей и вредоносных файлах. Основная задача заключалась в поиске отклонений от нормы там, где сигнатурные методы уже не справлялись.
Один из наиболее классических сценариев — это выявление аномалий в сетевом трафике. ML-модели анализируют объемы передачи данных, характер соединений, частоту запросов и выявляют подозрительные паттерны, характерные для ботнетов, латеральных перемещений или утечки данных.
Машинное обучение активно применяют современные XDR-платформы, а системы класса UEBA (User and Entity Behavior Analytics) практически невозможно представить без ML.
Другой зрелый кейс — антифрод (системы борьбы с мошенничеством). Банковский сектор одним из первых начал массово внедрять Machine Learning в ИБ. Алгоритмы оценивают сотни параметров, такие как география, устройство, история операций, поведенческий профиль клиента. Аналогичные методы используются в системах защиты от спама, фишинга и вредоносного ПО, где модели классифицируют письма и файлы одновременно по множеству признаков.
Однако классический ML имеет ограничения. Такие системы требуют качественных датасетов, длительного обучения, они плохо справляются с контекстом. Нередко, например, в случаях использования ИИ в системах класса NDR/NTA, решение не будет работать «из коробки». Для формирования профиля «нормального» поведения необходимо обучение модели с нуля для каждого заказчика. Несложно сформировать логичный вывод: если в инфраструктуре уже находится нарушитель, то обученная на таком трафике система навряд ли выявит аномалии.
Один из наиболее классических сценариев — это выявление аномалий в сетевом трафике. ML-модели анализируют объемы передачи данных, характер соединений, частоту запросов и выявляют подозрительные паттерны, характерные для ботнетов, латеральных перемещений или утечки данных.
Машинное обучение активно применяют современные XDR-платформы, а системы класса UEBA (User and Entity Behavior Analytics) практически невозможно представить без ML.
Другой зрелый кейс — антифрод (системы борьбы с мошенничеством). Банковский сектор одним из первых начал массово внедрять Machine Learning в ИБ. Алгоритмы оценивают сотни параметров, такие как география, устройство, история операций, поведенческий профиль клиента. Аналогичные методы используются в системах защиты от спама, фишинга и вредоносного ПО, где модели классифицируют письма и файлы одновременно по множеству признаков.
Однако классический ML имеет ограничения. Такие системы требуют качественных датасетов, длительного обучения, они плохо справляются с контекстом. Нередко, например, в случаях использования ИИ в системах класса NDR/NTA, решение не будет работать «из коробки». Для формирования профиля «нормального» поведения необходимо обучение модели с нуля для каждого заказчика. Несложно сформировать логичный вывод: если в инфраструктуре уже находится нарушитель, то обученная на таком трафике система навряд ли выявит аномалии.
Клин клином: использование ИИ для противодействия дипфейкам
Мошенничество посредством поддельных при помощи ИИ-изображений, аудио и видео за последние годы стало полноценным вектором атак.
Примерами служат:
Показательно, что для борьбы с дипфейками также используются ИИ-модели. Помимо автоматизации процесса детектирования, ключевым преимуществом является возможность выявлять низкоуровневые артефакты, не поддающиеся обнаружению невооруженным глазом или слухом. Обученные для детектирования модели выявляют отклонения в распределении пикселей, структуре текстур и частотных характеристиках изображения, а также в статистике шумовых компонентов аудиосигнала. Именно эти особенности формируются процессом генерации и могут сохраняться даже в качественных дипфейках, оставаясь незаметными для человека.
Тем не менее противодействие дипфейкам и сгенерированным медиа носит характер постоянной гонки вооружений. По мере развития генеративных моделей артефакты становятся менее выраженными (особенно после появления диффузионных моделей) и более сложными для обобщения. Это требует регулярного переобучения детекторов и обновления обучающих выборок.
Примерами служат:
- атаки социальной инженерии в виде голосовых сообщений или видеозвонков от лица руководителя/родственников жертвы;
- обход слабых биометрических методов идентификации, аутентификации
- провокационные синтетические медиа-материалы с целью нанесения репутационного ущерба компании.
Показательно, что для борьбы с дипфейками также используются ИИ-модели. Помимо автоматизации процесса детектирования, ключевым преимуществом является возможность выявлять низкоуровневые артефакты, не поддающиеся обнаружению невооруженным глазом или слухом. Обученные для детектирования модели выявляют отклонения в распределении пикселей, структуре текстур и частотных характеристиках изображения, а также в статистике шумовых компонентов аудиосигнала. Именно эти особенности формируются процессом генерации и могут сохраняться даже в качественных дипфейках, оставаясь незаметными для человека.
Тем не менее противодействие дипфейкам и сгенерированным медиа носит характер постоянной гонки вооружений. По мере развития генеративных моделей артефакты становятся менее выраженными (особенно после появления диффузионных моделей) и более сложными для обобщения. Это требует регулярного переобучения детекторов и обновления обучающих выборок.
Эволюция ИИ в кибербезопасности: LLM и агенты
Следующий этап развития связан с появлением больших языковых моделей. LLM (Large Language Model) — это большая языковая модель, то есть разновидность искусственного интеллекта, обученная на огромных объемах текста для работы с естественным языком. LLM начали использоваться как умный интерфейс поверх существующих ИБ-систем. В отличие от классического ML, они умеют работать с неструктурированными данными, например, логами, отчетами, IOC или текстовыми описаниями инцидентов, а также отвечать на естественном языке.
Наиболее заметное применение LLM сегодня — SOC. Современные центры мониторинга ежедневно обрабатывают десятки и сотни тысяч событий безопасности, значительная часть которых оказывается ложноположительной. LLM позволяют оптимизировать первичный анализ: объяснить обфусцированный код, агрегировать данные из разных источников, строить краткое описание инцидента, объяснять цепочку атаки и предлагать дальнейшие действия. По разным оценкам, применение ИИ в SOC позволяет сократить время на триаж инцидентов на 40–70% и существенно снизить нагрузку на L1-аналитиков.
Наиболее заметное применение LLM сегодня — SOC. Современные центры мониторинга ежедневно обрабатывают десятки и сотни тысяч событий безопасности, значительная часть которых оказывается ложноположительной. LLM позволяют оптимизировать первичный анализ: объяснить обфусцированный код, агрегировать данные из разных источников, строить краткое описание инцидента, объяснять цепочку атаки и предлагать дальнейшие действия. По разным оценкам, применение ИИ в SOC позволяет сократить время на триаж инцидентов на 40–70% и существенно снизить нагрузку на L1-аналитиков.
Например, в конструкторе сценариев отечественного решения «MaxPatrol 360» предусмотрен модуль получения вердикта от ИИ.
LLM также активно внедряются в AppSec и DevSecOps. Модели помогают анализировать исходный код, искать потенциальные уязвимости, объяснять риски разработчикам и предлагать исправления для типовых ошибок.
Относительно новое направление — ИИ-агенты в ИБ. В отличие от обычных LLM, они могут самостоятельно выполнять цепочки действий, а не просто отвечать на запросы: собирать телеметрию, запускать проверки, коррелировать события и инициировать response-процедуры. На основе агентских систем появляются первые прототипы полуавтоматических или полностью автономных SOC и SOAR.
Например, агент может получить алерт о подозрительном процессе, самостоятельно запросить данные из EDR, собрать сетевые артефакты и сформировать итоговый отчет. В более зрелых сценариях агент способен инициировать изоляцию хоста или блокировку учетной записи. Однако именно здесь пока сохраняются основные ограничения технологии: риски ошибочных действий, связанные склонностью моделей галлюцинировать. Пусть и не в контексте ИБ, но в интернете множество примеров с последствиями излишней автономности (excessive agency) ИИ-агентов. Они могут несанкционированно переписать конфигурацию или уничтожить продуктивные данные. Поэтому большинство компаний пока используют подход Human-in-the-Loop, при котором ИИ предлагает действия, но окончательное решение принимает аналитик.
LLM также активно внедряются в AppSec и DevSecOps. Модели помогают анализировать исходный код, искать потенциальные уязвимости, объяснять риски разработчикам и предлагать исправления для типовых ошибок.
Относительно новое направление — ИИ-агенты в ИБ. В отличие от обычных LLM, они могут самостоятельно выполнять цепочки действий, а не просто отвечать на запросы: собирать телеметрию, запускать проверки, коррелировать события и инициировать response-процедуры. На основе агентских систем появляются первые прототипы полуавтоматических или полностью автономных SOC и SOAR.
Например, агент может получить алерт о подозрительном процессе, самостоятельно запросить данные из EDR, собрать сетевые артефакты и сформировать итоговый отчет. В более зрелых сценариях агент способен инициировать изоляцию хоста или блокировку учетной записи. Однако именно здесь пока сохраняются основные ограничения технологии: риски ошибочных действий, связанные склонностью моделей галлюцинировать. Пусть и не в контексте ИБ, но в интернете множество примеров с последствиями излишней автономности (excessive agency) ИИ-агентов. Они могут несанкционированно переписать конфигурацию или уничтожить продуктивные данные. Поэтому большинство компаний пока используют подход Human-in-the-Loop, при котором ИИ предлагает действия, но окончательное решение принимает аналитик.
Нашумевшая в сети история: ИИ-агент, несмотря на прямой запрет, удалил базу данных на 1200 клиентов, а затем генерировал фейковые отчеты, чтобы это скрыть. На изображении переведенные скриншоты с «чистосердечным признанием».
Отдельного внимания заслуживают достижения ИИ-агентов в области поиска багов, zero-day уязвимостей, ассистировании тестирований на проникновение или даже самостоятельном выстраивании цепочки атак. К примеру, в апреле 2026 года закрытая модель Claude Mythos обнаружила более тысячи уязвимостей нулевого дня. А чуть позже помогла исследователям по кибербезопасности взломать macOS, известную своей защищенностью.
Поэтому, когда разработчики модели заявили, что посчитали ее «слишком опасной для публичного релиза», они явно не ошиблись. С немалой долей уверенности, можно сделать прогноз на ближайшее будущее: тренд на усиленное внимание к менеджменту уязвимостей.
Отдельного внимания заслуживают достижения ИИ-агентов в области поиска багов, zero-day уязвимостей, ассистировании тестирований на проникновение или даже самостоятельном выстраивании цепочки атак. К примеру, в апреле 2026 года закрытая модель Claude Mythos обнаружила более тысячи уязвимостей нулевого дня. А чуть позже помогла исследователям по кибербезопасности взломать macOS, известную своей защищенностью.
Поэтому, когда разработчики модели заявили, что посчитали ее «слишком опасной для публичного релиза», они явно не ошиблись. С немалой долей уверенности, можно сделать прогноз на ближайшее будущее: тренд на усиленное внимание к менеджменту уязвимостей.
FAQ
1. Где ИИ дает наибольший практический эффект в ИБ сегодня?
Наибольшая отдача наблюдается в SOC-операциях (триаж и корреляция событий), антифроде и поведенческой аналитике (UEBA/NDR).
2. Какие направления связи «ИИ+ИБ» будут развиваться быстрее всего в ближайшие годы?
Наиболее быстрый рост ожидается в области автономных SOC/SOAR-агентов, а также защите систем с использованием искусственного интеллекта. Как ни странно, работу «фильтров» за вводом и выводом LLM на предмет угроз как правило выполняет другая ИИ-модель.
3. Может ли развитие ИИ сделать классические методы детектирования (сигнатуры, правила) окончательно неактуальными?
Нет, качественная база сигнатуры обеспечивает практически нулевой false-positive, даёт понятный вердикт и не требует объяснений. Ни одна ML-модель не переигрывает сигнатуру на хорошо изученном классе угроз. В этом контексте детерминизм это аудируемое, воспроизводимое, и доказуемое преимущество.
Наибольшая отдача наблюдается в SOC-операциях (триаж и корреляция событий), антифроде и поведенческой аналитике (UEBA/NDR).
2. Какие направления связи «ИИ+ИБ» будут развиваться быстрее всего в ближайшие годы?
Наиболее быстрый рост ожидается в области автономных SOC/SOAR-агентов, а также защите систем с использованием искусственного интеллекта. Как ни странно, работу «фильтров» за вводом и выводом LLM на предмет угроз как правило выполняет другая ИИ-модель.
3. Может ли развитие ИИ сделать классические методы детектирования (сигнатуры, правила) окончательно неактуальными?
Нет, качественная база сигнатуры обеспечивает практически нулевой false-positive, даёт понятный вердикт и не требует объяснений. Ни одна ML-модель не переигрывает сигнатуру на хорошо изученном классе угроз. В этом контексте детерминизм это аудируемое, воспроизводимое, и доказуемое преимущество.
ИИ уже стал частью ваших процессов?
Проверьте, насколько безопасно его использование >>>
