Как мошенники используют искусственный интеллект: главные угрозы для бизнеса

Искусственный интеллект стал доступным практически каждому. Используя его, можно быстро создать сайт, сгенерировать изображения или написать код. Эти же возможности взяли на вооружение киберпреступники: они значительно ускорили подготовку атак и сделали их более массовыми.

Раньше мошеннические письма выдавали шаблонные фразы и явные ошибки. Теперь же фишинговые письма могут быть почти неотличимыми от легитимной переписки. Разберём, как злоумышленники используют искусственный интеллект, почему такие киберугрозы для бизнеса становятся опаснее и как защитить персонал и компанию.

Еще несколько лет назад проведение качественной фишинговой атаки требовало времени, опыта и хорошего знания методов социальной инженерии. Необходимо было самостоятельно сформировать письмо, подобрать стиль общения, найти информацию о компании и потенциальной жертве. А сейчас значительную часть этой работы может выполнять искусственный интеллект.

ИИ не является источником мошенничества сам по себе. Однако современные генеративные модели способны автоматизировать рутинные задачи, которыми раньше занимались злоумышленники:

• адаптация текста под конкретную компанию;
• генерация изображений;
• подделка голоса;
• написание вредоносных скриптов начального уровня;
• копирование дизайна сайтов и рекламных материалов.

В результате подготовка атак может занимать меньше времени, а их количество и масштаб увеличиваться. Это повышает риски для информационной безопасности компании.

Раньше для создания правдоподобной рассылки требовалось больше времени, четкий тайминг и географическая ориентированность.

Сегодня злоумышленник может использовать ИИ для сбора и анализа информации о компании или руководителе, изучения рекламных публикаций, характерных фраз и особенностей коммуникации. На основе этих данных он способен создать письмо, изображение или сайт.

Через несколько секунд можно получить результат, который выглядит профессионально и вызывает доверие. Более того, мошенник может адаптировать фишинговую атаку под конкретное направление, как корпоративное, так и клиентское.

Большое количество информации о предприятиях находится в открытом доступе:

• официальный сайт;
• социальные сети;
• публикации сотрудников;
• вакансии;
• новости и пресс-релизы;
• профили сотрудников в профессиональных сервисах.

Искусственный интеллект помогает быстро объединить эту информацию и сформировать реалистичный сценарий общения, соответствующий стилю компании.

Например, злоумышленник может узнать:

• структуру бизнеса и состав команды;
• подрядчиков, партнеров и поставщиков;
• используемые программные продукты и сервисы;
• текущие и недавно завершенные проекты;
• стиль внутренней и внешней коммуникации компании.

Если раньше на сбор, анализ и сопоставление такой информации злоумышленнику требовались часы или даже дни, то сегодня ИИ помогает автоматизировать значительную часть этой работы.

Такие возможности используются в атаках социальной инженерии, где доверие сотрудника пытаются получить за счет персонализированного обращения и знания особенностей компании.

Современные нейросети способны подготовить:

• коммерческие предложения;
• счета;
• договоры;
• уведомления;
• презентации;
• внутренние регламенты.

Такие документы сложно отличить от настоящих только по внешнему виду. При этом их можно распознать по косвенным признакам или путем проверки источника, реквизитов, электронной подписи и метаданных. Однако проверка требует дополнительного времени и ресурсов.

Защита от мошенничества в таких случаях предполагает не только визуальную оценку документа, но и проверку его происхождения и соответствия установленным процессам компании.

ИИ позволяет создавать:

• фотографии сотрудников;
• изображения документов;
• персональные подписи;
• рекламные объявления.

Развитие современных моделей повысило качество и реалистичность создаваемых изображений. Некоторые поддельные материалы могут выглядеть убедительно и привлекательно благодаря детализации, стилистике и визуальному оформлению.

Поэтому при проверке материалов важно учитывать не только их внешний вид, но и источник, контекст использования и соответствие реальной коммуникации компании.

Сотрудники получают сообщение:

Текст написан от имени официальной технической поддержки сервиса. Учитывая регулярность подобных уведомлений, сотрудник не обращает внимания на то, что в адресе отправителя присутствует дополнительный символ.

В итоге сотрудник вводит старый и новый пароль на поддельной странице, тем самым передавая злоумышленникам данные для доступа к корпоративной учетной записи.

В данном случае ИИ может использоваться для автоматизации подготовки и отправки сообщений, а также адаптации их содержания под конкретную компанию.

Подобные фишинговые атаки направлены на получение учетных данных и могут стать причиной компрометации корпоративных ресурсов.

Компании все чаще сталкиваются с резюме от кандидатов, полностью подготовленными с помощью ИИ. В отдельных случаях письма могут содержать фишинговые ссылки, вредоносные файлы или ссылки на поддельные сайты.

Подобные схемы могут использоваться для получения доступа к корпоративной инфраструктуре или кражи персональных данных с компьютера сотрудника.

Для снижения рисков важно проверять отправителей, содержимое вложений и ссылки, особенно если взаимодействие происходит с неизвестным кандидатом или через нестандартные каналы коммуникации.

Использование современных средств защиты остается важным, но человеческий фактор по-прежнему является одной из основных целей злоумышленников.

Комплексная защита бизнеса от кибератак должна включать несколько направлений.

• использовать многофакторную аутентификацию;
• применять фильтрацию вредоносных ссылок с помощью специализированного программного обеспечения;
• осуществлять мониторинг доменов-двойников;
• контролировать утечки данных;
• проводить мониторинг упоминаний бренда в сети.

Сочетание организационных и технических мер позволяет снизить вероятность успешной фишинговой атаки и своевременно выявлять потенциальные киберугрозы.

Искусственный интеллект является инструментом, который помогает автоматизировать и упростить отдельные этапы подготовки атаки. Решения о проведении мошеннических действий принимают люди, которые несут ответственность за свои действия.

При этом уровень автоматизации зависит от используемых технологий и конкретного сценария. ИИ может помогать в создании контента, анализе информации, подготовке сообщений и выполнении отдельных технических задач, но это не означает, что любая модель самостоятельно организует полноценную атаку без участия человека.

Искусственный интеллект существенно изменил подход злоумышленников к подготовке мошеннических атак. Он позволяет быстрее создавать убедительные письма, персонализировать сценарии, оформлять поддельные документы и автоматизировать часть технической работы. В результате атаки становятся более массовыми и значительно сложнее распознаются только по визуальным признакам.

Однако базовые принципы информационной безопасности остаются прежними.

Для бизнеса особенно важно не ограничиваться техническими средствами защиты. Регулярное обучение сотрудников, мониторинг цифровых угроз, контроль появления фишинговых ресурсов и своевременное выявление злоупотреблений брендом позволяют снизить вероятность успешной атаки.

Злоумышленники активно используют новые технологии, поэтому эффективная защита от кибератак предполагает сочетание современных средств защиты, грамотных процессов и внимательности персонала.

Оставьте свои контактные данные и мы свяжемся с вами для уточнения деталей.