24 сентября на площадке MTS Live Hall в Воронеже прошёл ИТ-форум «Цифроземье-2026». Деловая программа объединила семь тематических направлений, среди которых — информационная безопасность, искусственный интеллект в промышленности, технологический суверенитет и импортозамещение, цифровизация АПК, стратегии развития ИТ-бизнеса и другие актуальные вопросы цифровой трансформации.

В деловой программе форума принял участие Сергей Гаркуша, руководитель направления безопасной разработки ИИ Infosecurity (ГК Softline). Он выступил с докладом «Искусственный интеллект: ключевые тренды, вызовы, подходы к защите».

В своём выступлении Сергей рассказал о ключевых угрозах, которые возникают по мере активного внедрения ИИ в бизнес-процессы. Среди них — prompt-инъекции и jailbreak-атаки, утечки чувствительных данных, отравление данных модели, уязвимости цепочек поставок, риски, связанные с ИИ-агентами, а также неконтролируемое использование сотрудниками внешних ИИ-сервисов.

Отдельное внимание эксперт уделил системному подходу к управлению безопасностью ИИ. Он отметил, что защита должна учитывать не только конкретную модель, но и весь контекст её использования: архитектуру ИИ-системы, данные, интеграции, сценарии применения и потенциальное воздействие угроз на бизнес. На этой основе формируется профиль актуальных угроз, определяются требования к безопасности и меры защиты.

«ИИ уже перестал быть экспериментальной технологией — он становится частью критичных бизнес-процессов, работает с корпоративными данными, принимает решения и получает доступ к другим системам. При этом подход к его безопасности во многих компаниях пока не успевает за скоростью внедрения.

Нельзя ограничиваться защитой самой модели или установкой очередного средства контроля. Нужно управлять безопасностью ИИ как системой: понимать архитектуру, сценарии использования и поверхность атаки, оценивать риски для бизнеса, проверять угрозы на практике и закладывать защиту на всех этапах жизненного цикла.

Именно переход от отдельных мер к системному управлению безопасностью ИИ сегодня становится одной из ключевых задач для бизнеса».

Сергей Гаркуша, руководитель направления безопасной разработки ИИ Infosecurity

В основной части доклада Сергей рассказал об инструментах и подходах, которые позволяют выстроить такую защиту: инвентаризации используемых ИИ-сервисов и компонентов, разграничении доступа, безопасной архитектуре ИИ-агентов, контроле внешних взаимодействий и цепочек поставок. Отдельно он остановился на тестировании защищённости ИИ-систем — моделировании актуальных угроз, проверке их технической реализуемости и проведении пентестов с учётом архитектуры конкретной системы.

Если вашей компании необходимо оценить риски, связанные с использованием ИИ, проверить защищённость ИИ-систем или выстроить комплексный подход к их безопасности, эксперты Infosecurity готовы помочь.

Оставить заявку

Оставьте свои контактные данные, чтобы мы могли связаться с вами для дальнейших шагов.

Другие новости и статьи

Эксперт Infosecurity о системном подходе к безопасности ИИ на форуме «Цифроземье-2026»

Цифровой след первых лиц: как не допустить, чтобы данные стали инструментом кибератаки

Как мошенники используют искусственный интеллект: главные угрозы для бизнеса