Кибербезопасность фармацевтики: защита КИИ, исследовательских данных и ИИ-систем

В перечне типовых отраслевых объектов КИИ, утверждённом распоряжением Правительства РФ № 360-р, выделены информационные системы фармацевтических организаций и системы, взаимодействующие с ЕГИСЗ. В числе соответствующих видов деятельности указана оптовая торговля фармацевтической продукцией — ОКВЭД 46.46.

Для компании это повод проверить состав объектов КИИ и корректность категорирования. При оценке значимости необходимо учитывать взаимосвязи систем, сценарии кибератак и масштаб их последствий. Разделение объекта на небольшие подсистемы или исключение систем на стадии разработки может исказить оценку.В перечне

Для фармкомпаний со значимыми объектами КИИ появляется конкретная задача: с 1 марта 2027 года рассчитывать показатель защищённости Кзи не реже раза в полгода, а показатель зрелости Узи — не реже раза в три года. Результаты оценки Кзи необходимо направлять во ФСТЭК России в течение пяти рабочих дней после расчёта.

Подготовка включает проверку технических мер и процессов ИБ: управления доступом и уязвимостями, мониторинга, реагирования и резервного копирования. Такая оценка помогает определить, какие пробелы в защите нужно устранить в первую очередь.

После категорирования необходимо разработать модель угроз и документацию, спроектировать и внедрить систему защиты, организовать взаимодействие с ГосСОПКА.

В плане развития инфраструктуры также нужно учитывать переход на доверенные программно-аппаратные комплексы и задачи импортозамещения ПО.

Разработка лекарств, анализ доклинических исследований, прогнозирование состояния оборудования, контроль продукции и упаковки, планирование запасов — сценарии применения ИИ в фармацевтике охватывают весь путь от разработки препарата до поставки.

Для каждого сценария важно определить, какие данные использует модель, с какими системами взаимодействует, какие риски использования систем ИИ существуют. На этой основе формируются требования к защите и распределяется ответственность между бизнесом, ИТ и ИБ.

Когда сотрудники пользуются нейросетями без согласованных правил, они могут отправить во внешний сервис фрагменты исследовательских данных, производственной документации или внутреннего кода. В запрос случайно могут попасть и конфиденциальные сведения. Например, настройки систем или ключи доступа. Кроме того, код, предложенный нейросетью, может содержать ошибки или уязвимости, поэтому его нужно проверять перед запуском. Как именно сервис хранит и использует отправленные данные, зависит от его условий и настроек.

Чтобы снизить риск, компании важно понимать, какими ИИ-сервисами пользуются сотрудники, ясно объяснить, какие данные туда можно отправлять, и предложить одобренные альтернативы. Также полезны обучение сотрудников и обязательная проверка сгенерированного кода.

ИИ-агент может не только отвечать на вопросы, но и обращаться к корпоративным приложениям, данным и инструментам. Если ему выдали слишком широкие права или разрешили действовать без контроля, ошибочный ответ или вредоносная инструкция могут привести к нежелательным действиям. Поэтому доступ агента стоит ограничивать необходимым минимумом, а важные операции – например, изменение данных или запуск кода – подтверждать отдельно.

LLM Firewall, AI Gateway и другие защитные механизмы могут помочь контролировать взаимодействие с моделью, но их возможности зависят от того, как они настроены и какие запросы проходят через них. Они не заменяют контроль доступа в самих приложениях и проверку действий агента. Поэтому защиту стоит дополнять оценкой рисков и практическими испытаниями: проверять, как модель, агент и приложение ведут себя при ошибках и попытках обойти ограничения.

Infosecurity выполняет категорирование и комплекс работ по защите КИИ, оценивает защищённость и зрелость процессов ИБ.

В области ИИ — анализируем риски, разрабатываем корпоративные правила управления, проводим Red Teaming LLM-приложений и внедряем средства защиты.

Начать работу можно с оценки текущего состояния: определить, какие требования применимы к вашей компании и какие меры необходимы для защиты её систем и данных.