Российские компании получили инструмент для защиты ИИ-решений

Массовое внедрение генеративных моделей, мультиагентных систем, RAG и LLM-адаптеров, а также усложнение архитектур ИИ-решений изменили ландшафт киберугроз. Обновлённая модель угроз Сбера, учитывающая эти изменения, опубликована в открытом доступе на портале «Кибрарий» в разделе «Экспертам».

Актуализированная модель описывает 37 угроз и 51 способ их реализации. Для каждой угрозы определены возможные последствия, нарушаемые свойства информации, связанные объекты и этапы жизненного цикла.

Реализация угроз может привести к утечке или искажению данных, нарушению доступности и логики работы ИИ-решений, компрометации моделей и инфраструктуры, а также выполнению ИИ-агентами нелегитимных действий.

Угрозы и способы их реализации соотнесены с видами потенциальных нарушителей, различающихся уровнем осведомлённости, технических возможностей и доступа к компонентам ИИ-решений. Перечень объектов защиты расширен: включены компоненты, которые ранее не рассматривались, но сегодня стали критическими точками атак.

Модель предназначена для разработчиков ИИ-решений, MLOps-инженеров, архитекторов, специалистов по кибербезопасности и руководителей по управлению рисками. Она помогает выстроить системный подход к моделированию и учёту угроз на всех этапах жизненного цикла — от сбора и подготовки данных до разработки, обучения и эксплуатации моделей. Может применяться в процессах безопасной разработки и MLOps при проектировании и эксплуатации генеративных, агентных и мультиагентных систем.

Документ основан на анализе актуальных угроз, мировых практиках и собственном опыте банка по обеспечению кибербезопасности ИИ-инфраструктуры.

Публикация даёт российским организациям готовый инструмент для выявления и приоритезации угроз на ранних стадиях проектирования и определения ответственных за митигацию.