Сбер открыл доступ к собственной обновлённой модели угроз для систем искусственного интеллекта

Это позволит всем российским государственным структурам и частным компаниям учитывать опыт Сбера для повышения киберустойчивости своих ИИ-решений.

Массовое внедрение генеративных моделей, мультиагентных систем, RAG и LLM-адаптеров, а также усложнение архитектур ИИ-решений существенно изменили ландшафт киберугроз для всех современных организаций. Обновлённая модель угроз Сбера, учитывающая эти изменения, опубликована в открытом доступе на портале «Кибрарий» в разделе «Экспертам».

Актуализированная модель описывает 37 угроз и 51 способ их реализации. Для каждой угрозы определены возможные последствия, нарушаемые свойства информации, связанные объекты и этапы жизненного цикла.

Реализация конкретных описанных в модели угроз может привести, например, к утечке или искажению данных, нарушению доступности и логики работы ИИ-решений, компрометации моделей и инфраструктуры, а также выполнению ИИ-агентами нелегитимных действий.

Угрозы и способы их реализации соотнесены с видами потенциальных нарушителей, различающихся уровнем осведомлённости, технических возможностей и доступа к компонентам ИИ-решений, а также объектами защиты и воздействия. Кроме того, перечень объектов защиты расширен: он включает компоненты, которые ранее не рассматривались, но сегодня стали критическими точками атак. Это позволяет точнее определять актуальные угрозы с учётом архитектуры и условий эксплуатации конкретного ИИ-решения.

Модель предназначена для разработчиков ИИ-решений, MLOps-инженеров, архитекторов и специалистов по кибербезопасности, руководителей, отвечающих за управление рисками. Она помогает выстроить системный подход к моделированию и учёту угроз кибербезопасности на всех этапах жизненного цикла данных, моделей и ИИ-решений – от сбора и подготовки данных до разработки, обучения, эксплуатации моделей и их интеграции с бизнес-системами. Модель может применяться в процессах безопасной разработки и MLOps при проектировании и эксплуатации генеративных, агентных и мультиагентных систем в реальной инфраструктуре.

Документ базируется на анализе актуальных угроз, мировых практиках и собственном опыте Сбера по обеспечению кибербезопасности инфраструктуры разработки, обучения и эксплуатации ИИ-решений.

Публикация документа даёт российским организациям готовый инструмент для выявления и приоритезации угроз на ранних стадиях проектирования, а также определять ответственных за митигацию.

Генеральный партнёр Межрегионального конкурса журналистского мастерства «Сибирь.ПРО» Сибирский банк СБЕР представляет номинацию, созданную нейросетевой моделью Сбера GigaChat и направленную на всестороннее исследование темы искусственного интеллекта – «ПРО технологии будущего». Журналистские материалы, претендующие на победу, расскажут о работе инновационных платформ и приложений, решениях, которые меняют привычные процессы и подходы, влиянии технологий на общество, вопросах безопасности данных, прав и ответственности человека. Среди публикаций также могут быть сюжеты об успешных примерах внедрения искусственного интеллекта, а именно о кейсах компаний и организаций, которые эффективно его используют для решения реальных задач.