Эксперты Сбера обозначили пять базовых мер для обеспечения кибербезопасности саморазвивающихся AI-агентов

Эволюция AI-агентов — глобальный тренд. В ближайшем будущем этот процесс будет оказывать существенное влияние на кибербезопасность всех организаций, использующих в своей работе высокотехнологичные цифровые решения. Эксперты Сбера на конференции OFFZONE 2026 представили результаты собственного исследования безопасности саморазвивающихся агентов. Исследование базируется на обновлённой версии Модели угроз кибербезопасности AI Сбера. Ключевые выводы исследования:

• безопасность AI-модели не гарантирует безопасность самих AI-агентов
• существуют угрозы, которые необходимо устранять на уровне агентных систем
• самоэволюция — способность агента самостоятельно обновлять память, навыки и код
• главное — отделить полезное изменение от неконтролируемого и вредного
• за людьми остаются контроль и ответственность

Что такое саморазвивающиеся AI-агенты

Самоэволюция или саморазвитие подразумевает способность агента самостоятельно обновлять память, навыки и код, используя собственные инструменты для выполнения поставленной цели. Это делает агентов более функциональными, но создаёт риски неконтролируемых изменений. Главное — отделить полезное изменение от неконтролируемого и потенциально вредного. Именно поэтому ключевое внимание необходимо уделять вопросам кибербезопасности.

Пять базовых мер кибербезопасности от Сбера

Для минимизации угроз неконтролируемого и потенциально вредного саморазвития эксперты Сбера предложили пять базовых мер: 1. Строгая изоляция агентов Реализация локальных сервисов памяти, собственных и делегированных токенов доступа и отдельных сред исполнения для каждого агента и его пользователя. Это предотвращает несанкционированный доступ и распространение угроз между агентами. 2. Разделение контуров разработки и эксплуатации Самоэволюция полностью отключена в эксплуатационной среде, поскольку в ней возможен доступ к чувствительным данным. В контуре разработки процесс самоэволюции возможен, но при этом доступ к данным разрешён исключительно на чтение, а доступ к сети отключён. Вывод решения в эксплуатацию происходит со стандартными проверками кибербезопасности. 3. Независимые системы безопасности Механизмы защиты вынесены за контур исполняемого кода агента. Централизованная система обеспечивает сбор и обработку телеметрии и метрик, ограничители (гардрейлы) блокируют аномалии (промпт-атаки, утечки, токсичность и пр.) в реальном времени, далее следует офлайн-анализ и, при необходимости, принятие решения о допустимости действий агента. 4. Корпоративный реестр навыков Все инструменты, которыми пользуется агент, проходят обязательную статическую и динамическую проверку перед попаданием в реестр. Дополнительно рекомендуется анализировать опасные комбинации инструментов на предмет избыточных совокупных возможностей. 5. Использование песочницы для запуска кода Любой код, генерируемый AI-агентом, запускается в изолированной среде. Сессия имеет ограниченное время жизни, собственные временные токены доступа, запрет на доступ к сети и строгие лимиты на использование процессора, памяти и файловой системы.

Модель угроз кибербезопасности AI Сбера

Исследование базируется на обновлённой версии Модели угроз кибербезопасности AI Сбера, которая систематизирует 37 угроз и 51 способ их реализации, включая риски, связанные с GenAI, AI-агентами и мультиагентными системами. Модель опубликована на портале «Кибрарий» и свободно доступна всем российским государственным и частным организациям. Предоставление публичного доступа к ней — вклад Сбера в кибербезопасность всей страны.

Почему это важно

AI-агенты становятся частью критической инфраструктуры компаний. Их саморазвитие может привести к неконтролируемым изменениям, утечкам данных и сбоям. Государственные и частные организации, которые не уделяют должное внимание безопасности агентных систем, рискуют столкнуться с серьёзными проблемами в ближайшем будущем. Предложенные меры помогают отделить полезное развитие агентов от вредного и сохранить контроль над их поведением.

Итог: Сбер задаёт стандарт безопасности AI-агентов

Эксперты Сбера на OFFZONE 2026 предложили пять базовых мер для кибербезопасности саморазвивающихся AI-агентов: изоляция, разделение сред, независимые системы безопасности, корпоративный реестр навыков и песочницы для запуска кода. Исследование базируется на обновлённой Модели угроз AI Сбера, которая открыта для всех организаций. Мнение автора: Исследование Сбера — это важный шаг в развитии безопасного AI. Саморазвивающиеся агенты — это будущее, но без контроля они могут стать угрозой. Пять предложенных мер — это не просто рекомендации, а базовый стандарт, который должны внедрять все компании, работающие с AI. Особенно важно, что Модель угроз опубликована в открытом доступе. Это позволяет всей отрасли использовать единые подходы к безопасности, а не изобретать велосипед. Это вклад Сбера в безопасность всей страны.