- 28,386
- 46
- 8 Ноя 2022
SingGuard-NSFA блокирует внедрение подсказок перед выполнением инструмента, устраняя уязвимость, выявленную JadePuffer.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Всего через двенадцать дней после первой полностью автоматизированной атаки с шифрованием данных компания Ant Group представила бесплатный инструмент, который должен останавливать опасные команды искусственного интеллекта до их выполнения.
Разработанная лабораторией безопасности искусственного интеллекта Ant Group система SingGuard-NSFA проверяет запросы и ответы автономных агентов перед обращением к внешним инструментам. Она ищет признаки скрытых инструкций, кражи учетных данных, запуска вредоносного кода, злоупотребления ресурсами и превышения полномочий. Исходный код и готовые модели опубликованы на GitHub и Hugging Face, а развернуть защиту можно на собственной инфраструктуре.
Выход SingGuard-NSFA последовал вскоре после публикации данных об операции JadePuffer . В июле компания Sysdig описала первый известный случай, когда языковая модель самостоятельно провела многоэтапную атаку от первоначального проникновения до уничтожения данных.
JadePuffer попала на не обновленный сервер Langflow через критическую уязвимость CVE-2025-3248 (10.0 Critical). Затем система собрала ключи доступа к облачным платформам и сервисам искусственного интеллекта, перешла на отдельный сервер MySQL с системой настройки Nacos и обошла проверку подлинности через уязвимость 2021 года.
Автоматизированный агент получил права администратора базы данных, зашифровал 1342 записи с настройками сервисов, удалил исходные таблицы и оставил требование выкупа в биткоинах. На одном из этапов модель самостоятельно устранила ошибку входа и нашла рабочий способ продолжить атаку за 31 секунду.
Вернуть данные после выплаты выкупа все равно не удалось бы. Ключ шифрования создали из случайных значений, один раз записали во внутренний журнал агента и нигде не сохранили. Фактически JadePuffer уничтожила информацию, а требование денег лишь имитировало обычную атаку вымогателя.
SingGuard-NSFA пытается остановить подобный сценарий в момент, когда агент только собирается выполнить команду. По данным Ant Group, система охватывает 185 сценариев угроз в семи категориях. Чтобы проверить систему, разработчики подготовили около 100 тыс. примеров на 133 языках.
Компания выпустила четыре версии модели объемом от 0,8 млрд до 9 млрд параметров. Самая крупная, по заявлениям Ant Group, принимает решение примерно за 50 миллисекунд, поэтому может проверять каждое обращение агента к внешнему инструменту без заметной задержки. Независимые организации пока не подтвердили заявленные показатели.
Подход Ant Group отличается от набора Agent Governance Toolkit, который Microsoft открыла весной 2026 года. Решение Microsoft сравнивает действия агента с заранее заданными правилами, а SingGuard-NSFA оценивает содержание запросов и пытается распознать вредоносный замысел. Первая система запрещает известные опасные действия, вторая должна замечать новые способы манипуляции, для которых правила еще не написали.
Разработчики могут запускать SingGuard-NSFA локально, поэтому данные не нужно передавать Ant Group. Однако сторонний аудит исходного кода пока не опубликован. Организациям из финансовой, медицинской, оборонной и государственной сфер придется самостоятельно проверить код и оценить риски цепочки поставок.
Новая защита также не заменяет обычные меры безопасности. JadePuffer проникла через уязвимость, исправленную больше года назад, а затем воспользовалась старой ошибкой Nacos и стандартными учетными данными MinIO. Серверы нужно обновлять, пароли – менять, а сетевой доступ – ограничивать: это по-прежнему остается первой линией защиты. SingGuard-NSFA добавляет еще один рубеж там, где автономный агент уже готов превратить вредоносную команду в реальное действие.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Всего через двенадцать дней после первой полностью автоматизированной атаки с шифрованием данных компания Ant Group представила бесплатный инструмент, который должен останавливать опасные команды искусственного интеллекта до их выполнения.
Разработанная лабораторией безопасности искусственного интеллекта Ant Group система SingGuard-NSFA проверяет запросы и ответы автономных агентов перед обращением к внешним инструментам. Она ищет признаки скрытых инструкций, кражи учетных данных, запуска вредоносного кода, злоупотребления ресурсами и превышения полномочий. Исходный код и готовые модели опубликованы на GitHub и Hugging Face, а развернуть защиту можно на собственной инфраструктуре.
Выход SingGuard-NSFA последовал вскоре после публикации данных об операции JadePuffer . В июле компания Sysdig описала первый известный случай, когда языковая модель самостоятельно провела многоэтапную атаку от первоначального проникновения до уничтожения данных.
JadePuffer попала на не обновленный сервер Langflow через критическую уязвимость CVE-2025-3248 (10.0 Critical). Затем система собрала ключи доступа к облачным платформам и сервисам искусственного интеллекта, перешла на отдельный сервер MySQL с системой настройки Nacos и обошла проверку подлинности через уязвимость 2021 года.
Автоматизированный агент получил права администратора базы данных, зашифровал 1342 записи с настройками сервисов, удалил исходные таблицы и оставил требование выкупа в биткоинах. На одном из этапов модель самостоятельно устранила ошибку входа и нашла рабочий способ продолжить атаку за 31 секунду.
Вернуть данные после выплаты выкупа все равно не удалось бы. Ключ шифрования создали из случайных значений, один раз записали во внутренний журнал агента и нигде не сохранили. Фактически JadePuffer уничтожила информацию, а требование денег лишь имитировало обычную атаку вымогателя.
SingGuard-NSFA пытается остановить подобный сценарий в момент, когда агент только собирается выполнить команду. По данным Ant Group, система охватывает 185 сценариев угроз в семи категориях. Чтобы проверить систему, разработчики подготовили около 100 тыс. примеров на 133 языках.
Компания выпустила четыре версии модели объемом от 0,8 млрд до 9 млрд параметров. Самая крупная, по заявлениям Ant Group, принимает решение примерно за 50 миллисекунд, поэтому может проверять каждое обращение агента к внешнему инструменту без заметной задержки. Независимые организации пока не подтвердили заявленные показатели.
Подход Ant Group отличается от набора Agent Governance Toolkit, который Microsoft открыла весной 2026 года. Решение Microsoft сравнивает действия агента с заранее заданными правилами, а SingGuard-NSFA оценивает содержание запросов и пытается распознать вредоносный замысел. Первая система запрещает известные опасные действия, вторая должна замечать новые способы манипуляции, для которых правила еще не написали.
Разработчики могут запускать SingGuard-NSFA локально, поэтому данные не нужно передавать Ant Group. Однако сторонний аудит исходного кода пока не опубликован. Организациям из финансовой, медицинской, оборонной и государственной сфер придется самостоятельно проверить код и оценить риски цепочки поставок.
Новая защита также не заменяет обычные меры безопасности. JadePuffer проникла через уязвимость, исправленную больше года назад, а затем воспользовалась старой ошибкой Nacos и стандартными учетными данными MinIO. Серверы нужно обновлять, пароли – менять, а сетевой доступ – ограничивать: это по-прежнему остается первой линией защиты. SingGuard-NSFA добавляет еще один рубеж там, где автономный агент уже готов превратить вредоносную команду в реальное действие.
- Источник новости
- www.securitylab.ru
