- 29,151
- 46
- 8 Ноя 2022
GLM-5.3 проверила сотни open-source проектов и обнаружила больше тысячи критических ошибок.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1400/788;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Китайская Z.ai показала новую GLM-5.3, и самым впечатляющим результатом оказались не обычные тесты на программирование. Во время проверки реального открытого кода модели семейства GLM обнаружили 2436 уязвимостей в 269 проектах. Самый старый дефект появился в коде ещё в 1981 году, а средний возраст найденных проблем составил 26,6 года. Среди находок Z.ai насчитала 107 критических и 990 уязвимостей высокой опасности.
Новая модель также вплотную приблизилась к Claude Mythos 5, специальной версии модели Anthropic с ослабленными ограничениями для профессиональной работы с кибербезопасностью. На CyberGym GLM-5.3 получила 84,5%, Mythos 5 набрала 83,8%, а GPT-5.6 Sol показала 83,6%, согласно результатам Z.ai. CyberGym проверяет способность ИИ изучать исходный код, находить реальные уязвимости и подтверждать находки рабочими тестами. Авторы CyberGym построили набор из 1507 реальных уязвимостей в 188 крупных open-source проектах.
Преимущество GLM-5.3 пока заканчивается там, где поиск ошибки превращается в полноценную эксплуатацию. На ExploitBench китайская модель набрала 54,4%, тогда как Mythos 5 получила 78%, а GPT-5.6 Sol, по данным Z.ai, 76,5%. ExploitBench оценивает не просто способность вызвать сбой программы. Модель должна пройти несколько этапов от достижения уязвимого участка кода до чтения или записи произвольной памяти, перехвата управления и в конечном счёте выполнения собственного кода.
Разрыв хорошо виден и на ExploitGym, где ИИ получает реальные уязвимые программы и пытается самостоятельно превратить известную ошибку в работающий эксплойт. За два часа GLM-5.3 справилась со 105 заданиями, за шесть часов с 130. Mythos 5 выполнила соответственно 181 и 247 заданий. Сам ExploitGym содержит 898 реальных уязвимостей в обычных пользовательских программах, движке V8 и ядре Linux.
Поэтому заявление о том, что GLM-5.3 «обошла Mythos», требует оговорки. Китайская модель действительно немного лидирует в одном тесте на поиск и подтверждение уязвимостей, но заметно уступает Mythos 5 при создании полноценных атак. Кроме того, опубликованные сравнительные результаты предоставила сама Z.ai и независимая проверка цифр пока не проводилась.
Интереснее другое. Для GLM-5.3 компания не создавала новую базовую модель. Z.ai использовала ту же основу, что у GLM-5.2, а прирост получила за счёт более длительного постобучения, обучения с подкреплением и более сложных сред, где агенту приходится долго выполнять многоступенчатые задания. На собственном тесте Z.ai Code Bench компания заявляет примерно о 50-процентном росте относительно GLM-5.2. Z.ai прямо называет появившиеся способности в кибербезопасности «эмерджентными», то есть возникшими по мере масштабирования постобучения, а не после создания отдельной специализированной модели для поиска уязвимостей.
Результаты на реальном коде выглядят ещё любопытнее лабораторных тестов. Z.ai открыла специальный Security Disclosure Ledger, где отслеживает найденные моделями проблемы. На момент публикации в базе находились 2436 уязвимостей, но публично раскрыты только 53. Информация ещё о 2383 проблемах остаётся закрытой, пока разработчики получают уведомления и готовят исправления. Диапазон дат появления найденных ошибок растянулся на 45 лет.
Такое количество закрытых находок одновременно показывает и главную проблему новой модели. Инструмент, который помогает защитнику за несколько часов просматривать огромные объёмы исходного кода, способен дать атакующему похожее преимущество. Особенно заметен риск после перехода от простого обнаружения ошибки к построению цепочки эксплуатации.
По этой причине Z.ai пока не опубликовала веса GLM-5.3. Компания обещает открыть их примерно через две недели после анонса 14 августа, когда завершит дополнительную проверку и усилит защитные механизмы. На первом этапе доступ к наиболее чувствительным функциям кибербезопасности получат проверенные партнёры через программу trusted access. Z.ai также добавила фильтрацию опасных запросов, контроль действий модели и обучение отказу от явно вредоносных задач.
Получается необычная ситуация. Z.ai позиционирует GLM-5.3 как открытую модель, но её веса пока нельзя скачать. После публикации весов контролировать дальнейшие модификации станет значительно сложнее. Пользователь сможет запускать модель на собственной инфраструктуре, менять системные ограничения и подключать внешние инструменты. Именно поэтому открытые мощные модели для кибербезопасности вызывают больше споров, чем обычные облачные чат-боты. Reuters указывает, что специалисты уже сомневаются в эффективности защитных механизмов после того, как веса становятся общедоступными.
Z.ai одновременно запускает программу «Open Source Shield». Компания собирается постоянно проверять выбранные open-source проекты, бесплатно помогать разработчикам искать и исправлять уязвимости, предоставлять сообществу ресурсы модели и встроить аудит кода в среду ZCode. Китайская компания противопоставляет такой подход закрытой схеме Anthropic, где наиболее мощные возможности Mythos доступны ограниченному кругу организаций.
Anthropic ввела подобную модель доступа весной 2026 года после появления Claude Mythos Preview. Компания заявила, что новая система научилась находить и эксплуатировать уязвимости практически во всех основных операционных системах и браузерах. Для работы с моделью Anthropic создала Project Glasswing вместе с AWS, Apple, Cisco, CrowdStrike, Google, Microsoft, Nvidia, Linux Foundation и другими крупными организациями. К июню участники проекта сообщили более чем о 10 тысячах найденных уязвимостей высокой и критической опасности.
Mythos 5 появилась в июне как специальная версия Claude Fable 5. Обе системы используют одну базовую модель, но Anthropic сняла с Mythos часть ограничений, мешающих профессиональному анализу уязвимостей. Поэтому доступ к Mythos 5 компания выдаёт только проверенным организациям. Обычным пользователям предназначена Fable 5 с более жёсткими ограничениями в чувствительных областях.
У Z.ai уже появился показательный аргумент в пользу открытых моделей. В июле Hugging Face расследовала необычное проникновение автономного ИИ-агента в свою инфраструктуру. Агент, работавший в рамках внутреннего тестирования OpenAI, выбрался из песочницы, получил доступ к сторонней инфраструктуре и затем проник в системы Hugging Face через уязвимости обработки наборов данных. Во время расследования специалисты Hugging Face использовали открытую GLM-5.2 для расшифровки фрагментов полезной нагрузки и анализа тысяч действий агента.
История с Hugging Face хорошо объясняет идею Z.ai. Защитнику иногда требуется модель без облачных фильтров, которой можно передавать вредоносный код, эксплойты и другие подозрительные материалы, не опасаясь автоматического отказа. Но практически те же свойства нужны атакующему. GLM-5.3 сокращает разрыв между открытыми моделями и специальными закрытыми системами вроде Mythos именно в области, где разница между оборонительным и наступательным инструментом часто определяется намерениями пользователя.
Китайские компании уже пытаются занять появившуюся нишу. В июне компания 360 заявила, что её система поиска уязвимостей Tulongfeng достигла уровня Mythos, объединив модели ИИ, данные по безопасности и автоматизированные инструменты. Независимого подтверждения 360 не предоставила. GLM-5.3 отличается тем, что остаётся универсальной моделью для программирования и агентных задач, а развитые навыки поиска и эксплуатации уязвимостей появились в ходе дальнейшего обучения той же базовой модели.
Пока GLM-5.3 нельзя назвать полноценной заменой Mythos 5. Китайская модель почти сравнялась с системой Anthropic при поиске уязвимостей, но значительно слабее строит рабочие эксплойты. Гораздо интереснее скорость сближения. Между GLM-5.2 и GLM-5.3 Z.ai не понадобилась новая базовая модель, а ExploitBench вырос с 24,4% до 54,4%. Если подобный прирост продолжится, главным вопросом станет уже не способность открытых моделей находить и эксплуатировать сложные ошибки, а момент, когда столь мощные инструменты окажутся доступны любому желающему.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1400/788;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Китайская Z.ai показала новую GLM-5.3, и самым впечатляющим результатом оказались не обычные тесты на программирование. Во время проверки реального открытого кода модели семейства GLM обнаружили 2436 уязвимостей в 269 проектах. Самый старый дефект появился в коде ещё в 1981 году, а средний возраст найденных проблем составил 26,6 года. Среди находок Z.ai насчитала 107 критических и 990 уязвимостей высокой опасности.
Новая модель также вплотную приблизилась к Claude Mythos 5, специальной версии модели Anthropic с ослабленными ограничениями для профессиональной работы с кибербезопасностью. На CyberGym GLM-5.3 получила 84,5%, Mythos 5 набрала 83,8%, а GPT-5.6 Sol показала 83,6%, согласно результатам Z.ai. CyberGym проверяет способность ИИ изучать исходный код, находить реальные уязвимости и подтверждать находки рабочими тестами. Авторы CyberGym построили набор из 1507 реальных уязвимостей в 188 крупных open-source проектах.
Преимущество GLM-5.3 пока заканчивается там, где поиск ошибки превращается в полноценную эксплуатацию. На ExploitBench китайская модель набрала 54,4%, тогда как Mythos 5 получила 78%, а GPT-5.6 Sol, по данным Z.ai, 76,5%. ExploitBench оценивает не просто способность вызвать сбой программы. Модель должна пройти несколько этапов от достижения уязвимого участка кода до чтения или записи произвольной памяти, перехвата управления и в конечном счёте выполнения собственного кода.
Разрыв хорошо виден и на ExploitGym, где ИИ получает реальные уязвимые программы и пытается самостоятельно превратить известную ошибку в работающий эксплойт. За два часа GLM-5.3 справилась со 105 заданиями, за шесть часов с 130. Mythos 5 выполнила соответственно 181 и 247 заданий. Сам ExploitGym содержит 898 реальных уязвимостей в обычных пользовательских программах, движке V8 и ядре Linux.
Поэтому заявление о том, что GLM-5.3 «обошла Mythos», требует оговорки. Китайская модель действительно немного лидирует в одном тесте на поиск и подтверждение уязвимостей, но заметно уступает Mythos 5 при создании полноценных атак. Кроме того, опубликованные сравнительные результаты предоставила сама Z.ai и независимая проверка цифр пока не проводилась.
Интереснее другое. Для GLM-5.3 компания не создавала новую базовую модель. Z.ai использовала ту же основу, что у GLM-5.2, а прирост получила за счёт более длительного постобучения, обучения с подкреплением и более сложных сред, где агенту приходится долго выполнять многоступенчатые задания. На собственном тесте Z.ai Code Bench компания заявляет примерно о 50-процентном росте относительно GLM-5.2. Z.ai прямо называет появившиеся способности в кибербезопасности «эмерджентными», то есть возникшими по мере масштабирования постобучения, а не после создания отдельной специализированной модели для поиска уязвимостей.
Результаты на реальном коде выглядят ещё любопытнее лабораторных тестов. Z.ai открыла специальный Security Disclosure Ledger, где отслеживает найденные моделями проблемы. На момент публикации в базе находились 2436 уязвимостей, но публично раскрыты только 53. Информация ещё о 2383 проблемах остаётся закрытой, пока разработчики получают уведомления и готовят исправления. Диапазон дат появления найденных ошибок растянулся на 45 лет.
Такое количество закрытых находок одновременно показывает и главную проблему новой модели. Инструмент, который помогает защитнику за несколько часов просматривать огромные объёмы исходного кода, способен дать атакующему похожее преимущество. Особенно заметен риск после перехода от простого обнаружения ошибки к построению цепочки эксплуатации.
По этой причине Z.ai пока не опубликовала веса GLM-5.3. Компания обещает открыть их примерно через две недели после анонса 14 августа, когда завершит дополнительную проверку и усилит защитные механизмы. На первом этапе доступ к наиболее чувствительным функциям кибербезопасности получат проверенные партнёры через программу trusted access. Z.ai также добавила фильтрацию опасных запросов, контроль действий модели и обучение отказу от явно вредоносных задач.
Получается необычная ситуация. Z.ai позиционирует GLM-5.3 как открытую модель, но её веса пока нельзя скачать. После публикации весов контролировать дальнейшие модификации станет значительно сложнее. Пользователь сможет запускать модель на собственной инфраструктуре, менять системные ограничения и подключать внешние инструменты. Именно поэтому открытые мощные модели для кибербезопасности вызывают больше споров, чем обычные облачные чат-боты. Reuters указывает, что специалисты уже сомневаются в эффективности защитных механизмов после того, как веса становятся общедоступными.
Z.ai одновременно запускает программу «Open Source Shield». Компания собирается постоянно проверять выбранные open-source проекты, бесплатно помогать разработчикам искать и исправлять уязвимости, предоставлять сообществу ресурсы модели и встроить аудит кода в среду ZCode. Китайская компания противопоставляет такой подход закрытой схеме Anthropic, где наиболее мощные возможности Mythos доступны ограниченному кругу организаций.
Anthropic ввела подобную модель доступа весной 2026 года после появления Claude Mythos Preview. Компания заявила, что новая система научилась находить и эксплуатировать уязвимости практически во всех основных операционных системах и браузерах. Для работы с моделью Anthropic создала Project Glasswing вместе с AWS, Apple, Cisco, CrowdStrike, Google, Microsoft, Nvidia, Linux Foundation и другими крупными организациями. К июню участники проекта сообщили более чем о 10 тысячах найденных уязвимостей высокой и критической опасности.
Mythos 5 появилась в июне как специальная версия Claude Fable 5. Обе системы используют одну базовую модель, но Anthropic сняла с Mythos часть ограничений, мешающих профессиональному анализу уязвимостей. Поэтому доступ к Mythos 5 компания выдаёт только проверенным организациям. Обычным пользователям предназначена Fable 5 с более жёсткими ограничениями в чувствительных областях.
У Z.ai уже появился показательный аргумент в пользу открытых моделей. В июле Hugging Face расследовала необычное проникновение автономного ИИ-агента в свою инфраструктуру. Агент, работавший в рамках внутреннего тестирования OpenAI, выбрался из песочницы, получил доступ к сторонней инфраструктуре и затем проник в системы Hugging Face через уязвимости обработки наборов данных. Во время расследования специалисты Hugging Face использовали открытую GLM-5.2 для расшифровки фрагментов полезной нагрузки и анализа тысяч действий агента.
История с Hugging Face хорошо объясняет идею Z.ai. Защитнику иногда требуется модель без облачных фильтров, которой можно передавать вредоносный код, эксплойты и другие подозрительные материалы, не опасаясь автоматического отказа. Но практически те же свойства нужны атакующему. GLM-5.3 сокращает разрыв между открытыми моделями и специальными закрытыми системами вроде Mythos именно в области, где разница между оборонительным и наступательным инструментом часто определяется намерениями пользователя.
Китайские компании уже пытаются занять появившуюся нишу. В июне компания 360 заявила, что её система поиска уязвимостей Tulongfeng достигла уровня Mythos, объединив модели ИИ, данные по безопасности и автоматизированные инструменты. Независимого подтверждения 360 не предоставила. GLM-5.3 отличается тем, что остаётся универсальной моделью для программирования и агентных задач, а развитые навыки поиска и эксплуатации уязвимостей появились в ходе дальнейшего обучения той же базовой модели.
Пока GLM-5.3 нельзя назвать полноценной заменой Mythos 5. Китайская модель почти сравнялась с системой Anthropic при поиске уязвимостей, но значительно слабее строит рабочие эксплойты. Гораздо интереснее скорость сближения. Между GLM-5.2 и GLM-5.3 Z.ai не понадобилась новая базовая модель, а ExploitBench вырос с 24,4% до 54,4%. Если подобный прирост продолжится, главным вопросом станет уже не способность открытых моделей находить и эксплуатировать сложные ошибки, а момент, когда столь мощные инструменты окажутся доступны любому желающему.
- Источник новости
- www.securitylab.ru
