- 28,501
- 46
- 8 Ноя 2022
Искусственный интеллект сражался сам с собой на серверах Hugging Face.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Хакерская атака на Hugging Face показала, что автономные системы на базе искусственного интеллекта уже способны самостоятельно искать слабые места, закрепляться в инфраструктуре и перемещаться между внутренними сетями. Компания обнаружила вторжение в начале июля и заявила, что злоумышленник провёл всю операцию с помощью группы ИИ-агентов.
Атака началась с вредоносного набора данных, загруженного в систему обработки Hugging Face. Подготовленные злоумышленником файлы задействовали две уязвимости, которые позволяли запускать произвольный код на сервере. После первоначального проникновения атакующий получил доступ к узлу, собрал учётные данные облачных служб и систем управления вычислительными кластерами, а затем проник в несколько внутренних сред.
По данным Hugging Face, автономная система выполнила тысячи действий через множество временных изолированных сред. Средства управления атакой переносились между общедоступными сервисами, что помогало сохранять доступ и усложняло обнаружение. Основная активность пришлась на выходные, когда дежурные сотрудники могли отреагировать не сразу.
Злоумышленник получил доступ к ограниченному числу внутренних наборов данных и нескольким служебным учётным данным. Компания пока проверяет, затронула ли атака сведения партнёров или клиентов. Признаков изменения общедоступных моделей, наборов данных и приложений Spaces не обнаружено. Образы контейнеров и опубликованные программные пакеты также проверили и признали безопасными.
Вторжение выявила система анализа событий безопасности, которая использует языковые модели для поиска связанных аномалий. Затем Hugging Face применила собственных ИИ-агентов для разбора более 17 000 зарегистрированных действий злоумышленника. За несколько часов специалисты восстановили ход атаки, определили затронутые учётные данные и отделили реальные действия от ложных следов. При ручной проверке такая работа обычно заняла бы несколько дней.
Во время расследования компания столкнулась с неожиданной проблемой. Коммерческие языковые модели отказывались анализировать настоящие команды, вредоносный код и данные систем управления, поскольку защитные ограничения принимали материалы расследования за попытку провести атаку. Поэтому Hugging Face запустила открытую модель GLM 5.2 на собственной инфраструктуре. Так журналы событий и найденные учётные данные не покидали внутреннюю сеть.
Компания закрыла уязвимые механизмы обработки наборов данных, удалила следы злоумышленника, пересобрала скомпрометированные узлы и заменила затронутые ключи и токены доступа. Hugging Face также усилила правила допуска в вычислительные кластеры, обновила систему оповещений и привлекла сторонних специалистов по компьютерной криминалистике. О происшествии сообщили правоохранительным органам.
Пользователям рекомендовали заменить токены доступа и проверить недавнюю активность в своих учётных записях. Hugging Face считает, что автономные средства для проведения атак перестали быть теоретической угрозой. Подобные системы позволяют дёшево и быстро проводить продолжительные многоэтапные операции, поэтому защитным командам также придётся активнее применять искусственный интеллект.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Хакерская атака на Hugging Face показала, что автономные системы на базе искусственного интеллекта уже способны самостоятельно искать слабые места, закрепляться в инфраструктуре и перемещаться между внутренними сетями. Компания обнаружила вторжение в начале июля и заявила, что злоумышленник провёл всю операцию с помощью группы ИИ-агентов.
Атака началась с вредоносного набора данных, загруженного в систему обработки Hugging Face. Подготовленные злоумышленником файлы задействовали две уязвимости, которые позволяли запускать произвольный код на сервере. После первоначального проникновения атакующий получил доступ к узлу, собрал учётные данные облачных служб и систем управления вычислительными кластерами, а затем проник в несколько внутренних сред.
По данным Hugging Face, автономная система выполнила тысячи действий через множество временных изолированных сред. Средства управления атакой переносились между общедоступными сервисами, что помогало сохранять доступ и усложняло обнаружение. Основная активность пришлась на выходные, когда дежурные сотрудники могли отреагировать не сразу.
Злоумышленник получил доступ к ограниченному числу внутренних наборов данных и нескольким служебным учётным данным. Компания пока проверяет, затронула ли атака сведения партнёров или клиентов. Признаков изменения общедоступных моделей, наборов данных и приложений Spaces не обнаружено. Образы контейнеров и опубликованные программные пакеты также проверили и признали безопасными.
Вторжение выявила система анализа событий безопасности, которая использует языковые модели для поиска связанных аномалий. Затем Hugging Face применила собственных ИИ-агентов для разбора более 17 000 зарегистрированных действий злоумышленника. За несколько часов специалисты восстановили ход атаки, определили затронутые учётные данные и отделили реальные действия от ложных следов. При ручной проверке такая работа обычно заняла бы несколько дней.
Во время расследования компания столкнулась с неожиданной проблемой. Коммерческие языковые модели отказывались анализировать настоящие команды, вредоносный код и данные систем управления, поскольку защитные ограничения принимали материалы расследования за попытку провести атаку. Поэтому Hugging Face запустила открытую модель GLM 5.2 на собственной инфраструктуре. Так журналы событий и найденные учётные данные не покидали внутреннюю сеть.
Компания закрыла уязвимые механизмы обработки наборов данных, удалила следы злоумышленника, пересобрала скомпрометированные узлы и заменила затронутые ключи и токены доступа. Hugging Face также усилила правила допуска в вычислительные кластеры, обновила систему оповещений и привлекла сторонних специалистов по компьютерной криминалистике. О происшествии сообщили правоохранительным органам.
Пользователям рекомендовали заменить токены доступа и проверить недавнюю активность в своих учётных записях. Hugging Face считает, что автономные средства для проведения атак перестали быть теоретической угрозой. Подобные системы позволяют дёшево и быстро проводить продолжительные многоэтапные операции, поэтому защитным командам также придётся активнее применять искусственный интеллект.
- Источник новости
- www.securitylab.ru
