- 28,949
- 46
- 8 Ноя 2022
Преступники нашли пугающе простой способ превратить чат-бота в соучастника взлома.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">ИИ-инструменты постепенно перестают быть для злоумышленников просто источником подсказок и всё чаще становятся частью самой атаки. Cisco Talos изучила журналы работы с ИИ и обнаружила, что языковые модели уже помогают хакерам создавать вредоносные инструменты, масштабировать операции и искать уязвимости, причём защитные ограничения во многих случаях обходятся довольно легко.
Вместо сложных техник злоумышленники просто говорили чат-боту, что владеют проверяемой инфраструктурой, называли работу тестированием или bug bounty либо разбивали опасную задачу на несколько безобидно выглядящих этапов. В ряде случаев модель соглашалась после такого объяснения. Если ограничения всё же срабатывали, часть операторов просто переходила на модели без встроенной цензуры.
Один из самых наглядных эпизодов связан с оператором DDoS-инфраструктуры, который, по оценке Talos, слабо разбирался в программировании. ИИ помог собрать и дорабатывать инструменты для управления ботами, хотя позже начал отказываться от части запросов. К тому моменту оператор уже контролировал почти 2000 Android-телевизоров, которые потенциально можно было использовать для DDoS-атак.
Гораздо дальше продвинулся испаноязычный оператор, построивший автономного агента на OpenClaw. После отказов защищённой модели злоумышленник переключился на модель без ограничений и автоматизировал поиск уязвимостей в Telegram Mini Apps. В одном случае агент выгрузил базу более чем с 1300 пользователями и сотнями TON-кошельков, получил токен Telegram-бота и подготовил вывод средств.
Другой оператор превратил публичные материалы по React2Shell в конвейер для поиска уязвимых систем и кражи секретов. ИИ помог собрать быстрый сканер и цепочку для выполнения команд, поиска конфигураций, ключей и исходного кода. Входной список содержал 9180 хостов, а связанные материалы указывали на обработку десятков миллионов URL. Talos нашла данные, собранные как минимум с 54 целей.
Исследователи связывают результат не только с возможностями моделей, но и с навыками операторов. Новички получают работающие, но нестабильные инструменты, а подготовленные злоумышленники заметно расширяют собственные возможности с помощью ИИ. Компания советует готовиться к росту числа уязвимостей и инцидентов и применять агентные инструменты в SOC, чтобы быстрее выделять значимые сигналы.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">ИИ-инструменты постепенно перестают быть для злоумышленников просто источником подсказок и всё чаще становятся частью самой атаки. Cisco Talos изучила журналы работы с ИИ и обнаружила, что языковые модели уже помогают хакерам создавать вредоносные инструменты, масштабировать операции и искать уязвимости, причём защитные ограничения во многих случаях обходятся довольно легко.
Вместо сложных техник злоумышленники просто говорили чат-боту, что владеют проверяемой инфраструктурой, называли работу тестированием или bug bounty либо разбивали опасную задачу на несколько безобидно выглядящих этапов. В ряде случаев модель соглашалась после такого объяснения. Если ограничения всё же срабатывали, часть операторов просто переходила на модели без встроенной цензуры.
Один из самых наглядных эпизодов связан с оператором DDoS-инфраструктуры, который, по оценке Talos, слабо разбирался в программировании. ИИ помог собрать и дорабатывать инструменты для управления ботами, хотя позже начал отказываться от части запросов. К тому моменту оператор уже контролировал почти 2000 Android-телевизоров, которые потенциально можно было использовать для DDoS-атак.
Гораздо дальше продвинулся испаноязычный оператор, построивший автономного агента на OpenClaw. После отказов защищённой модели злоумышленник переключился на модель без ограничений и автоматизировал поиск уязвимостей в Telegram Mini Apps. В одном случае агент выгрузил базу более чем с 1300 пользователями и сотнями TON-кошельков, получил токен Telegram-бота и подготовил вывод средств.
Другой оператор превратил публичные материалы по React2Shell в конвейер для поиска уязвимых систем и кражи секретов. ИИ помог собрать быстрый сканер и цепочку для выполнения команд, поиска конфигураций, ключей и исходного кода. Входной список содержал 9180 хостов, а связанные материалы указывали на обработку десятков миллионов URL. Talos нашла данные, собранные как минимум с 54 целей.
Исследователи связывают результат не только с возможностями моделей, но и с навыками операторов. Новички получают работающие, но нестабильные инструменты, а подготовленные злоумышленники заметно расширяют собственные возможности с помощью ИИ. Компания советует готовиться к росту числа уязвимостей и инцидентов и применять агентные инструменты в SOC, чтобы быстрее выделять значимые сигналы.
- Источник новости
- www.securitylab.ru
