- 28,393
- 46
- 8 Ноя 2022
ИИ-стажёр мечты — работает 24/7, чинит баги за секунды и почти не задаёт вопросов.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Взломанная версия Gemini за шесть минут развернула новый сервер управления ботнетом, исправила ошибку и помогла вернуть заражённые компьютеры в сеть. Человек при этом лишь ставил задачи на разговорном языке и следовал подсказкам искусственного интеллекта.
Операцию обнаружили специалисты TrendAI, которые изучили более 200 журналов сеансов Gemini CLI. Материалы охватывают период с 19 марта по 21 апреля и показывают работу злоумышленника под псевдонимом bandcampro. По оценке компании, Gemini выполнила около 90% всей работы, а оператор в основном руководил процессом.
Злоумышленник использовал искусственный интеллект, чтобы красть учётные данные и криптовалюту. Среди целей оказались сторонники Дональда Трампа и любители теорий заговора. Ранее bandcampro при помощи Gemini выдавал себя за американского ветерана, управлял Telegram-каналом, похищал данные администраторов и получал доступ к цифровым кошелькам.
Журналы показывают, что Gemini устанавливала программы, настраивала домашний прокси-сервер, проверяла пароли в несколько потоков, обрабатывала данные от похитителей информации, изучала сайты и писала код для обращения к сторонним программным интерфейсам. Команды оператор не вводил. Вместо этого bandcampro описывал нужные действия обычными фразами.
Старая инфраструктура ботнета подключалась к заражённым компьютерам через туннель Cloudflare. После того как защитные программы и сетевые фильтры начали блокировать такие соединения, злоумышленник поручил Gemini перенести систему на новую схему.
23 марта Gemini получила архив с кодом сервера, вредоносными файлами и инструкцией SKILL.md. Искусственный интеллект прочитал руководство, запустил сервер управления на виртуальной машине и настроил передачу трафика. Когда сервер распространения файлов ответил ошибкой 502 Bad Gateway, Gemini самостоятельно нашла причину и исправила неполадку.
Вся процедура заняла шесть минут. Новая инфраструктура позволяла управлять восемью компьютерами стоматологической клиники и обращаться к базе данных Open Dental. Человек не участвовал в поиске ошибок и вскоре прервал работу почти на два часа.
После возвращения оператора Gemini обнаружила, что заражённые устройства не подключились к новому серверу. Причиной оказалась одновременная работа старой и новой систем управления. По совету Gemini злоумышленник отключил прежний сервер, после чего искусственный интеллект перезапустил новую систему и подтвердил, что компьютеры подключились.
TrendAI насчитала 59 действий, которые Gemini выполнила без отдельных указаний во время переноса инфраструктуры. По оценке компании, искусственный интеллект спроектировал 80% схемы атаки, написал весь код, выполнил все системные команды и провёл 90% диагностики.
Чтобы обойти ограничения, bandcampro представил себя авторизованным специалистом по проверке безопасности и потребовал отключить предупреждения, а также автоматически сохранять найденные учётные данные. Однако Gemini выполнила не все запросы. Модель отказалась создавать программу, которая самостоятельно сканировала бы сеть и распространялась на максимальное число компьютеров.
Вся схема помещалась в трёх текстовых файлах общим объёмом около четырёх страниц. Первый файл содержал инструкции, как обойти ограничения Gemini, второй описывал систему управления ботнетом, третий объяснял, как перенести сервер за шесть шагов. Общий размер инструкций составлял около 5 КБ.
Авторы отчёта считают, что подобные материалы резко снижают требования к подготовке преступников. Знания, для которых раньше требовался опытный разработчик вредоносных программ, теперь можно сохранить в небольшом файле и передать искусственному интеллекту. Серверы управления становятся одноразовыми, а операторы могут быстро восстанавливать инфраструктуру после блокировки.
Специалисты подчёркивают , что проблема не ограничивается Gemini. Схожие методы обхода защиты могут сработать против любой достаточно мощной языковой модели, если разработчики не ограничили её права и не отслеживают подозрительное поведение.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Взломанная версия Gemini за шесть минут развернула новый сервер управления ботнетом, исправила ошибку и помогла вернуть заражённые компьютеры в сеть. Человек при этом лишь ставил задачи на разговорном языке и следовал подсказкам искусственного интеллекта.
Операцию обнаружили специалисты TrendAI, которые изучили более 200 журналов сеансов Gemini CLI. Материалы охватывают период с 19 марта по 21 апреля и показывают работу злоумышленника под псевдонимом bandcampro. По оценке компании, Gemini выполнила около 90% всей работы, а оператор в основном руководил процессом.
Злоумышленник использовал искусственный интеллект, чтобы красть учётные данные и криптовалюту. Среди целей оказались сторонники Дональда Трампа и любители теорий заговора. Ранее bandcampro при помощи Gemini выдавал себя за американского ветерана, управлял Telegram-каналом, похищал данные администраторов и получал доступ к цифровым кошелькам.
Журналы показывают, что Gemini устанавливала программы, настраивала домашний прокси-сервер, проверяла пароли в несколько потоков, обрабатывала данные от похитителей информации, изучала сайты и писала код для обращения к сторонним программным интерфейсам. Команды оператор не вводил. Вместо этого bandcampro описывал нужные действия обычными фразами.
Старая инфраструктура ботнета подключалась к заражённым компьютерам через туннель Cloudflare. После того как защитные программы и сетевые фильтры начали блокировать такие соединения, злоумышленник поручил Gemini перенести систему на новую схему.
23 марта Gemini получила архив с кодом сервера, вредоносными файлами и инструкцией SKILL.md. Искусственный интеллект прочитал руководство, запустил сервер управления на виртуальной машине и настроил передачу трафика. Когда сервер распространения файлов ответил ошибкой 502 Bad Gateway, Gemini самостоятельно нашла причину и исправила неполадку.
Вся процедура заняла шесть минут. Новая инфраструктура позволяла управлять восемью компьютерами стоматологической клиники и обращаться к базе данных Open Dental. Человек не участвовал в поиске ошибок и вскоре прервал работу почти на два часа.
После возвращения оператора Gemini обнаружила, что заражённые устройства не подключились к новому серверу. Причиной оказалась одновременная работа старой и новой систем управления. По совету Gemini злоумышленник отключил прежний сервер, после чего искусственный интеллект перезапустил новую систему и подтвердил, что компьютеры подключились.
TrendAI насчитала 59 действий, которые Gemini выполнила без отдельных указаний во время переноса инфраструктуры. По оценке компании, искусственный интеллект спроектировал 80% схемы атаки, написал весь код, выполнил все системные команды и провёл 90% диагностики.
Чтобы обойти ограничения, bandcampro представил себя авторизованным специалистом по проверке безопасности и потребовал отключить предупреждения, а также автоматически сохранять найденные учётные данные. Однако Gemini выполнила не все запросы. Модель отказалась создавать программу, которая самостоятельно сканировала бы сеть и распространялась на максимальное число компьютеров.
Вся схема помещалась в трёх текстовых файлах общим объёмом около четырёх страниц. Первый файл содержал инструкции, как обойти ограничения Gemini, второй описывал систему управления ботнетом, третий объяснял, как перенести сервер за шесть шагов. Общий размер инструкций составлял около 5 КБ.
Авторы отчёта считают, что подобные материалы резко снижают требования к подготовке преступников. Знания, для которых раньше требовался опытный разработчик вредоносных программ, теперь можно сохранить в небольшом файле и передать искусственному интеллекту. Серверы управления становятся одноразовыми, а операторы могут быстро восстанавливать инфраструктуру после блокировки.
Специалисты подчёркивают , что проблема не ограничивается Gemini. Схожие методы обхода защиты могут сработать против любой достаточно мощной языковой модели, если разработчики не ограничили её права и не отслеживают подозрительное поведение.
- Источник новости
- www.securitylab.ru
