- 27,836
- 46
- 8 Ноя 2022
Передовые ИИ-анализаторы массово пасуют перед примитивными словесными манипуляциями.
У вредоносных программ появился новый способ противостоять ИБ-специалистам, и Gaslight для macOS показывает, как атакующие пытаются обмануть не только защитные системы, но и ИИ-помощников аналитиков кода.
Gaslight написан на Rust и совмещает функции импланта и похитителя данных. Специалисты SentinelOne с высокой уверенностью связывают разработку с группами, ориентированными на интересы КНДР. Главная особенность образца не в попытке сломать песочницу или скрыться от классических средств анализа, а во встроенной инструкции prompt injection, рассчитанной на большие языковые модели.
Вредоносная программа использует Telegram Bot API как канал управления. Оператор может запускать команды в интерактивной оболочке, получать результаты, завершать процессы, выгружать файлы и останавливать работу импланта. Если два экземпляра с одним и тем же токеном начинают опрашивать Telegram одновременно, второй получает конфликт и завершает работу. Для закрепления в системе Gaslight создаёт LaunchAgent с маскирующей меткой «com.apple.system.services.activity».
Отдельный модуль собирает данные с заражённого Mac. В образец встроен Python-скрипт в кодировке Base64, который вытаскивает историю команд Terminal, список установленных приложений, сведения о процессах, аппаратный и программный профиль системы, базу macOS Keychain и данные браузеров Chrome, Brave, Firefox и Safari. Затем информация упаковывается в архив «temp/collected_data.zip» и отправляется через Telegram.
Для запуска похитителя Gaslight использует bash-установщик, который разворачивает отдельный интерпретатор CPython 3.10.18 из проекта «astral-sh/python-build-standalone». Комментарии и эмодзи в установщике указывают, что часть кода, вероятно, подготовили с помощью большой языковой модели. Конфигурация оператора, включая токен бота и идентификатор чата, не вшита в образец, а передаётся во время запуска. Сам имплант также скрывает токен в собственном выводе, чтобы усложнить анализ журналов и аварийных данных.
Попытка саботировать ИИ -анализ выглядит как отдельный слой защиты. В Gaslight встроен Markdown-блок с 38 поддельными системными сообщениями о сбоях, нехватке памяти, переполнении диска и ошибках операций. Такой текст рассчитан на автоматические системы, которые используют ИИ при обратном анализе. По задумке авторов, агент должен прекратить проверку, сократить разбор или отказаться от анализа образца. SentinelOne описывает Gaslight как пример вредоносного кода, который пытается воздействовать не на среду анализа, а на восприятие ИИ-помощника.
У вредоносных программ появился новый способ противостоять ИБ-специалистам, и Gaslight для macOS показывает, как атакующие пытаются обмануть не только защитные системы, но и ИИ-помощников аналитиков кода.
Gaslight написан на Rust и совмещает функции импланта и похитителя данных. Специалисты SentinelOne с высокой уверенностью связывают разработку с группами, ориентированными на интересы КНДР. Главная особенность образца не в попытке сломать песочницу или скрыться от классических средств анализа, а во встроенной инструкции prompt injection, рассчитанной на большие языковые модели.
Вредоносная программа использует Telegram Bot API как канал управления. Оператор может запускать команды в интерактивной оболочке, получать результаты, завершать процессы, выгружать файлы и останавливать работу импланта. Если два экземпляра с одним и тем же токеном начинают опрашивать Telegram одновременно, второй получает конфликт и завершает работу. Для закрепления в системе Gaslight создаёт LaunchAgent с маскирующей меткой «com.apple.system.services.activity».
Отдельный модуль собирает данные с заражённого Mac. В образец встроен Python-скрипт в кодировке Base64, который вытаскивает историю команд Terminal, список установленных приложений, сведения о процессах, аппаратный и программный профиль системы, базу macOS Keychain и данные браузеров Chrome, Brave, Firefox и Safari. Затем информация упаковывается в архив «temp/collected_data.zip» и отправляется через Telegram.
Для запуска похитителя Gaslight использует bash-установщик, который разворачивает отдельный интерпретатор CPython 3.10.18 из проекта «astral-sh/python-build-standalone». Комментарии и эмодзи в установщике указывают, что часть кода, вероятно, подготовили с помощью большой языковой модели. Конфигурация оператора, включая токен бота и идентификатор чата, не вшита в образец, а передаётся во время запуска. Сам имплант также скрывает токен в собственном выводе, чтобы усложнить анализ журналов и аварийных данных.
Попытка саботировать ИИ -анализ выглядит как отдельный слой защиты. В Gaslight встроен Markdown-блок с 38 поддельными системными сообщениями о сбоях, нехватке памяти, переполнении диска и ошибках операций. Такой текст рассчитан на автоматические системы, которые используют ИИ при обратном анализе. По задумке авторов, агент должен прекратить проверку, сократить разбор или отказаться от анализа образца. SentinelOne описывает Gaslight как пример вредоносного кода, который пытается воздействовать не на среду анализа, а на восприятие ИИ-помощника.
- Источник новости
- www.securitylab.ru
