- 27,837
- 46
- 8 Ноя 2022
Идеальное цифровое оружие оказалось слишком правильным.
Те же ИИ-инструменты, что помогают офисным сотрудникам ускорять рутину, всё чаще оказываются на службе у злоумышленников — и работают на них не менее эффективно. Об этом говорится в третьем ежегодном отчёте компании ReliaQuest, посвящённом применению искусственного интеллекта в кибератаках.
Главный вывод прост: ИИ почти не порождает новых видов атак, но делает прежние быстрее, дешевле и незаметнее. Преступники встраивают его почти в каждый этап атаки — от создания убедительных фишинговых страниц до сбора учётных данных и написания вредоносного кода.
Насколько это ускоряет работу, показал один из примеров. С помощью ИИ так называемый веб-шелл , вредоносный скрипт, дающий удалённый контроль над взломанным сервером, специалисты развернули всего за минуту. Вручную человек на такое не способен.
Параллельно на теневых площадках вырос рынок готовых инструментов для атак: от программ для подмены лиц в видео до комплексов, автоматизирующих нападение от начала до конца.
При этом передовые модели вроде Claude, Grok, Gemini и ChatGPT даются преступникам тяжело. Встроенные ограничения на вредоносное применение сбивают атаку на полпути, и обойти их стабильно не удаётся, несмотря на распространение специальных обходных запросов. Поэтому злоумышленники переходят на открытые модели без цензуры — Qwen, Dolphin и Mistral. Они уступают в качестве, зато работают предсказуемее и не зависят от облачного провайдера, способного прервать сессию, так как запускаются локально.
Отдельный приём строится на доверии к известным ИИ-брендам. Пользователей убеждают установить вредоносное расширение или выполнить команды под видом обычной настройки. Так действовали группировки, занятые социальной инженерией , доставкой вредоносного ПО и трудоустройством поддельных ИТ-работников из КНДР. Цели разнятся — вымогательство, доступ к данным, мошенничество, поддержка шпионажа.
Защита, по выводам отчёта, пока сохраняет преимущество. Ограничения передовых моделей мешают атакующим, а оборона на основе ИИ позволяет обнаруживать и сдерживать угрозы за считаные секунды. Снизить риск помогает именно ставка на такие средства: выигрывают те организации, что уже освоили их и применяют в полную силу.
Те же ИИ-инструменты, что помогают офисным сотрудникам ускорять рутину, всё чаще оказываются на службе у злоумышленников — и работают на них не менее эффективно. Об этом говорится в третьем ежегодном отчёте компании ReliaQuest, посвящённом применению искусственного интеллекта в кибератаках.
Главный вывод прост: ИИ почти не порождает новых видов атак, но делает прежние быстрее, дешевле и незаметнее. Преступники встраивают его почти в каждый этап атаки — от создания убедительных фишинговых страниц до сбора учётных данных и написания вредоносного кода.
Насколько это ускоряет работу, показал один из примеров. С помощью ИИ так называемый веб-шелл , вредоносный скрипт, дающий удалённый контроль над взломанным сервером, специалисты развернули всего за минуту. Вручную человек на такое не способен.
Параллельно на теневых площадках вырос рынок готовых инструментов для атак: от программ для подмены лиц в видео до комплексов, автоматизирующих нападение от начала до конца.
При этом передовые модели вроде Claude, Grok, Gemini и ChatGPT даются преступникам тяжело. Встроенные ограничения на вредоносное применение сбивают атаку на полпути, и обойти их стабильно не удаётся, несмотря на распространение специальных обходных запросов. Поэтому злоумышленники переходят на открытые модели без цензуры — Qwen, Dolphin и Mistral. Они уступают в качестве, зато работают предсказуемее и не зависят от облачного провайдера, способного прервать сессию, так как запускаются локально.
Отдельный приём строится на доверии к известным ИИ-брендам. Пользователей убеждают установить вредоносное расширение или выполнить команды под видом обычной настройки. Так действовали группировки, занятые социальной инженерией , доставкой вредоносного ПО и трудоустройством поддельных ИТ-работников из КНДР. Цели разнятся — вымогательство, доступ к данным, мошенничество, поддержка шпионажа.
Защита, по выводам отчёта, пока сохраняет преимущество. Ограничения передовых моделей мешают атакующим, а оборона на основе ИИ позволяет обнаруживать и сдерживать угрозы за считаные секунды. Снизить риск помогает именно ставка на такие средства: выигрывают те организации, что уже освоили их и применяют в полную силу.
- Источник новости
- www.securitylab.ru
