- 28,908
- 46
- 8 Ноя 2022
Первая же ссылка из чат-бота может привести к финансовой катастрофе.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Чем увереннее ИИ отвечает на простой вопрос, тем легче принять ошибочную ссылку за официальную, и проверка Netcraft показала , что поисковые помощники уже направляют пользователей на ресурсы злоумышленников.
Специалисты протестировали ChatGPT , Copilot, Gemini и Perplexity с запросами о страницах входа банков и крупных магазинов. Почти 3000 запросов дали 2905 ответов и 20 706 ссылок. Вредоносные адреса встретились в 1,7% ответов и составили 0,28% всех ссылок. На первый взгляд доля невелика, но даже редкая вредоносная ссылка опасна, когда ИИ подаёт её как надёжный источник.
Хуже всего в одинаковых тестах выступил Perplexity. В отличие от проверки 2025 года, проблема уже не сводилась к выдуманным или заброшенным доменам. Ассистенты рекомендовали действующие сайты под контролем злоумышленников.
В одном случае ИИ-поиск назвал официальным поддельный магазин, который выдавал себя за крупную американскую сеть универмагов Kohl’s и мог похищать деньги или платёжные данные. Copilot также поставил первой ссылкой фишинговую страницу, имитировавшую вход в Wells Fargo — один из крупнейших банков США.
Проблема связана с тем, что сервисы быстро подтягивают свежие данные из интернета и сразу оценивают новые источники. Мошенники активно используют метод Generative Engine Optimization (GEO), то есть оптимизируют страницы специально для попадания в ответы ИИ, подобно продвижению вредоносных сайтов через обычные поисковые системы.
Отдельное исследование Фуданьского университета показало, что такие системы отсекают 99,78% обычных приёмов чёрной SEO-оптимизации. Однако методы, созданные специально для ИИ-поиска, вдвое повышают вероятность попадания манипулированного текста в ответ.
Netcraft советует пользователям сохранять правильные адреса страниц входа, особенно для банковских сервисов. Компаниям же рекомендуют отслеживать поддельные сайты, которые продвигают через GEO, и добиваться их отключения до начала массовых атак.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Чем увереннее ИИ отвечает на простой вопрос, тем легче принять ошибочную ссылку за официальную, и проверка Netcraft показала , что поисковые помощники уже направляют пользователей на ресурсы злоумышленников.
Специалисты протестировали ChatGPT , Copilot, Gemini и Perplexity с запросами о страницах входа банков и крупных магазинов. Почти 3000 запросов дали 2905 ответов и 20 706 ссылок. Вредоносные адреса встретились в 1,7% ответов и составили 0,28% всех ссылок. На первый взгляд доля невелика, но даже редкая вредоносная ссылка опасна, когда ИИ подаёт её как надёжный источник.
Хуже всего в одинаковых тестах выступил Perplexity. В отличие от проверки 2025 года, проблема уже не сводилась к выдуманным или заброшенным доменам. Ассистенты рекомендовали действующие сайты под контролем злоумышленников.
В одном случае ИИ-поиск назвал официальным поддельный магазин, который выдавал себя за крупную американскую сеть универмагов Kohl’s и мог похищать деньги или платёжные данные. Copilot также поставил первой ссылкой фишинговую страницу, имитировавшую вход в Wells Fargo — один из крупнейших банков США.
Проблема связана с тем, что сервисы быстро подтягивают свежие данные из интернета и сразу оценивают новые источники. Мошенники активно используют метод Generative Engine Optimization (GEO), то есть оптимизируют страницы специально для попадания в ответы ИИ, подобно продвижению вредоносных сайтов через обычные поисковые системы.
Отдельное исследование Фуданьского университета показало, что такие системы отсекают 99,78% обычных приёмов чёрной SEO-оптимизации. Однако методы, созданные специально для ИИ-поиска, вдвое повышают вероятность попадания манипулированного текста в ответ.
Netcraft советует пользователям сохранять правильные адреса страниц входа, особенно для банковских сервисов. Компаниям же рекомендуют отслеживать поддельные сайты, которые продвигают через GEO, и добиваться их отключения до начала массовых атак.
- Источник новости
- www.securitylab.ru
