- 29,121
- 46
- 8 Ноя 2022
Новая функция WhatsApp Scam Alert анализирует переписку без передачи данных на серверы компании.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">WhatsApp готовит функцию, которая сможет предупреждать о мошеннических сообщениях , не отправляя переписку владельца смартфона самой компании. Новая система Scam Alert анализирует подозрительные сообщения прямо на устройстве и работает вместе со сквозным шифрованием, поэтому содержимое чатов для проверки не покидает телефон.
Функция пока появилась только у ограниченной группы участников бета-тестирования. После включения WhatsApp загружает на смартфон небольшую модель машинного обучения. Модель проверяет входящие сообщения от людей, которых нет в списке контактов, и ищет признаки известных мошеннических схем . Для обучения разработчики использовали закономерности из переписок, которые пользователи раньше сами отправляли в WhatsApp через систему жалоб.
Если программа замечает признаки обмана, внутри чата появляется предупреждение, невидимое собеседнику. Получатель может заблокировать отправителя, пожаловаться на него или продолжить разговор. При ошибочном предупреждении чат можно пометить как доверенный, после чего Scam Alert перестанет проверять его. Пользователь также сможет добровольно отправить WhatsApp последние пять полученных сообщений, чтобы помочь улучшить точность модели.
Разработчики отдельно постарались закрыть возможность скрытого сбора данных. Содержимое сообщений автоматически не передаётся ни WhatsApp, ни Meta*, ни другим организациям. Чтобы оценить качество, система считает только примерное число предупреждений и последующих действий пользователей. Перед отправкой смартфон объединяет такие события в обезличенные показатели, а серверная обработка проходит в защищённой среде. Затем к статистике добавляют математический шум, чтобы по итоговым значениям нельзя было восстановить действия отдельного человека.
WhatsApp также пытается сделать проверку модели доступной со стороны. Каждая версия Scam Alert перед распространением попадает в публичный журнал прозрачности вместе с контрольными суммами файлов. Манифесты дополнительно подписывает Cloudflare, причём ключ подписи не принадлежит Meta. Смартфон проверяет подпись, запись в журнале и контрольные суммы загруженных файлов и отказывается запускать модель, если хотя бы одна проверка не проходит.
Такой механизм должен помешать WhatsApp незаметно отправить отдельному человеку специально изменённую модель. Запросы на загрузку проходят через посредника, скрывающего IP-адрес, а экспериментальные группы выбираются случайным образом непосредственно на смартфоне. Все варианты моделей, включая тестовые, должны заранее появляться в публичном журнале.
Компания собирается публиковать параметры моделей, чтобы специалисты по безопасности могли самостоятельно проверить их назначение и поведение. Пользователям также обещают журнал внутри приложения, где можно увидеть, какие сообщения проверяла Scam Alert, какой результат получила система и какая версия модели работала в тот момент. WhatsApp расширит программу вознаграждений за найденные уязвимости и включит в неё новую инфраструктуру.
Пока Scam Alert остаётся экспериментальной и добровольной функцией. WhatsApp планирует доработать систему по результатам бета-тестирования перед более широким запуском. Главная техническая особенность подхода в том, что мошенничество распознаётся на самом телефоне, а серверы получают только обезличенную сводную статистику, а не содержимое личных переписок.
<span style="font-size: 7pt;">* Компания Meta и её продукты (включая Instagram, <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Facebook</span>, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.</span><span style="font-size: 7pt;"> </span>
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">WhatsApp готовит функцию, которая сможет предупреждать о мошеннических сообщениях , не отправляя переписку владельца смартфона самой компании. Новая система Scam Alert анализирует подозрительные сообщения прямо на устройстве и работает вместе со сквозным шифрованием, поэтому содержимое чатов для проверки не покидает телефон.
Функция пока появилась только у ограниченной группы участников бета-тестирования. После включения WhatsApp загружает на смартфон небольшую модель машинного обучения. Модель проверяет входящие сообщения от людей, которых нет в списке контактов, и ищет признаки известных мошеннических схем . Для обучения разработчики использовали закономерности из переписок, которые пользователи раньше сами отправляли в WhatsApp через систему жалоб.
Если программа замечает признаки обмана, внутри чата появляется предупреждение, невидимое собеседнику. Получатель может заблокировать отправителя, пожаловаться на него или продолжить разговор. При ошибочном предупреждении чат можно пометить как доверенный, после чего Scam Alert перестанет проверять его. Пользователь также сможет добровольно отправить WhatsApp последние пять полученных сообщений, чтобы помочь улучшить точность модели.
Разработчики отдельно постарались закрыть возможность скрытого сбора данных. Содержимое сообщений автоматически не передаётся ни WhatsApp, ни Meta*, ни другим организациям. Чтобы оценить качество, система считает только примерное число предупреждений и последующих действий пользователей. Перед отправкой смартфон объединяет такие события в обезличенные показатели, а серверная обработка проходит в защищённой среде. Затем к статистике добавляют математический шум, чтобы по итоговым значениям нельзя было восстановить действия отдельного человека.
WhatsApp также пытается сделать проверку модели доступной со стороны. Каждая версия Scam Alert перед распространением попадает в публичный журнал прозрачности вместе с контрольными суммами файлов. Манифесты дополнительно подписывает Cloudflare, причём ключ подписи не принадлежит Meta. Смартфон проверяет подпись, запись в журнале и контрольные суммы загруженных файлов и отказывается запускать модель, если хотя бы одна проверка не проходит.
Такой механизм должен помешать WhatsApp незаметно отправить отдельному человеку специально изменённую модель. Запросы на загрузку проходят через посредника, скрывающего IP-адрес, а экспериментальные группы выбираются случайным образом непосредственно на смартфоне. Все варианты моделей, включая тестовые, должны заранее появляться в публичном журнале.
Компания собирается публиковать параметры моделей, чтобы специалисты по безопасности могли самостоятельно проверить их назначение и поведение. Пользователям также обещают журнал внутри приложения, где можно увидеть, какие сообщения проверяла Scam Alert, какой результат получила система и какая версия модели работала в тот момент. WhatsApp расширит программу вознаграждений за найденные уязвимости и включит в неё новую инфраструктуру.
Пока Scam Alert остаётся экспериментальной и добровольной функцией. WhatsApp планирует доработать систему по результатам бета-тестирования перед более широким запуском. Главная техническая особенность подхода в том, что мошенничество распознаётся на самом телефоне, а серверы получают только обезличенную сводную статистику, а не содержимое личных переписок.
<span style="font-size: 7pt;">* Компания Meta и её продукты (включая Instagram, <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Facebook</span>, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.</span><span style="font-size: 7pt;"> </span>
- Источник новости
- www.securitylab.ru
