- 27,661
- 46
- 8 Ноя 2022
Цифровые реформы превратили реальный розыск в бюрократический ад.
Американские правоохранители пожаловались , что автоматическая модерация Meta* всё чаще заваливает службы сообщениями о возможных случаях сексуализированного насилия над детьми, но значительная часть таких сигналов плохо подходит для работы и тормозит расследования.
Сотрудники Internet Crimes Against Children (ICAC) в Нью-Мексико рассказали в суде штата против Meta, что из Instagram*, <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Facebook</span>* и WhatsApp регулярно приходят отчёты, где нет ключевых данных. Иногда сообщения описывают ситуацию без признаков преступления, а иногда указывают на возможное правонарушение, но изображения, видео или фрагменты переписки отсутствуют или закрыты.
Агент ICAC Бенджамин Цвайбель связал рост подобных уведомлений с использованием алгоритмов. В подразделении Цвайбеля число «киберподсказок» за 2024–2025 годы, по оценке офицеров, выросло примерно вдвое, при этом каждый сигнал всё равно приходится проверять.
Meta отвергает претензии и подчёркивает, что сотрудничает с властями. Компания говорит, что передаёт данные по экстренным запросам и отправляет сведения о подозрительных материалах в Национальный центр пропавших и эксплуатируемых детей США (NCMEC), который распределяет обращения по ведомствам. Генпрокурор Нью-Мексико Рауль Торрес на слушаниях также признавал, что соцплатформы, включая Meta, сообщают изображения в NCMEC, хотя иск штата строится на обвинениях в приоритете прибыли над безопасностью детей.
Материалы дела затронули и внутренние обсуждения Meta в 2019 году, когда компания готовилась расширять сквозное шифрование в Facebook Messenger. Тогда руководство спорило о том, как шифрование повлияет на выявление преступлений и помощь следствию. Сквозное шифрование в Messenger в итоге развернули в 2023 году, а представитель Meta Энди Стоун позднее объяснял, что именно прежние опасения подтолкнули компанию разработать защитные механизмы, рассчитанные на работу и в зашифрованных чатах.
Отдельно офицеры ICAC связывают «лавину» сообщений с законом REPORT Act, который вступил в силу в ноябре 2024 года и расширил требования к уведомлениям в NCMEC. По их версии, Meta могла начать сообщать «с запасом», чтобы не нарушить новые правила, из-за чего в общий поток попадают эпизоды, которые сложно трактовать как преступление.
Дополнительную задержку создают и юридические нюансы. В некоторых случаях уведомления, которые сформировали алгоритмы и не подтвердил сотрудник компании, требуют отдельного ордера, чтобы офицер мог открыть копии материалов, и такие процедуры отнимают время у уже перегруженных подразделений.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
Американские правоохранители пожаловались , что автоматическая модерация Meta* всё чаще заваливает службы сообщениями о возможных случаях сексуализированного насилия над детьми, но значительная часть таких сигналов плохо подходит для работы и тормозит расследования.
Сотрудники Internet Crimes Against Children (ICAC) в Нью-Мексико рассказали в суде штата против Meta, что из Instagram*, <span class="extremist-highlight" title="Соцсеть признана экстремистской и запрещена на территории РФ">Facebook</span>* и WhatsApp регулярно приходят отчёты, где нет ключевых данных. Иногда сообщения описывают ситуацию без признаков преступления, а иногда указывают на возможное правонарушение, но изображения, видео или фрагменты переписки отсутствуют или закрыты.
Агент ICAC Бенджамин Цвайбель связал рост подобных уведомлений с использованием алгоритмов. В подразделении Цвайбеля число «киберподсказок» за 2024–2025 годы, по оценке офицеров, выросло примерно вдвое, при этом каждый сигнал всё равно приходится проверять.
Meta отвергает претензии и подчёркивает, что сотрудничает с властями. Компания говорит, что передаёт данные по экстренным запросам и отправляет сведения о подозрительных материалах в Национальный центр пропавших и эксплуатируемых детей США (NCMEC), который распределяет обращения по ведомствам. Генпрокурор Нью-Мексико Рауль Торрес на слушаниях также признавал, что соцплатформы, включая Meta, сообщают изображения в NCMEC, хотя иск штата строится на обвинениях в приоритете прибыли над безопасностью детей.
Материалы дела затронули и внутренние обсуждения Meta в 2019 году, когда компания готовилась расширять сквозное шифрование в Facebook Messenger. Тогда руководство спорило о том, как шифрование повлияет на выявление преступлений и помощь следствию. Сквозное шифрование в Messenger в итоге развернули в 2023 году, а представитель Meta Энди Стоун позднее объяснял, что именно прежние опасения подтолкнули компанию разработать защитные механизмы, рассчитанные на работу и в зашифрованных чатах.
Отдельно офицеры ICAC связывают «лавину» сообщений с законом REPORT Act, который вступил в силу в ноябре 2024 года и расширил требования к уведомлениям в NCMEC. По их версии, Meta могла начать сообщать «с запасом», чтобы не нарушить новые правила, из-за чего в общий поток попадают эпизоды, которые сложно трактовать как преступление.
Дополнительную задержку создают и юридические нюансы. В некоторых случаях уведомления, которые сформировали алгоритмы и не подтвердил сотрудник компании, требуют отдельного ордера, чтобы офицер мог открыть копии материалов, и такие процедуры отнимают время у уже перегруженных подразделений.
<span style="font-size: 10pt;">* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.</span>
- Источник новости
- www.securitylab.ru
