модерация

Конвейер оказался быстрее системы, которая должна его контролировать. <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden"> <div itemprop="articleBody">ИИ превращает...

Алгоритмы проигнорировали контекст и запустили необратимый сценарий. <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden"> <div itemprop="articleBody">Личные сообщения в...

Судьбу сервиса с миллиардом пользователей решили действия одного нарушителя. <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden"> <div itemprop="articleBody">Популярные...

Австралия предъявила Telegram увесистый список претензий. <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden"> <div itemprop="articleBody">Telegram грозит штраф до 54,6...

Защитный алгоритм несправедливо забанил свыше восьми тысяч аккаунтов из-за нелепого сбоя. <div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:800/450;margin-bottom:2rem;overflow:hidden"> Автоматическая модерация...

Алгоритмы верят тексту обычных пользователей больше, чем проверенным и надёжным источникам. ИИ-сервисы для поиска всё чаще выглядят как быстрый путь к ответу, однако такой ответ можно легко исказить всего одной короткой фразой в чужом комментарии. Хэл Трайдман, Тинвэй Чжан и Виталий Шматиков...

Раньше для убедительной лжи требовалась целая студия, а теперь хватает пары кликов. Виртуальные инфлюенсеры уже перестали быть редкой студийной диковинкой. Первые заметные ИИ-аватары, включая Lil Miquela , Imma и Shudu Gram , сразу выдавали цифровое происхождение: за ними стояли...

Европейский орган выяснил, чья ненависть в интернете остается безнаказанной чаще всего. Европейский орган по рассмотрению жалоб на модерацию заявил, что крупнейшие социальные сети регулярно оставляют в интернете материалы с разжиганием ненависти , а также мешают независимо проверять, когда...

Главная схватка развернулась не на экранах устройств, а в невидимой системе проверки. Apple заявила , что в 2025 году предотвратила мошеннические операции в App Store на сумму более $2,2 млрд. Компания связывает такой результат с ручными проверками и системами машинного обучения, которые...

Банить главарей абсолютно бесполезно, пока фанатики продолжают сами изобретать свежих врагов. Онлайн-сообщества ненависти могут годами удерживать участников не только из-за алгоритмов и слабой модерации. Новое исследование показывает другой механизм: такие группы снова и снова рассказывают...

Разбираемся, как на самом деле распространяли запрещенный контент. Павел Дуров снова поспорил с Евросоюзом — на этот раз из-за доклада об интимных фотографиях без согласия женщин, которые распространяли в испанских и итальянских Telegram-сообществах. В своем публичном канале основатель...

Теперь игра сделает из вашего хамства образец приличия. Платформа Roblox решила навести порядок в игровом чате и одновременно избавить пользователей от привычных «решёток», которые появляются вместо запрещённых слов. Компания представила новую функцию на основе искусственного интеллекта...

Система видит обход блокировок и отправляет аккаунты в бан, иногда навсегда. Похоже, после декабрьской блокировки Roblox в России игроки столкнулись с новым неприятным сюрпризом: аккаунты начали массово улетать в бан за попытки обойти ограничения через VPN и другие способы подключения. Судя...

Игровая платформа согласилась на все условия Роскомнадзора. Руководство платформы Roblox после ограничения ее работы в России обратилось в Роскомнадзор и заявило о готовности к взаимодействию для принятия мер, необходимых для удаления деструктивной и опасной информации, а также для пресечения...

Некоторые боты публикуют до 70 роликов в сутки, но модерация месяцами их игнорирует. Некоммерческая организация AI Forensics из Парижа представила отчёт о всплеске ИИ-контента в TikTok . Анализ показал, что за месяц сотни аккаунтов, ориентированных на генеративные технологии, сумели собрать...

Мессенджер установил абсолютный рекорд по блокировке каналов. Мессенджер Telegram 13 ноября заблокировал 519 645 каналов — это рекордный показатель за всё время ведения внутренней статистики. Ежедневные отчёты о блокировках администрация публикует на официальных ресурсах платформы...

Отрывки видеороликов, на которых изображены сцены удушения женщин и девушек, массово распространяются в TikTok и X. Как выяснили журналисты, все эти материалы созданы с помощью нейросетевого генератора видео Sora 2 от OpenAI, несмотря на запрет компании на публикацию насильственного...

Мы думали, «синяя галочка» — это верификация, а X превратил её в VIP-пропуск для пропагандистов. Центр по противодействию цифровой ненависти вместе с Jewish Council for Public Affairs представили исследование «A Home for Hate», посвящённое антисемитскому контенту на X*. За год, с 1 февраля...

Википедия официально вступила в бой с ИИ. Wikipedia официально утвердила новую политику, направленную на борьбу с наплывом текстов, созданных нейросетями. Это решение призвано защитить качество энциклопедии от быстро размножающегося низкосортного контента, появление которого стало возможным...

История о таинственном исчезновении статей из поисковой выдачи. <article> Журналист Джек Поулсон совершенно случайно обнаружил , что два его материала бесследно исчезли из результатов поиска Google. Обнаружилось это по банальной причине — он пытался найти одну из своих публикаций и...

Сегодня — игры с инцестом. Завтра — весь "спорный" контент под угрозой. Valve изменила официальные правила для разработчиков на платформе Steam. Согласно обновлению в GitHub , теперь запрещён контент, который может противоречить требованиям платёжных процессоров, банков и...

Meta показала, как на самом деле выглядит свобода слова. После кардинального пересмотра политики модерации в январе 2025 года, платформы Meta* столкнулись с волной вредоносного контента. Согласно новому отчёту , подавляющее большинство пользователей Facebook*, Instagram* и Threads* больше...

Бан в Instagram стал угрозой репутации, о которой никто не предупреждал. За последние недели Instagram* охватила масштабная волна блокировок, вызвавшая массовое недовольство среди пользователей. По словам пострадавших, их аккаунты были безосновательно забанены без каких-либо нарушений правил...

Meta тратит миллиарды на ИИ, чтобы он показывал тебе секс-фейки и рекламный мусор. С января 2025 года соцсети Meta * стали менее безопасными — к такому выводу пришли авторы масштабного опроса , охватившего 7 000 пользователей Facebook, Instagram и Threads. Исследование проводилось среди...

Самые крупные боты ушли без финального спина. Telegram начал самую масштабную на сегодняшний день зачистку казино-ботов. Об этом сообщил канал «Код Дурова», отметив, что на этот раз заблокирован не только крупнейший на платформе азартный бот @CasinoBot, но и его юзернейм — теперь он...