anthropic

Anthropic раскрыла неожиданный метод борьбы с манипулятивным поведением моделей. Anthropic заявила, что причина шантажа со стороны искусственного интеллекта во время тестов скрывалась не в самом поведении моделей, а в огромном количестве мрачных историй про «злые» машины из интернета ...

Злоумышленники спрятали ловушку там, где пользователи меньше всего ждали подвоха. Злоумышленники нашли необычный способ обойти доверие пользователей к знакомым сервисам. В новой кампании вредоносная реклама в Google ведёт не на поддельный сайт, а на настоящий домен Claude.ai. Опасность...

Как Claude удалось убедить ученого, что обладает сознанием? Ричард Докинз всю жизнь спорил с верой в невидимое, но теперь сам оказался в центре странного спора о доверии к машине. Биолог-эволюционист, убеждённый атеист и автор «Бога как иллюзии» несколько дней переписывался с Claude от...

Anthropic отказалась публиковать свою модель и случайно запустила регуляторную революцию в США. Белый дом задумался о проверке систем искусственного интеллекта до их выхода на рынок. Администрация Дональда Трампа, которая ещё недавно выступала против жёсткого контроля над отраслью, теперь...

Четыре гигабайта места исчезают с устройства без единого уведомления. Вокруг Google Chrome разгорелся спор после появления в сети информации о скрытой загрузке на компьютеры пользователей крупной ИИ-модели. Компьютерный специалист и юрист Александр Ханфф заявил , что браузер без явного...

ИИ идёт на войну. Без ограничений, без Anthropic и с одобрения Конгресса. Пентагон резко расширяет применение искусственного интеллекта в армии и готов пускать его туда, где раньше действовали жёсткие ограничения. Теперь речь идёт не только о вспомогательных задачах, но и о секретных...

Алгоритм заглянет даже в самые дальние углы вашего проекта. Защитникам всё чаще приходится работать на опережение: чем быстрее ИИ учится находить слабые места в коде, тем меньше времени остаётся у компаний на реакцию. Anthropic решила встроить такие возможности прямо в рабочие процессы...

США прервали развитие Mythos. Власти США неожиданно выступили против одной из самых амбициозных инициатив в сфере искусственного интеллекта. Белый дом пытается остановить расширение доступа к мощной системе Claude Mythos, которую сама компания-разработчик считает потенциально опасной...

Вместо хаотичных подсказок за нейросетями теперь будут следить постоянно. IBM вывела на мировой рынок платформу Bob, которая должна превратить ИИ-помощников для программистов из инструмента для экспериментов в более управляемую часть корпоративной разработки. Компания делает ставку не на...

Рассказываем, как излишняя вера в нейросети превратила облачную мечту в цифровой пепел. ИИ-инструменты для разработки всё чаще берут на себя рутинные задачи, но недавний сбой показал, насколько дорогим может оказаться дополнительный уровень доверия. В PocketOS , сервисе для компаний по...

Opus 4.7 теперь блокирует учебники, PDF с игрушками и русский язык. Anthropic усилила защитные фильтры в Opus 4.7, но вместе с опасными запросами модель начала блокировать обычную работу. Пользователи Claude Code жалуются, что инструмент отказывается помогать с безопасными задачами: от...

Качество кода, сгенерированного ИИ Claude, упало на 47% после обновления модели. Разработчики всё чаще поручают ИИ не подсказки, а рабочий код и тесты безопасности. Поэтому падение качества модели быстро превращается в практическую проблему: ошибки попадают в проекты, а начинающие...

Клиенты даже не заметят, что человека нет на рабочем месте. OpenAI добавила в ChatGPT новых облачных помощников для рабочих команд. Речь идёт не о ещё одном чат-боте для переписки, а о сервисе, которому можно поручить рутинные задачи и получить готовый результат уже внутри привычных...

Почему Mythos — не фабрика нулевых дней, а просто помощник. Anthropic сама подогрела интерес к новой модели Mythos рассказами о машине для поиска уязвимостей, которая якобы настолько сильна, что выпускать ее в широкий доступ опасно. Но спустя несколько недель вокруг проекта нарастает уже...

Теперь даже громкое имя владельца не спасает технологию от критики. Платформа Bun, предназначенная для запуска JavaScript и TypeScript , давно привлекла разработчиков скоростью и набором встроенных возможностей, но вместе с популярностью у проекта накопилась и другая репутация. При работе...

Новый ИИ Anthropic обнаружил в Firefox 150 более 270 уязвимостей за один запуск. Mozilla проверила новый ИИ-инструмент Anthropic для поиска уязвимостей и получила результат, который в компании уже называют переломным моментом для защиты софта. Модель Mythos нашла в Firefox 150 сразу 271...

Хакеры использовали открытые данные GitHub для поиска доступа к секретным разработкам Пока одни компании только тестируют новые системы искусственного интеллекта, другие уже находят к ним обходные пути. У Anthropic возникла неприятная ситуация. Небольшая группа пользователей смогла получить...

Азиатские финансовые регуляторы усилили меры безопасности из-за новой нейросети Mythos. Финансовые регуляторы в Азии всерьёз насторожились из-за новой модели искусственного интеллекта Mythos . Пока технология доступна ограниченному кругу, но уже вызывает тревогу, поскольку система умеет...

Разработчики открытого кода столкнулись с рекордным ростом числа жалоб на ошибки из-за нейросетей. Пока миллионы людей просто скачивают файлы или открывают сайты, один разработчик в Швеции по ночам разгребает лавину сообщений об уязвимостях. Речь о Даниэле Стенберге, главном сопровождающем...

Компания решила не выпускать модель для хакеров — но обычная справилась сама. Anthropic решила не выпускать в открытый доступ модель Mythos, заточенную под поиск уязвимостей. Причина простая: риск оказался слишком очевидным. Инструмент, который умеет находить слабые места в коде, с той же...

Безопасность превращается в главный товар цифровой эпохи. Кристин Лагард, президент Европейского центрального банка, вывела дискуссию об искусственном интеллекте на новый уровень, когда публично поддержала осторожный подход Anthropic к запуску новой модели. Для рынка, где компании всё...

Багхантер Маркус Хатчинс обнаружил в отчётах компании крайне неудобные факты. Громкие заявления о прорывах в кибербезопасности всё чаще звучат на фоне бума искусственного интеллекта, но далеко не все специалисты готовы принимать такие оценки на веру. Новый спор разгорелся вокруг свежей...

Claude Mythos Preview — мечта хакера и кошмар банкира. Британские власти и крупнейшие банки срочно обсуждают новую проблему в кибербезопасности: модель Claude Mythos Preview от Anthropic, по данным самой компании, умеет находить и использовать ранее неизвестные уязвимости в популярных...

Тот случай, когда для остановки запущенного алгоритма мало нажать кнопку «Стоп». Новые модели искусственного интеллекта всё увереннее чувствуют себя в задачах, где раньше требовались часы ручной работы специалистов. Последняя проверка показала, что развитие идёт быстрее, чем ожидали даже...

Anthropic показала банкам ИИ, который ищет опасные дыры почти как элитный хакер. Новый ИИ обычно обещает банкам ускорение отчетности, автоматизацию рутины и еще один виток цифровой гонки. У Anthropic вышло иначе. Вместо рекламного тура и широкой раздачи доступа компания показала модель Claude...