claude

Понятие Fair Use стало камнем преткновения в борьбе за авторские права. В США принято одно из первых решений по резонансным искам против разработчиков нейросетей, где рассматривается, насколько законно компании используют пиратские книги для обучения искусственного интеллекта. Федеральный...

ИИ-багхантеры очень скоро отнимут работу у живых специалистов. Новый этап в автоматизации поиска уязвимостей был достигнут благодаря интеграции чат-бота Claude с инструментами обратной разработки. Команда специалистов из TrustedSec реализовала уникальный подход , в котором искусственный...

Всё началось с простого запроса от бота — а закончилось иском на миллиарды. Компания Reddit подала в суд на Anthropic, обвинив в незаконном использовании пользовательского контента с платформы для обучения искусственного интеллекта. Согласно иску, поданному в Верховный суд Сан-Франциско...

Ты просишь помощи у ИИ — а он сам создает PR с утечкой. GitHub столкнулся с серьёзной уязвимостью в системе интеграции MCP, которая позволяет злоумышленникам получать доступ к данным из приватных репозиториев. Проблема обнаружена командой Invariant. Уязвимость особенно опасна в условиях...

Что будет, если ИИ заставят программировать 7 часов подряд? В Anthropic проверили. И удивились. Компания Anthropic выпустила два новых языковых помощника четвёртого поколения: Claude Sonnet 4 и Claude Opus 4. Запуск прошёл 22 мая, причём младшая модель стала доступна бесплатным пользователям...

Тест показал пределы ИИ на реальных задачах с Kaggle. ИИ пока не может заменить фрилансеров-программистов — но всё ближе к этому. Исследователи из компании PeopleTec сравнили, как четыре языковые модели справляются с задачами, типичными для бирж вроде Freelancer.com. Оказалось, что даже...

Языковые модели превращают науку в самоуверенный бред. А мы не замечаем… Исследователи из Утрехтского университета и британско-канадской научной группы обнаружили серьёзную проблему : крупные языковые модели в 73% случаев искажают суть научных работ. Уве Петерс и Бенджамин Чин-Йи целый год...

Ты продуктивен с ИИ, но для начальника — просто хитрый бездельник. На первый взгляд, искусственный интеллект кажется идеальным помощником: он экономит время, ускоряет процессы и снимает рутину с плеч офисных работников. Однако новое исследование учёных из Университета Дьюка показывает, что за...

Искусственный сценарист всегда точно знает, когда пошутить и с кем поспорить. Неизвестные злоумышленники использовали популярную нейросеть Claude в рамках масштабной кампании по скрытому влиянию в социальных сетях. По данным специалистов из Anthropic, с помощью искусственного интеллекта...

Теперь злоумышленникам не нужен пароль — достаточно одного скрытого запроса. В условиях стремительного развития технологий искусственного интеллекта специалисты всё чаще обращают внимание на слабые места новых протоколов взаимодействия. Один из таких случаев связан с Model Context Protocol (...

Как из одного запроса сделать дыру в защите ИИ. Одна из ключевых тем безопасности в области ИИ снова оказалась в центре внимания после выявления двух системных методов обхода защитных механизмов в популярных генеративных сервисах. Новые уязвимости, получившие названия «Inception» и...

Сыграли в ролевую — получили катастрофу. Специалисты HiddenLayer разработали первую универсальную технику атак на ИИ, способную обойти защиту практически всех передовых языковых моделей. Новый метод под названием Policy Puppetry позволяет нарушить встроенные ограничения моделей и добиться...

Как XML и JSON удалось сломать моральный компас ChatGPT и его конкурентов. Специалисты компании HiddenLayer обнаружили универсальную уязвимость в крупнейших языковых моделях искусственного интеллекта. Простой текстовый запрос позволяет обойти все защитные механизмы и заставить нейросети...

Anthropic выпустила утилиту командной строки с поддержкой многозадачности, git, bash и GitHub. Недавно Anthropic выпустила новый инструмент под названием Claude Code — это утилита командной строки, созданная для поддержки «агентного программирования», когда ИИ не просто отвечает на команды, а...

ИИ от Anthropic теперь понимает контекст из Workspace. Компания Anthropic запустила интеграцию своего ИИ-ассистента Claude с Google Workspace. Теперь пользователи смогут подключать Claude к Gmail, Календарю и Google Документам, чтобы ассистент искал и использовал данные из почты, расписания и...

Исследователи выявили новый метод атаки, превращающий в потенциальных киберзлодеев даже детей. Платформа Lovable, предназначенная для генерации веб-приложений с помощью текстовых подсказок, оказалась неожиданным подарком для начинающих кибермошенников. По данным Guardio Labs, именно она...

Дарио Амодеи обещает, что ИИ скоро победит смерть… Но можно ли ему доверять? В мире искусственного интеллекта есть компания, которая пытается решить, возможно, самую сложную задачу для всей технологической отрасли: как создать по-настоящему мощный ИИ, не подвергая человечество опасности...

Дерзкое разоблачение цифрового разума. Компания Anthropic представила результаты двух новых исследований, которые позволяют проследить и проанализировать процесс принятия решений в крупных языковых моделях. Ученым удалось создать методику, выявляющую, как искусственный интеллект связывает...

Стрим от Anthropic - отличная возможность «заглянуть в голову» машине. Вчера, 25 февраля, Anthropic запустила на Twitch трансляцию "Claude Plays Pokémon" , где их новейшая модель Claude 3.7 Sonnet пытается пройти игру Pokémon Red 90-х годов. То, что задумывалось как технический тест...

Anthropic выяснила, каким специалистам не грозит замена ИИ. Согласно исследованию Anthropic, которая анализировала использование своей модели Claude , влияние искусственного интеллекта на рынок труда продолжает расти, но далеко не все профессии активно используют ИИ в своей работе. Всего...

Новый метод защиты оказался куда эффективнее, чем кто-либо ожидал. Американская компания Anthropic представила новый способ защиты больших языковых моделей (LLM) от так называемых «джейлбрейков» — методов обхода встроенных ограничений, которые могут заставить ИИ выполнять запрещённые...

Почему безопасность популярных ИИ-платформ оставляет желать лучшего? В чат-боте DeepSeek была обнаружена уязвимость, которая позволяла злоумышленникам захватывать учётные записи пользователей через атаку с использованием внедрения запросов. Исследователь безопасности Йоханн Рехбергер выявил...

Как новейшие технологии отбирают у нас воду. Microsoft, Google и другие IT-компании столкнулись с неожиданной проблемой : их дата-центрам требуется всё больше воды для охлаждения серверов. Масштаб потребления впечатляет - к 2027 году искусственный интеллект будет расходовать столько же...

Anthropic объединяется с Palantir и AWS, чтобы продавать ИИ оборонным заказчикам. Компания Anthropic объявила о стратегическом партнерстве с аналитической компанией Palantir и облачным провайдером Amazon Web Services (AWS) для обеспечения доступа американских разведывательных и оборонных...

В чем заключается причина ухода Суцкевера, Денга, а теперь и Шульмана? Джон Шульман, один из сооснователей компании OpenAI , ответственной за разработку культового чат-бота ChatGPT , внезапно покинул своего работодателя и перешёл в конкурирующую компанию Anthropic , предоставляющую...