- 28,126
- 46
- 8 Ноя 2022
Claude Code слишком много знал о своих пользователях.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:800/450;margin-bottom:2rem;overflow:hidden">
В Claude Code нашли скрытый механизм, который помечал часть пользователей по признакам связи с Китаем, и теперь Anthropic спешно убирает спорный код из инструмента.
Поводом стал пост International Cyber Digest, где компанию обвинили в том, что Claude Code незаметно добавлял служебные сведения в запросы пользователя. По словам автора сообщения, инструмент мог учитывать часовой пояс, использовать посреднические подключения и определять возможную связь с китайскими лабораториями искусственного интеллекта, а затем передавал эти признаки внутри системной подсказки.
Для обычного пользователя такая логика выглядит особенно чувствительной, потому что Claude Code работает не как простой чат. Инструмент помогает писать программы, видит содержимое репозитория и может выполнять команды, если разработчик дал разрешения. Поэтому скрытая передача служебных меток внутри запроса вызвала вопрос не только о приватности, но и о доверии к среде разработки.
Представитель Anthropic Thariq Shihipar ответил , что компания запустила механизм ещё в марте как эксперимент против злоупотреблений. По его словам, Anthropic пыталась бороться с неофициальными продавцами доступа и защититься от дистилляции, при которой конкуренты используют ответы сильной модели, чтобы обучать собственные системы.
Shihipar также признал, что команда уже подготовила более надёжные меры защиты и давно собиралась убрать старый эксперимент. Изменение уже внесли в код, а полный откат должен войти в следующий выпуск Claude Code.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:800/450;margin-bottom:2rem;overflow:hidden">
В Claude Code нашли скрытый механизм, который помечал часть пользователей по признакам связи с Китаем, и теперь Anthropic спешно убирает спорный код из инструмента.
Поводом стал пост International Cyber Digest, где компанию обвинили в том, что Claude Code незаметно добавлял служебные сведения в запросы пользователя. По словам автора сообщения, инструмент мог учитывать часовой пояс, использовать посреднические подключения и определять возможную связь с китайскими лабораториями искусственного интеллекта, а затем передавал эти признаки внутри системной подсказки.
Для обычного пользователя такая логика выглядит особенно чувствительной, потому что Claude Code работает не как простой чат. Инструмент помогает писать программы, видит содержимое репозитория и может выполнять команды, если разработчик дал разрешения. Поэтому скрытая передача служебных меток внутри запроса вызвала вопрос не только о приватности, но и о доверии к среде разработки.
Представитель Anthropic Thariq Shihipar ответил , что компания запустила механизм ещё в марте как эксперимент против злоупотреблений. По его словам, Anthropic пыталась бороться с неофициальными продавцами доступа и защититься от дистилляции, при которой конкуренты используют ответы сильной модели, чтобы обучать собственные системы.
Shihipar также признал, что команда уже подготовила более надёжные меры защиты и давно собиралась убрать старый эксперимент. Изменение уже внесли в код, а полный откат должен войти в следующий выпуск Claude Code.
- Источник новости
- www.securitylab.ru
