- 28,357
- 46
- 8 Ноя 2022
Полгода собирали лишнее, потом объявили это заботой о безопасности – обычный день в xAI.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Инструмент Grok* Build для работы с программным кодом отправлял в облако целые проекты пользователей, включая полную историю изменений и секреты, удалённые несколько месяцев назад. После огласки разработчики перестали загружать данные, а Илон Маск пообещал стереть все ранее собранные данные.
Проблему обнаружил специалист по безопасности систем искусственного интеллекта Cereblab. Он изучил обмен данными между интерфейсом командной строки Grok Build и серверами xAI. Проверка показала, что когда программа читала или обрабатывала файл, она передавала его содержимое без очистки в хранилище Google Cloud, которым пользовалась компания.
Grok Build не ограничивался файлами, нужными для ответа на запрос. Инструмент упаковывал весь репозиторий в архив Git и отправлял его на сервер вместе с полной историей изменений. Из-за такой схемы в облако могли попадать пароли, ключи доступа и другие конфиденциальные сведения, которые разработчики давно удалили из актуальной версии проекта, но оставили в истории Git.
Cereblab проверил поведение на безобидном запросе. Специалист велел программе просто ответить «OK» и отдельно запретил открывать какие-либо файлы. Grok Build всё равно загрузил весь репозиторий вместе с историей. Повторный опыт с другим проектом дал такой же результат.
По данным Cereblab, другие помощники для программирования, включая Claude Code, Gemini и Codex, обычно открывают и передают отдельные файлы, которые нужны для выполнения задачи. Grok Build собирал значительно больший объём данных, даже когда запрос не требовал доступа к исходному коду.
После того как отчёт опубликовали, пользователи начали проверять всё самостоятельно. Один из них сообщил , что Grok Build открыл и отправил содержимое всей домашней папки. В ней находились ключи SSH , базы данных диспетчера паролей и другие чувствительные файлы.
Когда отчёт опубликовали, это быстро привлекло внимание сотрудников xAI и Илона Маска. Разработчики изменили серверную настройку disable_codebase_upload, переведя её в состояние true. После этого изменения Grok Build перестал загружать репозитории целиком. Cereblab отдельно проверил обновлённое поведение и подтвердил, что передача данных прекратилась.
Компания попыталась успокоить пользователей, заявив о режиме нулевого хранения данных. По версии xAI, клиенты с включённой настройкой ZDR не оставляли на серверах следов запросов и кода. Владельцам остальных учётных записей компания предложила выполнить команду /privacy, чтобы отключить хранение и удалить ранее синхронизированные данные.
Cereblab раскритиковал такое объяснение. По его словам, команда /privacy управляла хранением данных в рамках сеанса, но не остановила массовую загрузку проектов. Передачу остановил общий серверный параметр disable_codebase_upload, который действовал для всех пользователей независимо от их выбора. Специалист также указал, что разработчик не должен каждый раз вручную отказываться от отправки собственного кода на чужие серверы. Безопасной настройкой по умолчанию должен быть полный запрет на передачу репозитория, а не команда отказа, которую приходится запускать отдельно.
Илон Маск заявил , что xAI полностью удалит все пользовательские данные, загруженные до того, как проблему исправили. По его словам, на серверах не должно остаться никаких ранее собранных материалов. Пока никто не может независимо проверить, выполнит ли компания это обещание. Одновременно Маск попросил пользователей продолжать делиться частью данных, поскольку такие материалы помогают искать ошибки в программе. Такое предложение прозвучало уже после того, как выяснилось, что Grok Build собирал гораздо больше сведений, чем требовалось для работы.
Позже xAI открыла исходный код Grok Build, сбросила ограничения на использование и заявила о дополнительных мерах защиты. Компания сообщила, что с 12 июля отключила хранение данных по умолчанию для всех пользователей, начала удалять ранее сохранённый программный код и разрешила запускать инструмент локально со своей системой искусственного интеллекта.
xAI утверждает, что пользователи всегда могли отключить отправку данных через настройки интерфейса командной строки, а режим нулевого хранения соблюдался с момента запуска. Однако, по данным Cereblab, до серверного изменения Grok Build мог отправлять целые репозитории независимо от содержания запроса.
Сейчас Grok Build больше не загружает проекты массово. Главный вопрос касается уже собранных данных, поскольку никто не может подтвердить, что их полностью удалили. Открытие исходного кода упростит независимую проверку Grok Build, но не отменяет того факта, что программа какое-то время без явной необходимости отправляла в облако код, историю изменений и секреты пользователей.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Инструмент Grok* Build для работы с программным кодом отправлял в облако целые проекты пользователей, включая полную историю изменений и секреты, удалённые несколько месяцев назад. После огласки разработчики перестали загружать данные, а Илон Маск пообещал стереть все ранее собранные данные.
Проблему обнаружил специалист по безопасности систем искусственного интеллекта Cereblab. Он изучил обмен данными между интерфейсом командной строки Grok Build и серверами xAI. Проверка показала, что когда программа читала или обрабатывала файл, она передавала его содержимое без очистки в хранилище Google Cloud, которым пользовалась компания.
Grok Build не ограничивался файлами, нужными для ответа на запрос. Инструмент упаковывал весь репозиторий в архив Git и отправлял его на сервер вместе с полной историей изменений. Из-за такой схемы в облако могли попадать пароли, ключи доступа и другие конфиденциальные сведения, которые разработчики давно удалили из актуальной версии проекта, но оставили в истории Git.
Cereblab проверил поведение на безобидном запросе. Специалист велел программе просто ответить «OK» и отдельно запретил открывать какие-либо файлы. Grok Build всё равно загрузил весь репозиторий вместе с историей. Повторный опыт с другим проектом дал такой же результат.
По данным Cereblab, другие помощники для программирования, включая Claude Code, Gemini и Codex, обычно открывают и передают отдельные файлы, которые нужны для выполнения задачи. Grok Build собирал значительно больший объём данных, даже когда запрос не требовал доступа к исходному коду.
После того как отчёт опубликовали, пользователи начали проверять всё самостоятельно. Один из них сообщил , что Grok Build открыл и отправил содержимое всей домашней папки. В ней находились ключи SSH , базы данных диспетчера паролей и другие чувствительные файлы.
Когда отчёт опубликовали, это быстро привлекло внимание сотрудников xAI и Илона Маска. Разработчики изменили серверную настройку disable_codebase_upload, переведя её в состояние true. После этого изменения Grok Build перестал загружать репозитории целиком. Cereblab отдельно проверил обновлённое поведение и подтвердил, что передача данных прекратилась.
Компания попыталась успокоить пользователей, заявив о режиме нулевого хранения данных. По версии xAI, клиенты с включённой настройкой ZDR не оставляли на серверах следов запросов и кода. Владельцам остальных учётных записей компания предложила выполнить команду /privacy, чтобы отключить хранение и удалить ранее синхронизированные данные.
Cereblab раскритиковал такое объяснение. По его словам, команда /privacy управляла хранением данных в рамках сеанса, но не остановила массовую загрузку проектов. Передачу остановил общий серверный параметр disable_codebase_upload, который действовал для всех пользователей независимо от их выбора. Специалист также указал, что разработчик не должен каждый раз вручную отказываться от отправки собственного кода на чужие серверы. Безопасной настройкой по умолчанию должен быть полный запрет на передачу репозитория, а не команда отказа, которую приходится запускать отдельно.
Илон Маск заявил , что xAI полностью удалит все пользовательские данные, загруженные до того, как проблему исправили. По его словам, на серверах не должно остаться никаких ранее собранных материалов. Пока никто не может независимо проверить, выполнит ли компания это обещание. Одновременно Маск попросил пользователей продолжать делиться частью данных, поскольку такие материалы помогают искать ошибки в программе. Такое предложение прозвучало уже после того, как выяснилось, что Grok Build собирал гораздо больше сведений, чем требовалось для работы.
Позже xAI открыла исходный код Grok Build, сбросила ограничения на использование и заявила о дополнительных мерах защиты. Компания сообщила, что с 12 июля отключила хранение данных по умолчанию для всех пользователей, начала удалять ранее сохранённый программный код и разрешила запускать инструмент локально со своей системой искусственного интеллекта.
xAI утверждает, что пользователи всегда могли отключить отправку данных через настройки интерфейса командной строки, а режим нулевого хранения соблюдался с момента запуска. Однако, по данным Cereblab, до серверного изменения Grok Build мог отправлять целые репозитории независимо от содержания запроса.
Сейчас Grok Build больше не загружает проекты массово. Главный вопрос касается уже собранных данных, поскольку никто не может подтвердить, что их полностью удалили. Открытие исходного кода упростит независимую проверку Grok Build, но не отменяет того факта, что программа какое-то время без явной необходимости отправляла в облако код, историю изменений и секреты пользователей.
- Источник новости
- www.securitylab.ru
