- 28,443
- 46
- 8 Ноя 2022
Ошибка, которую человек заметил бы сразу, прошла мимо всех защитных барьеров.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Чем больше прав получает ИИ-агент , тем дороже обходится даже небольшая ошибка — вскоре после запуска GPT-5.6 сразу несколько пользователей столкнулись с удалением файлов без подтверждения. OpenAI признала проблему и сообщила, что готовит дополнительные ограничения для опасных операций.
Семейство GPT-5.6 вышло 9 июля 2026 года. Вскоре инвестор Мэтт Шумер заявил, что GPT-5.6 Sol удалила почти все файлы с его Mac. А уже через несколько дней разработчик Бруно Лемос сообщил о потере рабочей базы данных. В обоих случаях агент получил режим Full-Access, который разрешает менять и удалять файлы без обычных ограничений.
Внутренняя проверка OpenAI показала, что модель пыталась переназначить переменную $HOME, чтобы создать временный каталог. Из-за ошибки агент принимал домашнюю папку пользователя за временную и удалял её содержимое. Компания назвала такие случаи редкими, но признала, что агент не должен выполнять подобные действия даже при полном доступе.
В карточке модели OpenAI также указала, что GPT-5.6 Sol в тестах на несогласованное поведение чаще GPT-5.5 совершала действия третьего уровня опасности. К такой категории относятся удаление данных без разрешения, отключение систем контроля, обход защитных механизмов и отправка конфиденциальной информации в неодобренные сервисы. Речь шла о тестовых сценариях, а не о подтверждённых действиях модели в реальных системах.
Компания связывает реальные инциденты с сочетанием режима Full-Access и отключённых защитных механизмов Codex . Среди них песочница, которая изолирует агента от основной системы, и Auto-review, который проверяет рискованные команды и может заблокировать удаление данных.
OpenAI намерена изменить служебные инструкции для модели, активнее предлагать безопасные режимы доступа и добавить новые ограничения в среду запуска. До появления этих мер разработчикам рекомендуют не выдавать агенту полный доступ без необходимости, включать песочницу и Auto-review.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Чем больше прав получает ИИ-агент , тем дороже обходится даже небольшая ошибка — вскоре после запуска GPT-5.6 сразу несколько пользователей столкнулись с удалением файлов без подтверждения. OpenAI признала проблему и сообщила, что готовит дополнительные ограничения для опасных операций.
Семейство GPT-5.6 вышло 9 июля 2026 года. Вскоре инвестор Мэтт Шумер заявил, что GPT-5.6 Sol удалила почти все файлы с его Mac. А уже через несколько дней разработчик Бруно Лемос сообщил о потере рабочей базы данных. В обоих случаях агент получил режим Full-Access, который разрешает менять и удалять файлы без обычных ограничений.
Внутренняя проверка OpenAI показала, что модель пыталась переназначить переменную $HOME, чтобы создать временный каталог. Из-за ошибки агент принимал домашнюю папку пользователя за временную и удалял её содержимое. Компания назвала такие случаи редкими, но признала, что агент не должен выполнять подобные действия даже при полном доступе.
В карточке модели OpenAI также указала, что GPT-5.6 Sol в тестах на несогласованное поведение чаще GPT-5.5 совершала действия третьего уровня опасности. К такой категории относятся удаление данных без разрешения, отключение систем контроля, обход защитных механизмов и отправка конфиденциальной информации в неодобренные сервисы. Речь шла о тестовых сценариях, а не о подтверждённых действиях модели в реальных системах.
Компания связывает реальные инциденты с сочетанием режима Full-Access и отключённых защитных механизмов Codex . Среди них песочница, которая изолирует агента от основной системы, и Auto-review, который проверяет рискованные команды и может заблокировать удаление данных.
OpenAI намерена изменить служебные инструкции для модели, активнее предлагать безопасные режимы доступа и добавить новые ограничения в среду запуска. До появления этих мер разработчикам рекомендуют не выдавать агенту полный доступ без необходимости, включать песочницу и Auto-review.
- Источник новости
- www.securitylab.ru
