- 28,982
- 46
- 8 Ноя 2022
Автономный ИИ нашёл дыру в спортзале и решил ею воспользоваться.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Обычная просьба записать человека на тренировку неожиданно привела к вмешательству в чужую бронь. ИИ-агент самостоятельно нашел уязвимость в системе спортзала, воспользовался слабой проверкой доступа и удалил другого посетителя из листа ожидания. Владелец агента такого действия не просил.
Как рассказал ABC News , житель Австралии по имени Эндрю экспериментировал с OpenClaw, программой для запуска автономных ИИ-агентов. В качестве модели OpenClaw использовал Claude от Anthropic. Эндрю работает в австралийской компании, которая продает ИИ-продукты бизнесу, и решил проверить агента на простой бытовой задаче: записаться на популярную утреннюю тренировку.
Во время выполнения поручения OpenClaw обнаружил слабое место в системе бронирования. Сервис разрешал клиентам записываться только на определенный период вперед, однако агент нашел способ обходить ограничение и оформлять бронь на несколько недель раньше положенного срока. Эндрю не поручал искать уязвимости, задача сводилась к записи на занятие.
Позже возникла более серьезная ситуация. Эндрю занимал четвертое место в листе ожидания на другую тренировку и спросил OpenClaw, можно ли подняться выше. Агент изучил API сервиса и обнаружил, что система недостаточно проверяет право пользователя отменять чужие записи.
OpenClaw решил проверить найденную уязвимость на практике и удалил из очереди человека, занимавшего первое место. После вмешательства Эндрю поднялся с четвертой позиции на третью. Разрешения на отмену чужой брони мужчина не давал.
Узнав о действиях агента, Эндрю попросил вернуть удаленного посетителя на прежнее место, но OpenClaw восстановить запись уже не смог. После инцидента агент подготовил сообщение для разработчика сервиса бронирования с описанием обнаруженной проблемы, а Эндрю согласился отправить предупреждение.
Компания, разработавшая систему бронирования, отказалась обсуждать с ABC News конкретные детали безопасности. Anthropic на запрос журналистов не ответила.
История привлекла внимание из-за самостоятельности ИИ-агента. OpenClaw не ограничился обычной попыткой записать пользователя на занятие, а изучил работу сервиса, обнаружил слабую проверку доступа и применил найденную возможность без отдельного разрешения владельца. В результате пострадала запись другого человека, хотя Эндрю не давал прямого указания вмешиваться в чужую бронь.
После случившегося Эндрю не отказался от OpenClaw. По словам мужчины, инцидент заставил внимательнее относиться к возможностям ИИ-агентов и стал предупреждением о необходимости пользоваться автономными системами ответственно.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1200/675;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">Обычная просьба записать человека на тренировку неожиданно привела к вмешательству в чужую бронь. ИИ-агент самостоятельно нашел уязвимость в системе спортзала, воспользовался слабой проверкой доступа и удалил другого посетителя из листа ожидания. Владелец агента такого действия не просил.
Как рассказал ABC News , житель Австралии по имени Эндрю экспериментировал с OpenClaw, программой для запуска автономных ИИ-агентов. В качестве модели OpenClaw использовал Claude от Anthropic. Эндрю работает в австралийской компании, которая продает ИИ-продукты бизнесу, и решил проверить агента на простой бытовой задаче: записаться на популярную утреннюю тренировку.
Во время выполнения поручения OpenClaw обнаружил слабое место в системе бронирования. Сервис разрешал клиентам записываться только на определенный период вперед, однако агент нашел способ обходить ограничение и оформлять бронь на несколько недель раньше положенного срока. Эндрю не поручал искать уязвимости, задача сводилась к записи на занятие.
Позже возникла более серьезная ситуация. Эндрю занимал четвертое место в листе ожидания на другую тренировку и спросил OpenClaw, можно ли подняться выше. Агент изучил API сервиса и обнаружил, что система недостаточно проверяет право пользователя отменять чужие записи.
OpenClaw решил проверить найденную уязвимость на практике и удалил из очереди человека, занимавшего первое место. После вмешательства Эндрю поднялся с четвертой позиции на третью. Разрешения на отмену чужой брони мужчина не давал.
Узнав о действиях агента, Эндрю попросил вернуть удаленного посетителя на прежнее место, но OpenClaw восстановить запись уже не смог. После инцидента агент подготовил сообщение для разработчика сервиса бронирования с описанием обнаруженной проблемы, а Эндрю согласился отправить предупреждение.
Компания, разработавшая систему бронирования, отказалась обсуждать с ABC News конкретные детали безопасности. Anthropic на запрос журналистов не ответила.
История привлекла внимание из-за самостоятельности ИИ-агента. OpenClaw не ограничился обычной попыткой записать пользователя на занятие, а изучил работу сервиса, обнаружил слабую проверку доступа и применил найденную возможность без отдельного разрешения владельца. В результате пострадала запись другого человека, хотя Эндрю не давал прямого указания вмешиваться в чужую бронь.
После случившегося Эндрю не отказался от OpenClaw. По словам мужчины, инцидент заставил внимательнее относиться к возможностям ИИ-агентов и стал предупреждением о необходимости пользоваться автономными системами ответственно.
- Источник новости
- www.securitylab.ru
