- 29,775
- 46
- 8 Ноя 2022
Человеку оставляют последнюю кнопку.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1024/572;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">
Anthropic сделала ещё один шаг к интернету, где покупателем становится не человек, а ИИ-агент. Компания выпустила набор готовых компонентов для торговых агентов на базе Claude, которые ищут товары, сравнивают варианты, учитывают предпочтения владельца, собирают корзину и передают заказ на оплату. Пока Claude не получает банковскую карту напрямую и не списывает деньги самостоятельно, но Anthropic уже готовит архитектуру для подключения агентских платежей через Visa, Mastercard и других провайдеров.
Новая разработка называется Claude Commerce Agents. Anthropic опубликовала исходный код и готовые схемы для розничной торговли, путешествий, мобильной связи и продажи билетов. Вместо привычного чат-бота магазин может встроить агента, которому покупатель напишет что-нибудь вроде «нужна палатка, спальники и горелка для поездки с двумя детьми на выходные». Claude должен самостоятельно разобраться в каталоге, подобрать совместимый набор, сравнить варианты и собрать корзину.
Важное ограничение скрывается как раз в слове «магазин». Anthropic пока не предлагает универсального Claude, который получает карту владельца и самостоятельно бродит по любым сайтам. Торговый агент работает внутри приложения или сайта конкретного продавца и подключается к его каталогу, корзине, истории заказов, базе предпочтений и системе оформления покупки.
Платёжный этап разработчики намеренно вынесли за пределы модели. В опубликованной реализации Claude вообще не имеет функции, способной списать деньги или разместить заказ. Агент формирует корзину, после чего система показывает покупателю обычную кнопку оформления или передаёт операцию внешнему сервису агентских платежей. Anthropic прямо предупреждает, что демонстрационный код ничего не покупает и не списывает средства с карты.
Такое разделение связано не только с осторожностью. Ошибка обычного чат-бота заканчивается неправильным ответом, а ошибка торгового агента может закончиться покупкой на сотни или тысячи долларов. Поэтому Anthropic переносит финансовые ограничения из текстовых инструкций модели в программный код. Цены и товары должны браться только из реального каталога, количество товара ограничивается сервером, а идентификаторы, которых магазин не выдавал агенту в текущем сеансе, система отвергает.
Отдельная защита предназначена против промпт-инъекций . Описание товара, отзыв покупателя или сообщение продавца потенциально может содержать скрытую команду для модели. Перед передачей Claude сторонний текст очищается от управляющих и невидимых символов, попыток подделать сообщения системы и конструкций, похожих на вызовы инструментов. Anthropic признаёт, что одной инструкции «не слушай чужой текст» недостаточно, поскольку финансовые последствия ошибки могут оказаться необратимыми.
Вторая половина системы предназначена уже не покупателям, а владельцам магазинов. Merchant Agent анализирует продажи, следит за запасами, предлагает скидки, меняет цены, готовит рекламные кампании и может заметить, что популярный товар закончится до начала акции. Однако опубликованная архитектура требует подтверждения человека перед изменением цены, пополнением запасов или запуском кампании.
Следующий логичный шаг заключается в том, чтобы убрать человека и с последнего экрана оплаты. Платёжные системы уже строят необходимую инфраструктуру. Visa, например, разрабатывает агентские токены , которые позволяют предоставить ИИ не номер банковской карты, а отдельные платёжные реквизиты с ограниченными полномочиями. Пользователь сможет разрешить агенту покупать только у определённых продавцов, установить предел суммы и потребовать дополнительное подтверждение для отдельных операций.
Такая схема принципиально отличается от передачи Claude фотографии карты или сохранённого номера с CVV. Агент получает ограниченный токен, привязанный к конкретному сценарию, а платёжная сеть проверяет, совпадают ли продавец и сумма с разрешением владельца. Mastercard развивает похожую концепцию Agent Pay. Anthropic называет обе платёжные системы партнёрами нового проекта, хотя конкретная платёжная интеграция в открытый шаблон пока не входит.
Проблема для всей индустрии теперь скорее психологическая, чем техническая. Январский опрос Gartner среди американских потребителей показал , что доверить ИИ самостоятельный выбор товара готовы лишь до 11% опрошенных. Гораздо больше людей хотят использовать нейросети для поиска, сравнения цен и сокращения списка вариантов, сохраняя последнее решение за собой.
Anthropic рассчитывает, что отношение изменится по мере появления ограничений, подтверждений и понятных правил возврата денег. Компания уже заявляет, что магазины с торговыми агентами Claude в отдельных случаях получали корзины до 35% крупнее, а вероятность завершения покупки возрастала до 60%. Методологию и подробные данные по этим показателям Anthropic не раскрывает, поэтому цифры пока стоит воспринимать как заявление самой компании, а не как независимое исследование.
Самый сложный вопрос появится, когда агентам действительно разрешат платить без каждого отдельного подтверждения. Магазину придётся отличать ошибку модели от мошенничества и понимать, кто отвечает за покупку, которую человек позже назвал несанкционированной. Платёжным системам придётся доказать исходное намерение пользователя, а разработчикам агентов сохранить историю разрешений и действий достаточно подробно, чтобы спорную транзакцию можно было разобрать постфактум.
Anthropic фактически готовит инфраструктуру для смены самой модели интернет-торговли. Сегодня сайт старается убедить человека нажать кнопку «Купить». В агентном интернете продавцу придётся убеждать уже программу, которая знает бюджет владельца, помнит прошлые покупки, сравнивает десятки предложений за секунды и не устает читать мелкий шрифт. Банковскую карту Claude пока не выдали, но техническая система, в которой ИИ сможет получить ограниченное право распоряжаться деньгами пользователя, уже складывается.
<div class="articl-text-cover" style="position:relative;width:100%;max-width:800px;margin-left:auto;margin-right:auto;aspect-ratio:1024/572;margin-bottom:2rem;overflow:hidden">
<div itemprop="articleBody">
Anthropic сделала ещё один шаг к интернету, где покупателем становится не человек, а ИИ-агент. Компания выпустила набор готовых компонентов для торговых агентов на базе Claude, которые ищут товары, сравнивают варианты, учитывают предпочтения владельца, собирают корзину и передают заказ на оплату. Пока Claude не получает банковскую карту напрямую и не списывает деньги самостоятельно, но Anthropic уже готовит архитектуру для подключения агентских платежей через Visa, Mastercard и других провайдеров.
Новая разработка называется Claude Commerce Agents. Anthropic опубликовала исходный код и готовые схемы для розничной торговли, путешествий, мобильной связи и продажи билетов. Вместо привычного чат-бота магазин может встроить агента, которому покупатель напишет что-нибудь вроде «нужна палатка, спальники и горелка для поездки с двумя детьми на выходные». Claude должен самостоятельно разобраться в каталоге, подобрать совместимый набор, сравнить варианты и собрать корзину.
Важное ограничение скрывается как раз в слове «магазин». Anthropic пока не предлагает универсального Claude, который получает карту владельца и самостоятельно бродит по любым сайтам. Торговый агент работает внутри приложения или сайта конкретного продавца и подключается к его каталогу, корзине, истории заказов, базе предпочтений и системе оформления покупки.
Платёжный этап разработчики намеренно вынесли за пределы модели. В опубликованной реализации Claude вообще не имеет функции, способной списать деньги или разместить заказ. Агент формирует корзину, после чего система показывает покупателю обычную кнопку оформления или передаёт операцию внешнему сервису агентских платежей. Anthropic прямо предупреждает, что демонстрационный код ничего не покупает и не списывает средства с карты.
Такое разделение связано не только с осторожностью. Ошибка обычного чат-бота заканчивается неправильным ответом, а ошибка торгового агента может закончиться покупкой на сотни или тысячи долларов. Поэтому Anthropic переносит финансовые ограничения из текстовых инструкций модели в программный код. Цены и товары должны браться только из реального каталога, количество товара ограничивается сервером, а идентификаторы, которых магазин не выдавал агенту в текущем сеансе, система отвергает.
Отдельная защита предназначена против промпт-инъекций . Описание товара, отзыв покупателя или сообщение продавца потенциально может содержать скрытую команду для модели. Перед передачей Claude сторонний текст очищается от управляющих и невидимых символов, попыток подделать сообщения системы и конструкций, похожих на вызовы инструментов. Anthropic признаёт, что одной инструкции «не слушай чужой текст» недостаточно, поскольку финансовые последствия ошибки могут оказаться необратимыми.
Вторая половина системы предназначена уже не покупателям, а владельцам магазинов. Merchant Agent анализирует продажи, следит за запасами, предлагает скидки, меняет цены, готовит рекламные кампании и может заметить, что популярный товар закончится до начала акции. Однако опубликованная архитектура требует подтверждения человека перед изменением цены, пополнением запасов или запуском кампании.
Следующий логичный шаг заключается в том, чтобы убрать человека и с последнего экрана оплаты. Платёжные системы уже строят необходимую инфраструктуру. Visa, например, разрабатывает агентские токены , которые позволяют предоставить ИИ не номер банковской карты, а отдельные платёжные реквизиты с ограниченными полномочиями. Пользователь сможет разрешить агенту покупать только у определённых продавцов, установить предел суммы и потребовать дополнительное подтверждение для отдельных операций.
Такая схема принципиально отличается от передачи Claude фотографии карты или сохранённого номера с CVV. Агент получает ограниченный токен, привязанный к конкретному сценарию, а платёжная сеть проверяет, совпадают ли продавец и сумма с разрешением владельца. Mastercard развивает похожую концепцию Agent Pay. Anthropic называет обе платёжные системы партнёрами нового проекта, хотя конкретная платёжная интеграция в открытый шаблон пока не входит.
Проблема для всей индустрии теперь скорее психологическая, чем техническая. Январский опрос Gartner среди американских потребителей показал , что доверить ИИ самостоятельный выбор товара готовы лишь до 11% опрошенных. Гораздо больше людей хотят использовать нейросети для поиска, сравнения цен и сокращения списка вариантов, сохраняя последнее решение за собой.
Anthropic рассчитывает, что отношение изменится по мере появления ограничений, подтверждений и понятных правил возврата денег. Компания уже заявляет, что магазины с торговыми агентами Claude в отдельных случаях получали корзины до 35% крупнее, а вероятность завершения покупки возрастала до 60%. Методологию и подробные данные по этим показателям Anthropic не раскрывает, поэтому цифры пока стоит воспринимать как заявление самой компании, а не как независимое исследование.
Самый сложный вопрос появится, когда агентам действительно разрешат платить без каждого отдельного подтверждения. Магазину придётся отличать ошибку модели от мошенничества и понимать, кто отвечает за покупку, которую человек позже назвал несанкционированной. Платёжным системам придётся доказать исходное намерение пользователя, а разработчикам агентов сохранить историю разрешений и действий достаточно подробно, чтобы спорную транзакцию можно было разобрать постфактум.
Anthropic фактически готовит инфраструктуру для смены самой модели интернет-торговли. Сегодня сайт старается убедить человека нажать кнопку «Купить». В агентном интернете продавцу придётся убеждать уже программу, которая знает бюджет владельца, помнит прошлые покупки, сравнивает десятки предложений за секунды и не устает читать мелкий шрифт. Банковскую карту Claude пока не выдали, но техническая система, в которой ИИ сможет получить ограниченное право распоряжаться деньгами пользователя, уже складывается.
- Источник новости
- www.securitylab.ru
