- 27,803
- 46
- 8 Ноя 2022
Разработчикам предлагают перестать писать запросы ради бесконечных циклов.
В ИИ-индустрии снова спорят о том, как правильно работать с чат-ботами и агентами. Вместо ручных промптов разработчикам предлагают собирать рабочие циклы: агент получает цель, делает несколько шагов подряд, вызывает инструменты и снова обращается к модели.
Технически подход не нов. ИИ-агенты с самого начала работали через повторяющиеся действия: модель получает задачу, запускает инструмент, оценивает результат и выбирает следующий шаг. В программировании циклы появились задолго до нынешней волны генеративного ИИ, поэтому разговор о смерти промптов больше напоминает попытку переупаковать знакомый прием в свежий модный термин.
Поводом для новой дискуссии стал пост Питера Штайнбергера, создателя OpenClaw, который позже присоединился к OpenAI. 7 июня Штайнбергер написал , что разработчикам больше не стоит просто писать запросы для агентов, которые помогают с кодом. По его словам, правильный подход теперь сводится к проектированию циклов (loop engineering), где агенты сами формируют новые запросы.
При этом Андрей Карпати писал о циклах для ИИ и показывал похожую реализацию за несколько месяцев до поста Штайнбергера. Новая волна интереса связана не с техническим открытием, а с тем, что крупные игроки начали продвигать циклы как следующий этап работы с агентами.
На заявление Штайнбергера быстро отреагировал журналист и критик ИИ-индустрии Эд Зитрон. В ответе Зитрон язвительно спросил, выставляет ли OpenAI счет самой себе за потраченные токены. Замечание задело главный вопрос: автономные циклы могут резко увеличить число обращений к модели, а вместе с запросами растут расходы пользователей.
Главный риск связан не с повторяющимися действиями как техническим приемом, а с попыткой представить постоянное потребление токенов как новый стандарт работы. Чем меньше человек контролирует каждый шаг, тем больше ресурсов модель тратит на промежуточные действия, исправления и ошибочные ходы. Для ИИ-компаний такой режим выгоден: сервисы получают больше запросов, а клиенты оплачивают длинные цепочки автоматических операций.
Зитрон развил мысль в отдельном посте , где раскритиковал Бориса Черни из Anthropic за продвижение циклов как замены промптам. По словам Зитрона, внутри крупной ИИ-компании можно позволить себе месячные траты на токены до $130 тыс., но для обычного разработчика или бизнеса автономный агент быстро превращается не в экономию времени, а в счет за лишние итерации.
Дискуссия быстро превратилась в шутку о будущем проектировании циклов. Основатель образовательной компании Jnaapti Гаутам Пай предположил, что <span class="blocked-highlight" title="Соцсеть заблокирована на территории РФ">LinkedIn</span> быстро подхватит новую моду и начнет продвигать новый термин как очередной обязательный навык. Штайнбергер ответил , что через три месяца индустрия уже будет обсуждать группы агентов, которые проектируют циклы для других агентов.
В тот же день разработчик Адди Османи опубликовал разбор проектирования циклов для ИИ-агентов. В отличие от громких заявлений о конце промптов, материал Османи сводится к более трезвому выводу: цикл меняет работу человека, но не исключает человека из процесса.
Без контроля автоматизация быстро становится риском. Большие языковые модели не дают стабильно одинаковый и безошибочный результат, поэтому запуск агента без проверки может закончиться лишними расходами, неверными правками в коде или цепочкой ошибок, которую придется разбирать вручную. Чем сложнее задача, тем важнее следить за промежуточными шагами, а не передавать весь процесс модели вслепую.
ИИ-компании могут продвигать автоматические циклы как следующий этап развития агентов, но пользователям безопаснее относиться к такому подходу как к инструменту, а не к замене контроля. Промпты никуда не исчезают: меняется только способ организации работы, где человек по-прежнему задает цель, проверяет результат и платит за каждую лишнюю итерацию.
В ИИ-индустрии снова спорят о том, как правильно работать с чат-ботами и агентами. Вместо ручных промптов разработчикам предлагают собирать рабочие циклы: агент получает цель, делает несколько шагов подряд, вызывает инструменты и снова обращается к модели.
Технически подход не нов. ИИ-агенты с самого начала работали через повторяющиеся действия: модель получает задачу, запускает инструмент, оценивает результат и выбирает следующий шаг. В программировании циклы появились задолго до нынешней волны генеративного ИИ, поэтому разговор о смерти промптов больше напоминает попытку переупаковать знакомый прием в свежий модный термин.
Поводом для новой дискуссии стал пост Питера Штайнбергера, создателя OpenClaw, который позже присоединился к OpenAI. 7 июня Штайнбергер написал , что разработчикам больше не стоит просто писать запросы для агентов, которые помогают с кодом. По его словам, правильный подход теперь сводится к проектированию циклов (loop engineering), где агенты сами формируют новые запросы.
При этом Андрей Карпати писал о циклах для ИИ и показывал похожую реализацию за несколько месяцев до поста Штайнбергера. Новая волна интереса связана не с техническим открытием, а с тем, что крупные игроки начали продвигать циклы как следующий этап работы с агентами.
На заявление Штайнбергера быстро отреагировал журналист и критик ИИ-индустрии Эд Зитрон. В ответе Зитрон язвительно спросил, выставляет ли OpenAI счет самой себе за потраченные токены. Замечание задело главный вопрос: автономные циклы могут резко увеличить число обращений к модели, а вместе с запросами растут расходы пользователей.
Главный риск связан не с повторяющимися действиями как техническим приемом, а с попыткой представить постоянное потребление токенов как новый стандарт работы. Чем меньше человек контролирует каждый шаг, тем больше ресурсов модель тратит на промежуточные действия, исправления и ошибочные ходы. Для ИИ-компаний такой режим выгоден: сервисы получают больше запросов, а клиенты оплачивают длинные цепочки автоматических операций.
Зитрон развил мысль в отдельном посте , где раскритиковал Бориса Черни из Anthropic за продвижение циклов как замены промптам. По словам Зитрона, внутри крупной ИИ-компании можно позволить себе месячные траты на токены до $130 тыс., но для обычного разработчика или бизнеса автономный агент быстро превращается не в экономию времени, а в счет за лишние итерации.
Дискуссия быстро превратилась в шутку о будущем проектировании циклов. Основатель образовательной компании Jnaapti Гаутам Пай предположил, что <span class="blocked-highlight" title="Соцсеть заблокирована на территории РФ">LinkedIn</span> быстро подхватит новую моду и начнет продвигать новый термин как очередной обязательный навык. Штайнбергер ответил , что через три месяца индустрия уже будет обсуждать группы агентов, которые проектируют циклы для других агентов.
В тот же день разработчик Адди Османи опубликовал разбор проектирования циклов для ИИ-агентов. В отличие от громких заявлений о конце промптов, материал Османи сводится к более трезвому выводу: цикл меняет работу человека, но не исключает человека из процесса.
Без контроля автоматизация быстро становится риском. Большие языковые модели не дают стабильно одинаковый и безошибочный результат, поэтому запуск агента без проверки может закончиться лишними расходами, неверными правками в коде или цепочкой ошибок, которую придется разбирать вручную. Чем сложнее задача, тем важнее следить за промежуточными шагами, а не передавать весь процесс модели вслепую.
ИИ-компании могут продвигать автоматические циклы как следующий этап развития агентов, но пользователям безопаснее относиться к такому подходу как к инструменту, а не к замене контроля. Промпты никуда не исчезают: меняется только способ организации работы, где человек по-прежнему задает цель, проверяет результат и платит за каждую лишнюю итерацию.
- Источник новости
- www.securitylab.ru
