- 27,721
- 46
- 8 Ноя 2022
Эйфория закончилась в тот момент, когда эксперимент превратился в графу расходов.
Ещё недавно ИИ внутри технологических компаний воспринимали как ресурс, который надо расходовать без оглядки: сотрудникам целого ряда организаций предлагали активнее применять ИИ в работе, чтобы выполнять её эффективнее. Некоторые внутренние команды даже соревновались по объёму потраченных токенов. Однако рост расходов быстро сменил гонку за использованием на режим экономии.
Токенами называют единицы, по которым поставщики ИИ-сервисов считают нагрузку. Один токен примерно соответствует фрагменту слова, поэтому длинные запросы, правки кода и постоянные обращения к чат-ботам быстро превращаются в заметные расходы для бизнеса.
Перелом наступил после выставления счетов от поставщиков ИИ-инструментов, включая Anthropic и OpenAI. Так, сразу несколько компаний на прошлой неделе предупредили сотрудников о будущих ограничениях после резкого роста затрат. Uber ещё в мае признала, что за четыре месяца израсходовала годовой прогнозный бюджет на ИИ и ввела месячные лимиты для некоторых инструментов программирования.
Похожие меры приняла и Walmart, которая разделила ограничения по разным ИИ-сервисам. Amazon также убрала внутренние рейтинги, где сотрудники сравнивали объём использования токенов. Прежняя модель, которую работники называли «tokenmaxxing», фактически сменилась на «tokenminning», то есть стремление тратить меньше токенов.
Смена подхода показывает, что компании пока ищут рабочий баланс между пользой ИИ и стоимостью ежедневных запросов. Инструменты уже встроили в разработку, аналитику и офисные процессы, но неограниченный доступ оказался слишком дорогим . Теперь бизнесу приходится считать не только прирост скорости, но и цену каждого автоматизированного действия.
Ещё недавно ИИ внутри технологических компаний воспринимали как ресурс, который надо расходовать без оглядки: сотрудникам целого ряда организаций предлагали активнее применять ИИ в работе, чтобы выполнять её эффективнее. Некоторые внутренние команды даже соревновались по объёму потраченных токенов. Однако рост расходов быстро сменил гонку за использованием на режим экономии.
Токенами называют единицы, по которым поставщики ИИ-сервисов считают нагрузку. Один токен примерно соответствует фрагменту слова, поэтому длинные запросы, правки кода и постоянные обращения к чат-ботам быстро превращаются в заметные расходы для бизнеса.
Перелом наступил после выставления счетов от поставщиков ИИ-инструментов, включая Anthropic и OpenAI. Так, сразу несколько компаний на прошлой неделе предупредили сотрудников о будущих ограничениях после резкого роста затрат. Uber ещё в мае признала, что за четыре месяца израсходовала годовой прогнозный бюджет на ИИ и ввела месячные лимиты для некоторых инструментов программирования.
Похожие меры приняла и Walmart, которая разделила ограничения по разным ИИ-сервисам. Amazon также убрала внутренние рейтинги, где сотрудники сравнивали объём использования токенов. Прежняя модель, которую работники называли «tokenmaxxing», фактически сменилась на «tokenminning», то есть стремление тратить меньше токенов.
Смена подхода показывает, что компании пока ищут рабочий баланс между пользой ИИ и стоимостью ежедневных запросов. Инструменты уже встроили в разработку, аналитику и офисные процессы, но неограниченный доступ оказался слишком дорогим . Теперь бизнесу приходится считать не только прирост скорости, но и цену каждого автоматизированного действия.
- Источник новости
- www.securitylab.ru
