- 27,813
- 46
- 8 Ноя 2022
Разработчикам обещали экономию времени, а принесли счета на тысячи долларов.
ИИ-помощники для программистов должны были ускорить разработку, но у команд появилась новая проблема: счета за автоматическое написание кода растут быстрее, чем компании успевают оценить пользу. Gartner предупредила , что к 2028 году расходы на ИИ-инструменты для разработки могут превысить среднюю зарплату программиста из-за роста потребления токенов и перехода поставщиков к оплате по фактическому использованию.
Расходы начали резко меняться после перехода крупных поставщиков от оплаты за рабочее место к модели с оплатой по потреблению. Теперь команды платят не фиксированную сумму за пользователя, а зависят от расхода токенов. Токены можно представить как фрагменты текста, которые модель получает, обрабатывает и возвращает в ответе.
Нитиш Тьяги, старший аналитик Gartner, заявил, что счета за ИИ-инструменты для разработки в отдельных командах выросли с 20 или 100 долларов до 2000-5000 долларов на разработчика в месяц. В крайних случаях расходы доходят до 20 000 долларов только за токены.
Инженерные отделы при этом часто не видят, как сервисы считают потребление и формируют итоговую сумму. Без понятных данных компаниям сложно прогнозировать бюджет, ограничивать лишние запросы и сопоставлять стоимость ИИ-помощников с реальным приростом продуктивности. По оценке Gartner, поставщики пока не добавили сильных встроенных инструментов для снижения расходов.
Тьяги считает, что рынок слишком увлекся идеей накрутки токенов. Поставщики подталкивают клиентов отправлять моделям больше данных и создают впечатление, будто рост потребления автоматически повышает отдачу от ИИ. Аналитик Gartner спорит с таким подходом: прямой связи между увеличением расхода токенов и ростом продуктивности нет.
Gartner советует командам не наращивать объём запросов, а точнее управлять контекстом. Разработчикам стоит передавать модели только нужные фрагменты кода, документации и описания задачи. Простые частые операции лучше направлять небольшим моделям, а самые мощные модели оставлять для сложной и ценной работы.
По словам Тьяги, грамотная настройка контекста и маршрутизация запросов могут улучшить качество ответов, а вместе с качеством вырастет и практическая польза для команды. Простое увеличение числа токенов, наоборот, способно поднять счет без заметного выигрыша для разработки.
Gartner прогнозирует, что к 2028 году расходы на ИИ-инструменты для программирования могут превысить среднюю зарплату разработчика в ряде стран из-за роста потребления токенов и перехода к оплате по фактическому использованию. Аналитики не утверждают, что токены станут дороже труда каждого программиста в мире. Зарплаты в США заметно выше, чем в Индии, но стоимость кодовых агентов почти не зависит от страны. Поэтому в Индии расходы на ИИ-помощников уже могут сопоставляться с зарплатой инженера с опытом от четырёх до шести лет.
ИИ-помощники для программистов должны были ускорить разработку, но у команд появилась новая проблема: счета за автоматическое написание кода растут быстрее, чем компании успевают оценить пользу. Gartner предупредила , что к 2028 году расходы на ИИ-инструменты для разработки могут превысить среднюю зарплату программиста из-за роста потребления токенов и перехода поставщиков к оплате по фактическому использованию.
Расходы начали резко меняться после перехода крупных поставщиков от оплаты за рабочее место к модели с оплатой по потреблению. Теперь команды платят не фиксированную сумму за пользователя, а зависят от расхода токенов. Токены можно представить как фрагменты текста, которые модель получает, обрабатывает и возвращает в ответе.
Нитиш Тьяги, старший аналитик Gartner, заявил, что счета за ИИ-инструменты для разработки в отдельных командах выросли с 20 или 100 долларов до 2000-5000 долларов на разработчика в месяц. В крайних случаях расходы доходят до 20 000 долларов только за токены.
Инженерные отделы при этом часто не видят, как сервисы считают потребление и формируют итоговую сумму. Без понятных данных компаниям сложно прогнозировать бюджет, ограничивать лишние запросы и сопоставлять стоимость ИИ-помощников с реальным приростом продуктивности. По оценке Gartner, поставщики пока не добавили сильных встроенных инструментов для снижения расходов.
Тьяги считает, что рынок слишком увлекся идеей накрутки токенов. Поставщики подталкивают клиентов отправлять моделям больше данных и создают впечатление, будто рост потребления автоматически повышает отдачу от ИИ. Аналитик Gartner спорит с таким подходом: прямой связи между увеличением расхода токенов и ростом продуктивности нет.
Gartner советует командам не наращивать объём запросов, а точнее управлять контекстом. Разработчикам стоит передавать модели только нужные фрагменты кода, документации и описания задачи. Простые частые операции лучше направлять небольшим моделям, а самые мощные модели оставлять для сложной и ценной работы.
По словам Тьяги, грамотная настройка контекста и маршрутизация запросов могут улучшить качество ответов, а вместе с качеством вырастет и практическая польза для команды. Простое увеличение числа токенов, наоборот, способно поднять счет без заметного выигрыша для разработки.
Gartner прогнозирует, что к 2028 году расходы на ИИ-инструменты для программирования могут превысить среднюю зарплату разработчика в ряде стран из-за роста потребления токенов и перехода к оплате по фактическому использованию. Аналитики не утверждают, что токены станут дороже труда каждого программиста в мире. Зарплаты в США заметно выше, чем в Индии, но стоимость кодовых агентов почти не зависит от страны. Поэтому в Индии расходы на ИИ-помощников уже могут сопоставляться с зарплатой инженера с опытом от четырёх до шести лет.
- Источник новости
- www.securitylab.ru
