директор и машина · финансы · запись № 007 · · Давид Герштейн
Сколько на самом деле стоит ИИ в месяц: мои счета, минус $40 за ночь и шлюз учёта
Эксплуатация ИИ для среднего бизнеса стоит сотни долларов в месяц, а не миллионы в год: оценка всех звонков ~$300/мес. Дорогое — внедрение и люди. Учёт расходов ставится до первого запуска: одна зациклившаяся строчка кода сожгла у нас $40 за ночь.
Когда спрашивают «сколько стоит внедрение ИИ», обычно имеют в виду прайс подрядчика. Я отвечу с другой стороны — со стороны собственных счетов: сколько стоит эксплуатация ИИ в месяц на реальных задачах среднего бизнеса, как эти расходы выходят из-под контроля и как выглядит учёт, который я в итоге построил.
Ночь за сорок долларов
Начну с истории, с которой начался мой учёт. Одна строчка кода. Процесс зациклился вечером и до утра гонял запросы к модели. Ничего не упало, никаких ошибок — просто утром баланс оказался на сорок долларов легче. Молча. Без предупреждений.
Сорок долларов — не деньги для бизнеса. Проблема в другом: я узнал об этом утром, случайно, посмотрев баланс. Тот же цикл мог крутиться неделю. А через месяц у меня уже одиннадцать сервисов ходили в модели, каждый со своим ключом, и расход был виден одной строкой в конце месяца — без ответа на вопрос, кто именно тратит.
Порядок цифр: что почём на живых задачах
Цифры мои, с продакшена, округлены. Ваши будут отличаться, но порядок величин — нет.
| Задача | Объём | Расход/мес |
|---|---|---|
| Оценка качества звонков по чек-листу | ~177 разговоров в день, 100% потока | ~$300 |
| Распознавание и разбор документов | поток клиентских комплектов, 79 типов | десятки–сотни $, зависит от потока |
| Ежедневная отчётность и аналитика | сводки, проверки данных, дайджесты | единицы–десятки $ |
Главный вывод из таблицы: эксплуатация ИИ для среднего бизнеса стоит сотни долларов в месяц, а не миллионы рублей в год. Дорогим бывает внедрение — люди, процесс, калибровка. Сама работа моделей дешева, и дешевеет дальше.
Три правила, которые дались деньгами
1. Дорогая модель — на исключения, дешёвая — на поток
Самая частая ошибка — гонять флагманскую модель на всём подряд. Мы посчитали по фактическим данным, где дешёвая модель справляется не хуже: печатный текст с высоким согласием двух моделей — дешёвая; рукописный или спорный — дорогая; критичные поля — дорогая с проверкой человеком. Решение принимается расчётом на своих данных, а не вкусом. Экономия — в разы при том же качестве на выходе.
2. Не экономить на входных данных
Обратная сторона. Я пробовал сжимать аудио и сканы перед обработкой — расход падает, а вместе с ним падает качество расшифровки и распознавания. Дальше эту разницу доплачивают люди: перепроверкой, спорами с несправедливыми оценками, ручным разбором. Экономия на входных данных — самая дорогая экономия из возможных.
3. Учёт ставится до первого запуска, а не после первого счёта
После ночи за $40 я перевёл все сервисы на единый шлюз: каждый запрос к моделям идёт через одну точку, расход считается по каждому сервису отдельно, на всплеск приходит оповещение в мессенджер, у сервисов есть лимиты. Одиннадцать сервисов переехали без переписывания их логики.
Как посчитать бюджет для своей задачи
- Возьмите один процесс и посчитайте объём: сколько звонков, документов, писем в день.
- Прогоните неделю реального потока на дешёвой и на дорогой модели параллельно. Это стоит единицы долларов и даёт вам собственную, а не вымышленную цену качества.
- Умножьте на месяц и добавьте 30% на рост и повторные прогоны.
- Поставьте лимит на уровне двух ожидаемых месячных расходов и оповещение на уровне одного.
Если подрядчик называет вам стоимость эксплуатации, не спросив объём потока, — он называет случайное число. А если внедрение окупается только при «миллионах операций в будущем» — это не окупаемость, это пилот, который выдают за продакшен.