директор и машина · контроль качества · запись № 006 · · Давид Герштейн
Критерий оценки качества работы в звонке: пять вместо пятидесяти
Рабочий критерий оценки качества работы менеджера в звонке — это пять пунктов: тип звонка, соблюдение сроков, соблюдение скрипта, тон коммуникации и фиксация результата в CRM. Пятьдесят пунктов не работают, потому что их не проверяет как следует ни человек, ни ИИ. Ручной контроль закрывает лишь 25% звонков, а цена одной пропущенной ошибки может достигать 2,4 млн ₽ на одном клиенте (оценка).
Содержание · 9 разделов
- Критерий оценки качества работы: короткий ответ
- Почему ваши пятьдесят пунктов не работают
- Пять пунктов: рабочий критерий оценки качества работы
- Инженерная связка: как машина понимает, какой звонок оценивать
- Калибровка: без разговора с менеджером чек-лист мёртв
- Экономика: сколько стоит проверка и что она даёт
- Что я понял про сопротивление
- Стандарты обслуживания по телефону: что стоит за цифрами
- Чек-лист на понедельник
Суммы в разборе пересчитаны на условную компанию — пропорции, механика и выводы реальные.
Если у вас есть чек-лист оценки звонков на пятьдесят пунктов — у вас нет чек-листа оценки звонков. У вас есть документ, который никто не заполняет честно, потому что заполнить его честно физически невозможно.
Я через это прошёл. Мы начинали с длинного списка «всё, что важно», и получили ровно то, что получают все: контролёр ставит галочки не глядя, менеджеры считают оценку лотереей, руководитель не может объяснить, почему у одного 7, а у другого 8.
Работать начало, когда осталось пять пунктов. Ниже — какие именно и почему.
Критерий оценки качества работы: короткий ответ
Рабочий критерий оценки качества работы менеджера в звонке — это пять проверяемых пунктов вместо пятидесяти: тип звонка определён верно, соблюдён регламент по срокам, соблюдён скрипт своего этапа сделки, отмечен тон коммуникации и зафиксирован результат в CRM. Каждый из пяти подтверждается цитатой из разговора — поэтому оценка не «гуляет» между прогонами.
Пятьдесят пунктов добросовестно не проверяет ни человек, ни машина. Руками контроль закрывает около 25% разговоров, автоматическая оценка по короткому списку — 100% того же потока. Прежде чем убирать людей из контроля, сверьте машину с человеком на выборке в 66 звонков и посчитайте дельту отклонения.
Отдел настраивал систему оценки звонков четвёртый месяц. Десять вариантов чек-листов под разные сценарии — первичный звонок, звонок продаж, вторичный контакт, встреча. Каждый месяц — доработки. Не потому что систему делали плохо. Потому что критерий оценки качества работы в звонке — это не строка в документе, а живая настройка, которая ломается на реальных звонках чаще, чем кажется на этапе презентации.
Параллельно в другой компании посчитали цену вопроса иначе: стоимость одной пропущенной ошибки в контроле качества может достигать 2,4 млн ₽ на одном клиенте — это примерно 65% его годового контракта на услуги компании (оценка). При этом отдел контроля в лучшем случае прослушивает 25% звонков — не потому что работает плохо, а потому что физически не успевает больше. Это не абстрактный риск. Это разрыв между тем, сколько звонков реально требует проверки, и тем, сколько человек способен проверить руками за смену.
Почему ваши пятьдесят пунктов не работают
Посмотрите на свой чек-лист и честно ответьте: сколько времени займёт заполнить его добросовестно по одному разговору? Если больше пяти минут — его никто не заполняет добросовестно, включая вашего лучшего сотрудника.
Классический чек-лист контроля качества звонков — это лист на пятьдесят строк: поздоровался, представился, уточнил имя, задал открытый вопрос, отработал возражение, предложил альтернативу, поблагодарил, попрощался. Каждый пункт логичен сам по себе. Проблема — в сумме.
Человек физически не может держать в голове пятьдесят критериев, слушая живой разговор. Он либо сваливается в формальную галочку («вроде было»), либо тратит на один звонок пятнадцать минут вместо пяти. А 25% охвата вручную — это уже потолок ресурса, а не вопрос качества работы контролёров. В отделах с большей нагрузкой на менеджера этот потолок проседает и до 10% — предел зависит от общего потока звонков и штата контроля, а не от желания людей проверять больше.
ИИ формально может оценить все пятьдесят пунктов за секунды. Но это не решает проблему — оно её маскирует. Если критерии размыты, модель по-разному оценивает один и тот же звонок при повторной обработке. «Оценка, она не всегда адекватна» — это не претензия к технологии, это диагноз чек-листу. Пятьдесят нечётких формулировок дают пятьдесят источников погрешности, которые складываются друг с другом.
Пять пунктов: рабочий критерий оценки качества работы
Сверьте со своим списком. Если у вас нет хотя бы трёх из этих пяти — вы меряете не то, что влияет на деньги.
На разных внедрениях всплывает один и тот же короткий список. Не потому что кто-то сознательно урезал критерии до пяти, — потому что именно эти пять реально влияют на деньги и повторяются в каждой рабочей системе контроля.
| № | Критерий | Что проверяет |
|---|---|---|
| 1 | Тип звонка определён верно | Первичный лид, продажа, вторичный контакт, встреча — от этого зависит, какой чек-лист вообще применять |
| 2 | Регламент по срокам | Сроки молчания, скорость первого ответа, отсутствие «зависших» диалогов дольше установленного норматива |
| 3 | Скрипт по этапу сделки | Соблюдение обязательных блоков разговора для конкретного этапа, а не абстрактной «вежливости» |
| 4 | Тон и эмпатия | Отдельный ежемесячный отчёт по недостаткам деловой коммуникации — не по каждому звонку, а по накопленной картине |
| 5 | Фиксация результата | Итог звонка записан в CRM: следующий шаг, договорённость, дата повторного контакта |
Здесь нет пункта «улыбался ли голосом». Есть проверяемые вещи. Тип звонка либо определён, либо нет. Срок молчания либо нарушен, либо нет. Скрипт для этапа либо соблюдён, либо нет. Это бинарные или почти бинарные критерии — именно поэтому ИИ на них не «гуляет» между прогонами.
Тон и эмпатия — единственный субъективный пункт, и его сознательно вынесли из потокового контроля в отдельный ежемесячный отчёт, который становится основой для обучения, а не для дисциплинарных решений по каждому звонку. То, что оценивается автоматически и в реальном времени, должно быть проверяемым фактом. То, что требует нюанса, — идёт в накопительную аналитику.
рассылка журнала
Разборы про качество обслуживания — на почту
Оценка разговоров, чек-листы, калибровка машины против людей.
Инженерная связка: как машина понимает, какой звонок оценивать
Эта часть нужна вам, если вы будете ставить оценку на поток. Если пока оцениваете руками — пропустите, вернётесь позже: сначала должен заработать сам чек-лист, а уже потом его стоит отдавать машине. Как он встраивается в остальной контур, показано в разборе всей системы оценки разговоров целиком — от выгрузки записи до калибровки и отчёта.
Прежде чем спорить о критериях, нужно решить более простой вопрос: система вообще должна понять, какой звонок из CRM брать в оценку. Первый звонок клиенту может быть холостым — не дозвонились. Следующий звонок система может не захватить, если менеджер не перевёл сделку на нужный этап. А заставлять менеджеров вручную двигать статусы ради того, чтобы система «увидела» звонок, — путь в саботаж.
Рабочая схема конвейера выглядит так (на диаграмме — пять шагов, от вебхука Bitrix24 до финальной оценки чек-листа):
Для встреч триггером служит заполнение обязательного поля с аудиозаписью на этапе «встреча проведена» — а не ручная отметка «оцени меня». Перед оценкой самого звонка система подтягивает контекст предыдущих контактов с этим же клиентом: иначе оценка вырывает разговор из истории и делает неверные выводы. Похожая проблема с кривыми входными данными разбиралась в статье о том, как CRM врёт с датами — если данные на входе нечестные, никакой чек-лист на выходе не спасёт оценку.
Промпт: разделение на дешёвую и дорогую модель
Классификация типа звонка — задача с 3–4 вариантами ответа, глубокий контекст не нужен. Для неё хватает дешёвого классификатора — он быстрый и почти не влияет на счёт за месяц даже при полном охвате звонков. Финальная оценка по чек-листу требует понимания контекста разговора, нюансов возражений и связи с предыдущими звонками — здесь оправдана более мощная модель с расширенным окном контекста.
Структура входных данных для второго шага (передаётся из Google Sheets, куда предварительно попадают ID звонка, менеджер, тип и ссылка на транскрипт):
Ты — контролёр качества звонков отдела продаж.
На входе:
- тип_звонка: {{тип из шага классификации}}
- менеджер: {{имя менеджера}}
- транскрипт: {{текст или ссылка на полный текст, если обрезан}}
- чек_лист: {{пять критериев для этого типа звонка}}
Задача:
1. Оцени звонок по каждому критерию чек-листа: 1 (выполнено), 0 (не выполнено),
null (невозможно определить из транскрипта — не придумывай).
2. Для критерия "тон и эмпатия" верни короткую цитату-пример,
только если есть явное нарушение.
3. Укажи, зафиксирован ли результат звонка в CRM (да/нет) и какой именно.
4. Не оценивай то, чего нет в тексте. Если данных не хватает — верни null,
а не догадку.
Ответ верни строго в формате JSON без пояснений вне JSON.
Пример ответа модели:
{
"call_id": "d-88213",
"manager": "M-07",
"call_type": "звонок продаж",
"checklist_scores": {"type_ok": 1, "sla_ok": 1, "script_ok": 0, "tone_flag": null, "crm_fixed": 1},
"tone_quote": null,
"comment": "Пропущен блок отработки возражения по цене, шаг 3 скрипта"
}
Так выглядит итоговый отчёт руководителя после полного охвата — не выборка, а поток всех звонков за день:
| ID звонка | Менеджер | Тип | Срок | Скрипт | CRM |
|---|---|---|---|---|---|
| d-88213 | M-07 | продажа | |||
| d-88214 | M-03 | первичный |
Инженерная обвязка держится не на скрипте-энтузиасте, а на трёх правилах. Где крутится: серверная часть — Google Apps Script или облачная функция, дёргающая Bitrix24 REST API по расписанию раз в сутки; результаты падают в Google Sheets, из которого руководитель забирает выгрузку в личный кабинет. Как перезапускается: при обрыве на шаге транскрибации задание уходит в очередь повторных попыток с экспоненциальной задержкой, а не падает молча. Как сообщает об ошибке: в Telegram-канал руководителя автоматизации уходит алерт с ID звонка и кодом ошибки — тем же ботом, что шлёт алерты о задержках ответов менеджеров.
Технический капкан, который стоил месяца доверия
Транскрибация звонков обрезалась из-за лимита символов в ячейке таблицы. Модель получала неполный текст и делала вывод по обрубленному разговору — формально применяя правильный чек-лист к неправильным данным. Решение оказалось не в увеличении лимита, а в архитектуре: в таблицу сохраняется краткий фрагмент и ссылка на полный текст, который открывается отдельно. Мелочь, которая стоила месяца доверия к оценкам — и напоминание, что ошибка в инженерной обвязке иногда дороже ошибки в промпте. Про то, как разово недосмотренная строка кода обходится в деньги, — отдельный разбор в статье сколько на самом деле стоит ИИ в месяц.
Калибровка: без разговора с менеджером чек-лист мёртв
Это тот этап, который вы захотите пропустить. Не пропускайте: чек-лист, который менеджеры не приняли, они будут обходить, а не выполнять — и вы получите красивые цифры при неизменных продажах.
Даже идеально составленный чек-лист не заработает, если менеджеры считают его произвольным. Рабочий формат — калибровочная сессия: руководитель разбирает с менеджером одну его встречу, показывает автоматическую оценку по чек-листу, и вместе обсуждают точки согласия и расхождения.
Смысл не в том, чтобы менеджер «принял» оценку. Смысл в том, чтобы он помог её донастроить — указал, где чек-лист не учитывает специфику разговора, где критерий сформулирован криво. Без этого шага внедрение оценки звонков превращается в конфликт, а не в инструмент. Подробнее о том, как избежать сопротивления при запуске контроля звонков, — в статье про менеджеров против прослушки.
бесплатный курс · телеграм
Поставить оценку 100% разговоров у себя
В курсе — как собрать оценку качества от выгрузки до отчёта руководителю: чек-листы, калибровка, приёмка. То, что у нас работает за сотни долларов в месяц.
Начать курс бесплатно →открывается в Telegram · доступ по подписке на канал
Экономика: сколько стоит проверка и что она даёт
Посчитайте свою цифру: сколько у вас звонков в месяц, сколько стоит час контролёра и какую долю потока он реально успевает. Разница между этой долей и сотней процентов — ваша зона неизвестности, и именно в ней происходит всё, о чём вы потом узнаёте от клиентов.
Считайте на своём потоке: сколько звонков в месяц у вашего отдела и какую долю из них слышит хоть кто-то. Разница между этой долей и сотней процентов — это и есть зона, где ваши обещания клиентам живут без всякого контроля.
Возьмём условный отдел из 8 менеджеров продаж, каждый закрывает в среднем 15–20 звонков в день — то есть от 120 до 160 звонков по отделу; для расчёта возьмём середину диапазона, 140 звонков в день. Ручная проверка одного звонка по расширенному чек-листу занимает 10–15 минут — усреднённая цифра из практики контроля качества, для расчёта возьмём середину, 12 минут (оценка).
Формула для ручного 100% охвата словами: звонков в день × минут на проверку одного звонка ÷ 60 = часы, которые нужно закрыть контролёрам. На наших числах: 140 × 12 / 60 = 28 часов в день. При восьмичасовой смене это 28 / 8 = 3,5 ставки контролёра — с запасом на отчётность округляем до 4.
Текущий охват в 25% (35 звонков в день из потока 140) укладывается ровно в одну смену: 35 × 12 / 60 = 7 часов — это и есть тот самый контролёр, который «физически не успевает больше». Чтобы закрыть оставшиеся 75% потока руками, нужны ещё 3 ставки. При условной ставке специалиста контроля качества (ориентировочная рыночная ставка для такой позиции) это 8 часов × 3 ставки × 22 рабочих дня — то есть дополнительно три полных ставки в месяц только на то, чтобы прослушивать, без учёта написания отчётов и обучения; в пересчёте на эксплуатацию модели это кратно больше стоимости обработки того же потока звонков автоматикой.
| Показатель | Вручную (25% охват) | С речевой аналитикой |
|---|---|---|
| Звонков в обработке из потока 140/день | 35 | 140 |
| Часы контролёра в день | 7 (в рамках смены) | не требуется — обработка автоматическая |
| Доп. ставки контролёров для 100% охвата | нужно ещё 3 | 0 |
| Доп. ФОТ в месяц на закрытие разрыва (оценка) | ≈3 полных ставки — кратно дороже эксплуатации модели | эксплуатационные расходы модели + риск инженерных ошибок (пример — до 35 000 ₽ за одну ночь из-за циклического запроса, оценка) |
Читателю, который хочет прикинуть свой случай: формула та же — поток звонков в день × минуты на ручную проверку ÷ 60 = часы; часы ÷ длительность смены = недостающие ставки; ставки × часы смены × своя ставка в час × число рабочих дней = ежемесячная стоимость закрытия разрыва руками. Подставьте свои цифры вместо 140 и 12 — порядок величины будет тем же.
Если система хотя бы раз за период предотвращает ошибку катастрофического масштаба (по одной из практик — сумму порядка 2,4 млн ₽, около 65% годового бюджета клиента, оценка), это перекрывает многолетние издержки на разработку и эксплуатацию сразу. Но это редкий, единичный кейс, и его нельзя закладывать в среднюю экономику как регулярный эффект — поэтому основной расчёт выше идёт через операционные часы, а не через гипотетическую катастрофу.
Речевая аналитика с автоматической классификацией и оценкой снимает потолок ручного охвата: 100% вместо выборочных 25% (в некоторых отделах — вместо 10%), без роста штата контроля. Экономический эффект здесь не в замене одного контролёра ИИ — это отдельный организационный шаг, который в разных компаниях планируют делать поэтапно и после проверки методологии, минимум за 3 месяца параллельной работы. В одной из практик по итогам такого перехода планируют отказаться минимум от двух штатных единиц контроля качества — но это управленческое решение после проверки методологии, а не автоматический результат внедрения чек-листа. Вклад именно чек-листа и оценки — в том, что охват растёт без пропорционального роста затрат на контроль, а не в том, что штат сокращается автоматически в день внедрения.
На диаграмме — до и после внедрения речевой аналитики:
Охват контроля вырос с 25% звонков (35 из 140 в день, проверяемых вручную) до 100% при автоматической оценке — без увеличения штата контролёров.
Обратная сторона — эксплуатационные расходы и риск инженерных ошибок. Один из внедрений столкнулся с циклическим запросом из-за ошибки в коде: за одну ночь это обошлось примерно в 35 000 ₽ (оценка). Сумма для месячного бюджета компании небольшая, но именно она стала поводом пересмотреть готовность системы к масштабированию — раз ошибка стоит денег на этапе теста, на проде она стоит больше. Детальный разбор счетов за подобный инструмент — в статье про контроль качества звонков без ОКК. Смешивать эффект этого инструмента с другими мерами — например, с параллельным пересмотром скриптов продаж — не стоит: вклад считается отдельно, иначе экономика получается дутой.
Что я понял про сопротивление
Когда мы вводили оценку, я ждал спора о критериях. Спора не было — было тихое сопротивление: менеджеры соглашались на планёрке и продолжали работать как раньше. Я разбирался месяц и понял простую вещь: они не верили, что оценка справедлива, и не могли это сказать вслух.
Помогла не жёсткость, а прозрачность: мы стали показывать цитату из разговора рядом с каждым баллом. Когда человек видит, за какую именно фразу ему снизили балл, спорить становится не с кем — можно только согласиться или объяснить контекст, и оба варианта нам подходят.
Тогда же я понял, чем это на самом деле является. Свести оценку к пяти пунктам, каждый из которых подтверждается цитатой, — это управленческий навык, а не работа контролёра. Руководитель либо умеет назвать пять вещей, за которые он отвечает деньгами, либо прячется за пятьюдесятью и называет это требовательностью.
Если вы будете вводить это у себя — заложите на разговоры с командой столько же времени, сколько на настройку. У меня ушло примерно поровну, и я считаю это нормальной пропорцией.
Стандарты обслуживания по телефону: что стоит за цифрами
Сроки — часть любого чек-листа, но их легко занизить или завысить без реальных данных. В одной компании средний ответ на сообщение клиента — 8 часов, включая нерабочее время и сон, что требует отдельной проверки на честность метрики: если считать только рабочие часы, реальная скорость реакции может выглядеть иначе. Максимальный допустимый срок тишины — две недели, но ответ внутри рабочего дня требуется всегда. Это конкретные, измеримые нормативы — не «отвечать быстро», а число, которое можно проверить автоматически через тот же вебхук, что выгружает звонки.
Отдельное правило для повторных касаний: если клиент молчит больше 24 часов после первого контакта — повторное сообщение через 4 часа, а если ответа нет и после этого — прописан следующий шаг сценария (вторая попытка, эскалация), а не открытый разбор без решения. Это тоже часть чек-листа, только не по звонку, а по цепочке коммуникации целиком.
Перед тем как убирать людей из контроля, проверьте у себя адекватность самой автоматической оценки. В одном из внедрений за месяц прогнали 66 звонков параллельно через ИИ и через ручную оценку контролёра, посчитали дельту отклонения — и только после этого решали, готова ли методология к полному развёртыванию.
Чек-лист на понедельник
- Выписать 2–3 реальных типа звонков в своей воронке — не десять, а именно те, что реально повторяются.
- Возьмите пять критериев из таблицы выше и адаптировать формулировки под свой скрипт продаж.
- Настройте выгрузку звонков из CRM по уникальным ID (сущность, менеджер, время), а не полагаться на ручные отметки этапов.
- Прогнать выборку в 50–70 звонков через ИИ и через ручную оценку, посчитать дельту отклонения.
- Проведите калибровочную сессию хотя бы с одним менеджером на каждый тип звонка.
- Только после совпадения оценок в 80–90% случаев — расширять охват и снижать долю ручного контроля.
Это медленнее, чем «внедрить ИИ за неделю». Зато к моменту, когда систему используют для решений о премиях или увольнениях, она уже проверена, а не работает на веру.
Что сделать на этой неделе: возьмите свой чек-лист (или составьте первый) и вычеркните всё, кроме пяти пунктов, каждый из которых можно подтвердить цитатой из разговора. Если пункт нельзя подтвердить цитатой — это не критерий, а мнение, и в оценке ему не место.
Дальше — калибровка с менеджерами, иначе любой чек-лист мёртв. А как поставить на это машину, чтобы оценивались все звонки, а не выборка, — механика в бесплатном курсе.
Сократите свой чек-лист до пяти пунктов на этой неделе и посмотрите, как изменится качество заполнения.
Частые вопросы
Сколько пунктов должно быть в чек-листе оценки звонка?
Пять-семь, привязанных к типу звонка. Больше — и оценка превращается в формальность, которую никто не читает.
Как проверить, что ИИ-оценка звонков адекватна?
Сравнить с ручной оценкой на выборке 50–70 звонков и посчитать дельту отклонения, прежде чем убирать людей из контроля.
Это то же самое, что независимая оценка качества работы учреждения?
Нет. Там речь про обязательную процедуру для бюджетных организаций и про аттестацию педагогов. Здесь — критерий оценки качества работы менеджера отдела продаж в конкретном разговоре с клиентом.
Что делать, если ИИ по-разному оценивает один и тот же звонок?
Это сигнал, что чек-лист сформулирован нечётко. Переписывать критерии, пока повторная обработка не даёт одинаковый результат.
#контроль и надёжность #ии и нейросети #аналитика и отчётность
Присылаю новый разбор в день выхода — с цифрами, которые можно подставить в свою таблицу. Без дайджестов ради дайджестов: нет статьи — нет письма.