В месячном отчёте welcome-цепочка для новых клиентов принесла миллион, реактивация неактивных покупателей — полтора, а массовые рассылки — ещё два. Команда складывает результаты и получает общий вклад CRM. Проблема в том, что один заказ мог попасть сразу в несколько отчётов, а отдельные механики меняли условия работы друг друга.

Портфель CRM — совокупность сценариев и коммуникационных правил, действующих на выбранную аудиторию. Его дополнительный результат — отличие от заранее определённой альтернативы: например, обслуживания без дополнительных маркетинговых контактов, но с обязательными сервисными сообщениями.

Разделите атрибуцию и эффект

Атрибуция распределяет наблюдаемые продажи по правилам связи с коммуникацией. Она полезна для диагностики пути, но сумма атрибутированной выручки не доказывает дополнительную прибыль.

Даже причинные оценки отдельных тестов нельзя всегда складывать. Эффект welcome при наличии реактивации и эффект welcome при её отсутствии — разные сравнения. Если кампания ускорила покупку, другой сценарий может потерять часть потенциальных заказов.

Работа Tang и соавторов об инфраструктуре экспериментов Google описывает организацию пересекающихся тестов через слои. Она показывает, что совместимость воздействий требует проектирования; независимость нельзя получить одним фактом наличия нескольких A/B-тестов.

Измерьте программу как целое

Постоянная контрольная группа помогает сравнить выбранную программу CRM с её отсутствием или текущей альтернативой. Правило назначается до воздействия и сохраняется на согласованном горизонте. Новые клиенты входят по тому же протоколу.

Участники контроля продолжают получать необходимое обслуживание. В паспорте сравнения перечисляют исключённые маркетинговые механики, сохранённые контакты и каналы, которые программа не контролирует. Иначе фраза «без CRM» оказывается непроверяемой.

Основной показатель считают на всех назначенных клиентах. Покупки через другой канал и отсутствие покупок тоже входят в результат. Отбор только получивших письмо или использовавших промокод разрушает исходное сравнение.

Сведите экономику без повторного вычета

Условный пример. В тесте 90 000 клиентов, в контроле 10 000. За квартал средний вклад после товарной себестоимости, скидок, доставки и возвратов составил 420 и 390 рублей. На размер тестовой группы наблюдаемый прирост равен 30 × 90 000 = 2 700 000 рублей.

СтатьяСумма для тестовой аудитории
Наблюдаемый дополнительный вклад2 700 000 ₽
Контакты и переменные расходы CRM вне клиентского показателя300 000 ₽
Дополнительное производство и поддержка программы600 000 ₽
Остаток до прочих общих расходов1 800 000 ₽

Таблица — арифметика условного примера. Для вывода об эффекте нужен интервал разницы 30 рублей. При масштабировании на всю базу проверяют переносимость эффекта и изменение затрат, а не просто умножают результат на обратную долю теста.

Если стоимость сообщений уже включена в 420 рублей, повторно вычитать 300 000 нельзя. Общие расходы команды и платформы можно показать отдельным слоем для полной управленческой картины. Назовите правило распределения и отделите его от расходов, вызванных следующим запуском.

Объясните расхождения с отчётами кампаний

Для сверки составьте мост: атрибутированные заказы, уникальные заказы портфеля, продажи вне атрибуционных окон, контрольная оценка дополнительных продаж и итоговый вклад. Каждый шаг должен отвечать на свой вопрос.

Не пытайтесь заставить сумму кампаний совпасть с портфельным эффектом произвольными коэффициентами. Разница может отражать пересечения, перенос покупки во времени, замещение каналов или иной горизонт наблюдения.

Как использовать общий показатель

Портфельный результат нужен руководству для оценки программы целиком. Эксперименты отдельных механик помогают решать, что менять внутри неё. Эти уровни дополняют друг друга.

При существенном обновлении коммуникационной политики сохраните версию программы и даты изменения. Итог квартала должен объяснять, какой набор действий фактически проверялся. Без этого хороший общий результат невозможно воспроизвести или использовать для следующего бюджетного решения.

Источники

Tang D., Agarwal A., O’Brien D., Meyer M. Overlapping Experiment Infrastructure: More, Better, Faster Experimentation. Proceedings of KDD. 2010.