EN
ПРОВЕРКА ГИПОТЕЗ

A/B-тест в рассылке

Проверка двух вариантов в рассылке — это одновременная отправка двух версий одного письма сопоставимым группам получателей, чтобы определить, какой вариант чаще приводит к нужному действию. В корпоративном аутриче (продажах компаниям) сравнивают не красоту текста, а ответ, запрос подробностей или согласие обсудить задачу.

Самотест

Что менять в письме, чтобы понять причину разницы

У теста должна быть одна переменная. Если в варианте Б одновременно новая тема, другой оффер и иной призыв к действию, итог не объяснит ничего: ответ мог вызвать любой из трёх элементов. Сначала фиксируют сегмент, отправителя, время отправки и остальной текст. Затем меняют один узел письма.

Что проверяемВариант АВариант Б
Первая строкаВижу, что у вас растёт сеть дилеровРаботаете с дилерами в нескольких регионах?
ПризывМогу прислать схему расчётаПоказать схему на созвоне 15 минут?
ОфферСократить ручную сверку заявокУбирать ошибки при передаче заявок в 1С

Тему письма полезно тестировать отдельно от тела: она отвечает за вход в диалог, а не за ценность предложения. Подходы к формулировке темы собраны в гайде о темах холодных писем. Для текста первого касания важнее, чтобы ЛПР мог ответить коротко: «да, пришлите» или «не наша задача».

Как провести проверку без ложного победителя

Разведите целевой список на две равные части до отправки. Компании из одной отрасли, региона или размера не стоит целиком отдавать одному варианту: различие в аудитории легко принять за силу текста. При нескольких контактах в одной компании вариант должен быть один — иначе адресаты увидят разные версии и исказят реакцию.

  1. Сформулируйте проверяемое предположение: например, конкретная проблема вызовет больше предметных ответов, чем общее описание услуги.
  2. Подготовьте две версии, отличающиеся одной фразой или одним блоком.
  3. Отправьте их в равные смешанные части списка с одинаковым регламентом.
  4. Сведите ответы по смыслу: интерес, отказ, переадресация, просьба удалить контакт.
  5. Оставьте победивший вариант для следующей волны и только потом проверяйте новую гипотезу.
Не объявляйте вариант победителем по одному ответу. Важен не только объём реакции, но и её качество: просьба прислать КП и ответ «неактуально» — разные сигналы.

Почему письмо с большим числом ответов может проиграть

Условный пример: поставщик учётной системы написал директорам производств. Вариант А обещал «оптимизировать бизнес-процессы», вариант Б спрашивал, кто у них сверяет сменные отчёты и остатки между цехом и 1С. На А пришли вежливые «пришлите презентацию», на Б — меньше ответов, но несколько вопросов о сроке интеграции. Для кампании, где цель — разговор о внедрении, сильнее Б.

Поэтому заранее назначают целевое действие. Если задача — проверить, понятен ли рынок, учитывают предметные ответы. Если требуется передать диалог продавцу, фиксируют квалификацию и следующий шаг. Правила разбора переписки полезно согласовать до старта вместе с обработкой ответов и квалификацией, иначе менеджер назовёт хорошим тот вариант, который ему приятнее читать.

Тест не спасёт размытый оффер, случайный список компаний или отсутствие человека, который отвечает на интерес. Он также не подходит для очень узкого списка целевых компаний, где каждая компания получает уникальное касание: там сравнивать нужно логику персонализации, а не две одинаковые рассылки. Для такого сценария уместнее кампания по списку целевых компаний.

Какие ошибки обнуляют результаты проверки

  • Меняют тему, текст и сегмент в одной волне.
  • Сравнивают ответы, не отделяя интерес от автоматических уведомлений и отказов.
  • Отключают вариант слишком рано и не дают получателям одинаковый срок на ответ.
  • Продолжают отправлять оба варианта после выбора, не фиксируя новое рабочее письмо.

Перед тестом стоит проверить техническую часть: вариант с хорошим текстом не даст честного сигнала, если часть адресов не принимает письма. Об этом подробнее — в материалах про валидацию базы и доставляемость. Связанные понятия: холодное письмо, доля ответов и сиквенс.

Частые вопросы

Что лучше тестировать первым?

Начните с оффера или первой строки письма. Они быстрее показывают, узнаёт ли ЛПР свою задачу. Тему проверяйте отдельной волной.

Можно ли проверять три варианта сразу?

Можно, если для каждого варианта есть сопоставимая часть базы и вы не смешиваете аудитории. Но на старте две версии проще разобрать и внедрить.

Нужно ли тестировать письмо-дожим?

Да, но отдельно от первого письма. Сначала зафиксируйте рабочее первое касание, затем меняйте повод или вопрос в повторном.

Что считать результатом проверки двух вариантов?

Тот показатель, который соответствует задаче кампании: предметный ответ, запрос деталей или согласие на встречу. Открытие письма само по себе не подтверждает интерес.

Проверим гипотезу до масштабирования

Разберём ваше письмо, сегмент и целевое действие. После заявки предложим, что сравнить в первой волне и как зафиксировать результат.

Словарь
24 часа
столько занимает ответ с расчётом по вашему сегменту