А/Б-тесты: сравнение промпта на живых клиентах
Хочется понять, какой промпт лучше доводит клиентов до заявки? Вкладка «А/Б-тесты» делит настоящих клиентов между текущим промптом агента и новым вариантом и показывает, у какого варианта выше доля достигнутых целей.
Отдельно задавать «вариант А» не нужно — это всегда текущий, живой промпт агента из «Логики работы». Вы описываете только то, что хотите проверить, — вариант Б.
Как запустить
- На вкладке «А/Б-тесты» нажмите «Запустить новый тест» и дайте ему название.
- В поле промпта уже лежит копия текущей «Логики работы» — поправьте в ней то, что проверяете.
- Укажите долю показов Б (остальные диалоги идут по текущей логике).
- Нажмите «Запустить тест» — тест стартует сразу, без черновика.
Кнопка «Проверить в чате» в строке варианта Б открывает песочницу с этим вариантом — можно пообщаться с ним до принятия решения.
Что происходит во время теста
- Каждый новый диалог из настоящего канала один раз закрепляется за вариантом А или Б в заданной пропорции и до конца ведётся этим же вариантом.
- «Логика работы» агента не блокируется — правку промпта на этой вкладке вы по-прежнему видите и меняете как обычно, и она сразу становится вариантом А.
- Одновременно у агента может идти только один тест.
- На карточке теста — сколько строк вариант Б отличается от текущего промпта (сами отличия — по кнопке «Посмотреть изменения») и воронка «Диалоги → Достигли цели» по обеим сторонам, как только в варианты попадут первые диалоги.
Тестовый чат — и «Проверить в чате» в шапке карточки агента, и проверка варианта Б из карточки теста — в тесте не участвует: считаются только настоящие клиенты из подключённых каналов.
Как завершить и выбрать победителя
Нажмите «Остановить тест» — весь трафик снова целиком идёт по текущему промпту. Дальше появляется блок «Что оставляем?» с двумя кнопками:
- «Сделать основным вариант Б» — записывает промпт варианта Б в «Логику работы» тем же путём, что обычное сохранение: с версией в «Истории версий», откатить можно в любой момент.
- «Оставить как было» — просто закрывает тест: текущий агент и так вариант А, применять нечего.
Совет. Кабинет подскажет словами, если данных пока мало для вывода. На малом числе диалогов разница в процентах — почти всегда случайность; ориентир — от нескольких сотен диалогов на вариант.
После решения на вкладке остаётся итог и кнопка «Запустить новый тест» — прошлый тест сворачивается в одну строку со ссылкой «Подробнее».