一、A/B测试

一、A/B测试

随着移动互联网流量红利、人口红利的逐渐衰退,越来越多的产品运营开始关注数据驱动的精细化运营方法,期望通过精细化运营在一片红海中继续获得确定的用户增长,而A/B测试就是一种有效的精细化运营手段。简单来说,A/B测试是一种用于提升网站、App、公众号、小程序等产品转化率,优化客户成本的数据决策方法(图9-4)。在对产品进行A/B测试时,我们可以为同一个优化目标(如优化购买转化率)制订两个方案(如两个页面),让一部分用户使用A方案,同时另一部分用户使用B方案,统计并对比不同方案的转化率、点击量、留存率等指标,以判断不同方案的优劣并进行决策,从而提升转化率。

图9-4 A/B测试

(一)A/B测试的概念

A/B测试,又叫分离测试,类似于顾客焦点团体访谈(形式是小组座谈,商业中常用的调研方法),将一系列内容变化在一定基准(控制组)内进行比较。A/B测试来自邮件宣传,发信者(商家)将同一目的内容的不同版本邮寄到目标群体中,测量回应率。根据这些数据,商家可以对以后的直邮内容做相应修改,向有更多回应率的版本发展。可以说,这个过程需要花费相当的时间,要获得数据结果并进行微调,需要几个季度才能完成。A/B测试也叫对照实验和随机实验,曾在多个领域产生深远的影响,如医药、农业、制造业中。通过随机化和适当的实验设计,构建了科学的因果关系,这就是为什么对照实验(A/B测试)是药物测试的最高标准。在软件开发中,产品需求通过多种技术手段来实现。A/B测试实验提供了一个有价值的方式来评估新功能对客户行为的影响。A/B测试其实是一种“先验”的实验体系,属于预测型结论,与“后验”的归纳性结论差别巨大。A/B测试的目的在于通过科学的实验设计、采样样本代表性、流量分割与小流量测试等方式来获得具有代表性的实验结论。

(二)A/B测试的流程

1.确立优化目标

确立优化目标是指要设立可量化的、可落实到某一个具体功能点的、可实施的小目标。例如,将用户满意度提升15%,那么就不好形成一个具体的A/B测试方案。同理,如果这个目标太大太宽泛,也不好落地。再如,通过优化注册流程,将注册转化率提升20%,这个目标可以量化,而且足够具体,可以在后续流程中形成一系列相关的A/B测试实验方案。

2.分析数据

通过数据分析,我们可以找到现有产品中可能存在的问题,只有先发现了某一个产品环节可能存在的问题,才好在后续流程中提出相应的优化方案,以优化这个环节的转化率。

3.提出想法

针对数据分析发现的问题,提出产品优化的方案。例如,优化流程以提高转化率,优化设计和文案,等等。一般来说,A/B测试的想法会以“假设”的方式提出。例如,假设把注册流程中的图片校验码方式改成短信校验码的方式,我们的注册转化率可能提升10%。基于这个假设,我们会设计对应的A/B测试,并通过实验数据验证这个假设是否成立。

4.对重要性进行排序

在开发资源、版本排期、优先级等因素的制约下,我们很可能不能对所有的想法进行实验。在这一步,最重要的目的就是根据重要性、潜在收益、开发成本等因素对所有想法进行优先级的排序,并选择最重要的几个想法进行A/B测试。

5.实施A/B测试并分析实验结果

对于一个A/B测试来说,结果主要分成两种:有效和无效。无效的A/B测试实验对于团队来说,其实是非常宝贵的经验,这个时候我们可以把这些无效的实验转化成团队的经验,避免以后再犯同样的错误。而对于有效的A/B测试来说,我们成功通过实验提升了产品的转化率,这时我们可以把优胜的版本正式推送给全部用户,以实现产品用户的有效增长。

6.迭代整个流程,进行下一轮A/B测试

在这个流程中,最重要的就是迭代、迭代再迭代。尤其是在刚开始推行A/B测试的时候,很容易遇到“团队成员经验尚浅,不确定哪些产品功能点做A/B测试效果会比较明显”的问题,这时建立团队对A/B测试的信心尤其重要。比较有效果的办法有两种:一种是针对一些转化率相对较低、很有可能通过改版获得提升的产品功能点,精心设计A/B测试实验,一般都会有比较明显的效果;另一种是快速地做一批简单的A/B测试实验(例如,修改关键按钮的文案、颜色、图标等),只要其中有一部分实验取得了成功,就能很好地在团队内部推进A/B测试的实施。