ABTest(一)| A/B测试入门第一课

内容纲要

在互联网公司,用户增长、提高转化等是我们每天必选要面对并且思考的主题。而影响用户转化的因素有很多,不仅包括产品逻辑、产品资源、定价策略等,还包括产品视觉等。在多因素的影响下,如何判断各因素的影响情况变的至关重要。我们只需要找到相应的测试方法,然后将各个因素进行比较,就能够找到相对最佳条件。最常见的测试方法就是A/B测试。本文将针对A/B测试进行整体介绍,希望对大家有所帮助。

file

一、A/B测试是什么?

A/B测试是一种分组试验方法,就像是解答数学题,有方法一也有方法二、三等。在互联网公司,将A/B测试定义为:将Web和App的页面或流程设计两个版本(A/B)或多个版本(A/B/n),在同一纬度下,分别让一定比例的用户访问这些版本,并收集这些版本的业务数据和用户体验数据,设定目标指标,然后通过统计学的方法进行分析比较,选择效果最佳的版本作为正式版本发布上线。

file

这种根据量化数据来衡量版本效果的方法,除更具有科学性、可信任性外,还可以确保每次更改都是朝着对业务有利的方向,从而消除了人为因素及不确定因素带来的迭代风险,使业务正向增长。

二、A/B测试可以测试哪些内容?

在了解了A/B测试之后,你有木有疑惑,A/B测试可以做什么,都能测试哪些内容?

2.1 UI设计

UI设计定义了用户如何与产品进行交互,直观的让用户感受到产品。与传统媒介相比,互联网产品所包含的内容更多,而且更加复杂。利用A/B测试优化UI,可以给用户带来更好的交互体验和视觉感受。

以下图中微医APP客户端为例,H5版和APP版的首页专病专科板块在设计上有很大的区别。

H5版对专病专科的图表使用浅蓝色为底色,而APP版使用浅灰色的边框,无填充色。

file

file

2.2 文案内容

文案是用户可以阅读到的文字内容,可以让用户认识产品,可以促使用户转化。文案贯穿一个产品的所有部分,小到图片配文和按钮文字,大到文章标题甚至版块主题。这些部分都可以尝试变换文案内容,测试不同方案的数据效果。

file

file

2.3 页面布局

页面布局是通过调整页面各个区域模块之间位置,来改变用户视觉。

file

file

2.4 产品功能

如果你想新增一个新功能,但是不能确定是否能达到用户的预期,如果盲目上线,可能会造成一些损失。这个时候,就可以使用A/B测试,让你对用户真正的负责。在新功能正式上线前,进行A/B测试,以验证功能的使用情况和效果。

2.5 算法优化

如果优化了某种排序算法,或改进了某个推荐算法,可以使用A/B测试,检测哪种排序更符合用户需求,哪个推荐算法更优。

三、A/B测试应用在哪里?

既然A/B测试这么强大,是不是想怎么用就怎么用,想用哪里就用哪里了?答案是否定的。

A/B测试的结果需要数据支撑,测试场景的流量越大,结果约精准。通常建议每个版本的DAU(Daily Active User,日活跃用户量)在1000以上,否则就要拉长试验周期,更糟糕的是很难获得精准的分析结果。所以A/B测试并不完全适用于所有的产品,使用时要慎重。

在实际的项目中,可以使用A/B测试,优化用户体验、提高转化率、提升广告转化、优化排序推荐算法等。

四、怎么做A/B测试?

在了解了A/B测试的强大功能后,下面介绍下A/B测试的流程。具体步骤如下:

  1. 分析现状:分析业务场景现状,包括定位、效果等。
  2. 确定目标:根据步骤1的分析结果,设定优化目标,即A/B测试的目标。
  3. 制定方案:根据步骤2确定的目标,制定优化方案,包括A/B方案、流量切分、页面设计等。要注意目标要单一,可分多次A/B测试,或使用A/B/n方案。
  4. 开发上线:根据步骤3的方案,开发A/B测试并上线。要注意埋点信息等基础数据要同步上线。
  5. 收集数据:收集每个版本的用户数据,包括流量数据、消费数据等。
  6. 分析结果:统计步骤5收集的数据,依据步骤2中设定目标,分析对比每个版本。如果效果明显,则可上线最佳效果版本;如果效果不佳,可继续从步骤1开始循环。

五、如何评估A/B测试?

A/B测试结果的分析可以分为两个方面的分析,一是统计学分析;一是业务分析。

5.1 统计学分析

统计学分析即通过统计学的角度来分析是否可信。首先分析A/B版本之间的差异性,通过统计显著性反映;然后分析差异大小,可以使用效果差异表示,如转化率的提高或降低的幅度;最后是差异区间,表示转化率改进的空间范围。

统计显著性

统计显著性的定义是指两个群体的态度之间的任何差异是由于系统因素而不是偶然因素的影响。假定控制了可能影响两个群体之间差异的所有其他因素,那么余下的解释就是我们所推断的因素,而这个因素不能够100%保证,所以有一定的概率值,叫显著性水平。

在A/B测试中,统计显著性就是指版本间效果的差异。

统计显著性的值代表了如下含义:

  • 95%以上:优化版本和原始版本之间有显著的统计差异,转化率提升是可信的;
  • 90%-95%:优化版本和原始版本之间的统计差异存有疑问,转化率提升是存有疑问的;
  • 90%以下:优化版本和原始版本之间没有显著的统计差异,转化率提升是不可信的。

改进效果

A/B测试中优化版本与原始版本相比转化率提高的幅度。

提升幅度 = (优化版本转化率-原始版本转化率) / 原始版本转化率

差异区间

差异就是A/B测试的优化版本与原始版本之间转化率差异。差异区间是转化率差异最可能分布的区间范围。例如:A版本为原始版本,B版本是优化版本,A的转化率为10%,B的转化率为15%,则转化率的绝对差异为5%,而转化率的相对差异为50%。

5.2 业务分析

在统计学分析确定了可信度之后,就可以依据测试结果,结合具体业务进行分析。

参考文献

发表评论

邮箱地址不会被公开。 必填项已用*标注