You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.

40 lines
4.9 KiB
Markdown

This file contains ambiguous Unicode characters!

This file contains ambiguous Unicode characters that may be confused with others in your current locale. If your use case is intentional and legitimate, you can safely ignore this warning. Use the Escape button to highlight these characters.

# 导读 | 科学、规范的A/B测试流程是什么样的
你好,我是博伟。
前面两节课啊我们花了很大力气去学习做A/B测试的理论前提这也是为了让你夯实理论基础。不过啊除非你是统计科班出身否则我都会推荐你在学习实战的时候呢也要不断温习统计篇的内容把理论与实践结合起来。如果觉得有必要也可以把我在统计篇讲的统计概念和理论延伸开来通过查看相关统计专业书籍来加深理解。
学完了统计理论接下来就要开始设计实现做A/B测试了。不过在我总结A/B测试的流程之前呢我要简单介绍下在实践中做A/B测试的准备工作主要有两部分**数据**和**测试平台**。
一方面我们要有数据包括用户在我们产品和业务中的各种行为营销广告的表现效果等等以便用来构建指标。因为A/B测试是建立在数据上的分析方法正如“巧妇难为无米之炊”没有数据的话我们就不能通过A/B测试来比较谁好谁坏。
一般来说,只要是公司的数据基础架构做得好,埋点埋得到位的话,基本的常用指标都是可以满足的。
如果说我们要进行的A/B测试的指标比较新、比较特别或者数据库没有很全面没有现成的数据可以用来计算相应的指标那么可以和数据团队进行协商看能不能在现有的数据中找出可以替代的指标计算方法。
如果找不到相近的替代指标,那么就要和数据工程团队协商,看能不能构建这个数据,可能需要新的埋点,或者从第三方获得。
另一方面呢我们要有合适的测试平台来帮助我们具体实施A/B测试。可以是公司内部工程团队搭建的平台也可以是第三方提供的平台。对于这些平台我们在做A/B测试之前都是需要事先熟悉的以便可以在平台上面设置和实施新的A/B测试。
当然在做A/B测试时数据库和测试平台是要通过API等方式有机结合起来的这样我们在测试平台上设置和实施的A/B测试才能通过数据来计算相应的指标。
以上的准备工作并不是每次A/B测试都要做的更多的是第一次做A/B测试时才需要去做的准备所以更像是A/B测试的基础设施。以下的流程才是我们每次去做A/B测试都要经历的我把它们总结在一张图中你可以看一下。
![](https://static001.geekbang.org/resource/image/86/e5/86a26b183d53e37a247d54f06e38bae5.png?wh=2250*2993)
以上就是一个规范的做A/B测试的流程了。你看啊A/B测试的实践性很强但大体就是这么几步。在这门课里我会着重讲最核心的5个部分也就是确定目标和假设、确定指标、确定实验单位、估算样本量以及分析测试结果。
在整个流程中,除了随机分组的具体实施细节和具体实施测试外,其余环节我都会逐个讲解。你可能会问,为什么不能把全部环节讲解一遍呢?
其实啊我会侧重讲解A/B测试的基本原理实践中的具体流程还有实践中遇到的常见问题及解决办法这些都是偏经验和方法论的内容。不管你在哪家公司处在哪个行业用什么平台去实施A/B测试这些经验和方法论都是通用的学完之后你就可以应用到实践中。
至于随机分组的不同随机算法以及实施测试所用的平台这些更偏工程实施的细节公司不同平台不同那么实施A/B测试时也会有很大的差别。比如A/B测试的平台大公司一般会自己开发内部的测试平台中小型公司则会利用第三方的测试平台。
所以啊基础篇这几节课呢我也希望你能在学习的同时能够跟自己的工作联系起来。如果你在工作中做过A/B测试但是觉得流程没有很系统化你就可以把平时做的A/B测试和基础篇的流程进行参照对比看看还有哪些不足的地方。同时通过学习基础篇也会让你知道为什么会有这些流程它们背后的原理是什么让你加深对流程的理解应用起来更加得心应手。
如果你还没做过A/B测试也没关系。我会结合实际案例来给你深入讲解。如果有条件学习完之后你就可以尝试做自己的第一个A/B测试啦
最后我还要说明一点。A/B测试的前提是数据这里牵涉到一个公司的数据架构和埋点策略更多的是工程和数据库建设的问题不是我们A/B测试的重点。所以在接下来讲课的时候我就假设我们已经能够追踪A/B测试所需要的数据了至于如何追踪这些数据如何埋点这种工程实施的细节我们这里就不展开讨论了。
好啦了解了这些就让我们正式开始A/B测试的旅程吧