第一部分
一、什么是AB测试
最早的AB测试源于生物医学的双盲测试。将试验对象随机分成实验组(服用待检测疗效的药品)和对照组(安慰剂),且试验对象本身不知道自己是属于哪个组,只有评估人员知道;经过一段时间,分析比较两组患者的恢复情况,从而验证新药剂是否达到预期效果。
AB测试是一种通过控制变量和随机分组测试,从而推断出因果关系和量化效果的科学实验方法,同时有效规避“辛普森悖论”的错误决策。核心原理是统计学中的“假设检验”和”小概率事件”的思想。AB实验主要应用于“产品迭代”、“策略优化”两大场景。如产品迭代:如界面优化(UI展示、文案、页面布局等)、流程优化等;策略优化:产品投放策略等。
这种思想于2000年被谷歌公司开始应用,主要应用于产品迭代,提高用户体验等。
三、AB测试不是万能的
明确知道效果是正向的,则没必要进行AB测试就可以全面执行。
(1)AB测试能告诉你当前几种方案哪个更好,但无法告诉你除了这几种,是否还有更好的方案
(2)实验数据太少或实验周期太长,AB实验