界面用什么颜色?算法怎么调参?
ab实验就是用来科学的衡量不同方案的效果的,用数据说话。
分组实验:传统的都是使用分组实验,也就是每一个实验拿到总流量的一部分;这样可以避免实验与试验之间的干扰;比如一个实验测试不同字体大小的效果,另一个测试不同颜色的大小,这两个实验肯定需要分别独立进行。但是随着实验数量的增加,流量可能被用光,不足以分给新的实验,新实验只能等待。
分层实验:分层实验可以避免流量不足的问题。思路是将整个流量分为不同层。每一层进行分组实验。这样用户流量穿过不同层时,会命中多个实验。这样不会互相干扰吗?首先,分层实验需要保证每一层的流量是正交的,这个怎么理解?比如第一层进行了一个实验,有a、b两种效果,第二层进行了另一个实验有c、d两种效果。正交的意思是,命中c的流量中a和b的比例是均衡的,同样命中b的流量中,a和b的比例也是均衡的,这样,c和d的实验就可以认为不受a和b的影响了。其次,需要分层进行的实验,也必须是在效果上不会有影响的。比如一个字体颜色和背景颜色的两个实验显然不能分层,如果二者颜色一样在产品上不可接受的。但是比如界面颜色和推荐算法就是可以分层进行的,二者可以认为是不影响。