作者:JM,从0到1规划过访客日浏览量超千万的流量分析系统,曾为年销售破百亿跨境电商公司商业分析系统的产品负责人,现为广告营销公司数据产品经理。
工具:本篇文章分析工具为友盟+移动统计(U-App AI版)、自有BI系统分析
关键词:A/B Test
以下数据已进行脱敏处理,非真实数据,仅供分析落地参考。
一、项目背景
为配合电商App的大改版,上级也对个人中心的界面风格提出新的要求,因此也提出个人中心首页改版的要求。
1.1 改版分析
个人中心首页作为信息分流类页面,核心是快速将用户导航到所需的的功能模块。
其次,除了导航到不同的功能模块,还提供商品推荐、引导邮箱验证等内容(重点在于效果复盘,前期需求分析不做赘述)。
因此可以根据页面的功能定位及现有提供的功能,制定本次改版目标。
1.2 改版目标
(1)优化个人中心首页的功能导航,使用户快速找到相应功能板块,降低个人中心的平均停留时间。
(2)推荐产品改为铺开展示,增加个人中心首页推荐位产品曝光量,提高个人中心首页推荐位的交易量。
(3)邮箱验证新增积分奖励提示,促使更多用户完成邮箱验证,提高用户邮箱验证数。
1.3 实验方式
新旧版个人中心首页同时在线,通过分流工具进行流量划分,保证实验中的新旧样本数量基本一致。
1.4 实验时间
2018年11月16日-2018年11月29日
1.5 实验样本
旧版会话数:500000;新版会话数:499999
页面数据的对比是两个版本同期在线,相近样本数量下的数据表现。
交易数据的对比是改版前后新旧版本推荐位交易次数对比。
二、实验期监测
AB实验期间,会根据既定的改版目标,重点监控AB版本核心指标的对比情况,以便调整AB实验的分流策略。
为保证初期分流比例能使AB版本的测试会话数足够多,避免因基数过小出现对AB实验结果的误判,根据个人中心首页近一个月的流量情况,设定初始实验流量比例为20%。
(即假设平均每日访问个人中心首页的会话数有100000,那么20%的比例参与实验,每个版本每日分到的会话数就都是10000左右)。
2.1 平均停留时间
功能路径:用户洞察-事件分析-新建-页面访问路径
对应指标名:平均访问时长
指标含义:统计日期内,用户对该功能页面的平均使用时长情况;平均停留时间的大小本身并无好坏之分,根据具体场景评估平均停留时间大小的影响。
(以文章页面为例,平均停留时间可能是越大越好;而对于导航类页面,用户能多快就多快找到自己想要的东西,平均停留时长是越小越好。)