Android兼容性测试CTS --环境搭建、测试执行、结果分析


为了确保Android应用能够在所有兼容Android的设备上正确运行,并且保持相似的用户体验,在每个版本发布之时,Android提供了一套兼容性测试用例集合(Compatibility Test Suite, CTS)来认证运行Android系统的设备是否完全兼容Android规范,并附带有相关的兼容性标准文档(Compatibility Definition Document, CDD)。

    首先从http://source.android.com/compatibility/downloads.html(网络需要能进google)处下载最新的兼容性测试用例集合,并解压。如图1所示。

         clip_image002_thumb[2]

图1 Android 官网中CTS测试环境下载等

大部分是基于Junit和仪表盘技术编写的。还扩展了自动化测试过程,可以自动执行用例,自动收集和汇总测试结果。CTS采用XML配置文件的方式将这些测试用例分组成多个测试计划(plan),第三方也可以创建自己的plan。

CTS测试执之前要做的准备工作如下:

1. 下载兼容性测试用例包,并解压,解压后的文件名命名为“android-cts”。在http://source.android.com/compatibility/downloads.html页面的最下方,有一个名为“Compitibility Test Suite(CTS) User Manual”的链接,是最新版本的Android兼容性测试用例的执行方法,建议在执行之前先通读该文档。

2. 刷机为需要测试的版本。

3. 手机开机时,如果有google账户设置,取消即可:Start->Not now->Next->Next->Next->Finish。

4. 设置手机语言为英语:Setting->Language&input->language->English(United States)。

5. 插入SIM卡和外置SD卡(SD卡需要格式化:Settings->Storage->Erase SD card->Erase SD card->Erase Everything)。

6. 插入USB,连接手机到电脑,可以用adb devices检查,是否正确连接。

7. 打开wifi, 并连接到可用wifi。

8. 打开蓝牙,无须配对。

9. 保证手机无操作30分钟后LCD off:Settings->Display->Sleep->30 minutes.

10. 去掉屏幕锁:Settings->Security->Screen Lock 的值是“None”.

11. 打开Settings->Location services->“Google location services”, ”GPS satellites”, ”Location & Google search”.

12. 打开Settings->Accessibility->Developer options->USB debugging(USB 调试).

13. 打开Settings->Accessibility->Developer options->Stay Awake(保持唤醒).

14. 打开Settings->Accessibility->Developer options->Allow mock location(允许模拟位置).

15. 通过Settings->Speech synthesis->Install voice data安装“Text To Speech”文件(com.svox.langpack.installer-1.apk), 假如android-cts/repository/testcases/中没有此文件,就省去这一步。

16. 如果需要执行可访问性方面的兼容性测试,则安装“CtsDelegatingAccessibilityService.apk”(adb install –r */android-cts/repository/testcases/ CtsDelegatingAccessibilityService.apk),并将Settings->Accessibility->Delegating Accessibility Service选项打开。假如m目录中没有此文件,就省去这一步,一般情况下是没有的。

17. 如果需要执行设备管理方面的兼容性测试,则安装“CtsDeviceAdmin.apk” (adb install –r */android-cts/repository/testcases/ CtsDeviceAdmin.apk),并将Setting->Security->Devices Administrators->android.devicesadmin.cts.CtsDevicesAdmin等选项打开。目录中一定会有这个文件的,请仔细查找,如图2所示。

clip_image004_thumb[1]

图2 CtsDeviceAdmin.apk

18. 如果需要执行多媒体方面的兼容性测试,则需要执行:

1)从http://source.android.com/compatibility/downloads.html 下载android- cts-media-X.Y.zip并解压。

2)进入解压后的文件夹,并执行bash copy_media.sh, 把测试所需文件copy到手机内存中,假如copy失败,可能是手机路径不对,请用gedit打开copy_media.sh文件,同时adb shell进入手机终端,查看手机内存目录与copy_media.sh文件中的目录是否一致。如果不一致,请更改copy_media.sh文件,必须保证copy到手机内存(copy完之后可以打开gallery进行查看),否则会影响后边android.media等与media相关测试包的执行,如图3-1、图3-2所示。

clip_image006_thumb[1]

图3-1 Copy Media

clip_image008_thumb[1]

图3-2 Copy Media

19. 保证手机处于home界面,即按下“Home”键。

CTS测试正式开始:

1. 进入到“*/android-cts/tools”目录,执行bash cts-tradefed,先识别设备,之后出现cts_host >,则证明已进入CTS命令行交互界面,此时可以输入cts相关命令来执行cts测试了,如图4所示。

clip_image010_thumb[1]

图4 CTS命令行交互界面

2. 测试默认CTS,其中包括所有的packages,可以输入如下命令 :

run cts --plan CTS(这两次跑测试都用的这个,具体用哪个,请咨询相关人员)

或者 run cts –disable -reboot --plan CTS (跑测试过程中,手机不会reboot,这样可以方便接adb logcat),跑起来时先根据日期和时间创建测试结果的文件夹,然后出现“start test run of xx packages, containing xx tests”说明测试已经开始跑了,此时尽量再多观察十分钟,出现“Installing prerequisites”并且之后有显示case pass,则确保cts确实开始run了,如图5所示。

clip_image012_thumb[1]

图5 run cts

CTS测试结果分析:

测试结束后在*/android-cts/respository/results文件夹中,会看到以日期和时间命名的文件夹用于保存执行过的测试结果,如图6-1、图6-2所示。

clip_image014_thumb[1]

图6-1 results

clip_image016_thumb[1]

图6-2 results

而且还有一个同名的zip文件保存同样的内容。测试过程中的自动录log,测试结束后log自动保存在*/android-cts/respository/logs里边以日期和时间命名的文件夹中,如图7-1、图7-2所示。

clip_image018_thumb[1]

图7-1 logs

clip_image020_thumb[1]

图7-2 logs

在测试结果文件夹中,所有的测试结果是以XML的形式保存的。通常测试结果网页分成“Device Information”、“Test Summary”、“Test Summary by Package”、“Test Failures(xx)”和“Detailed Test Report”等四个区域。其中 “Device Information”中列出了被测设备具体的软硬件以及功能配置信息,如图8所示。

clip_image022_thumb[1]

图8 Device Information

“Test Summary”列出了CTS 版本号,各状态case个数等信息,如图9所示。

clip_image024_thumb[1]

图9 Test Summary

而“Test Failures(xx)”会将断言失败时的输出记录在内,如图10所示。

clip_image026_thumb[1]

图10 Test Failures

每次测试保证把CTS测试case全部跑完,用 “l r”查看,本次CTS测试是否全部run完,即not executed一列的数值是0,如果数值不为0,则表示还剩下没有run完的case,有可能是手机冻结或者reset导致adb 识别不了设备,所以后边的case都为not executed状态,如图11-1、图11-2所示。

clip_image028_thumb[1]

图11-1 Not executed

clip_image030_thumb[1]

图11-2 Devices offline

这时需要重新连接手机,后使用命令“run cts --continue-session session_id” 就可以继续上面not executed的case了,session_id用命令l r就可以看见,如图12-1、图12-2所示。

clip_image032_thumb[1]

图12-1 查看Session ID

clip_image034_thumb[1]

图12-2 Continue not executed case

首先保证把整个case都run一遍,not executed数值为0。之后把“失败的测试用例”中的case run 三遍,排除手机系统稳定性尤其是手机reset和freeze导致的case fail。目标是确定case fail是由于CTS case本身的问题,而不是任何别的因素。重新run fail的case时需要在上次全部run完的case上边新建测试计划,然后执行新建的测试计划。新建测试测试使用命令“add derivedplan --plan plan_name -s sessionID -r [pass/fail/notExecuted]” 添加一个新的plan,再用命令“run cts --plan plan_name”运行即可测试没测的项。如:

测试SessionID为2的所有fail项,输入命令应为:

>add derivedplan --plan cts_fail_1 -s 2 -r fail

>run cts --plan cts_fail_1 // cts_fail_1即前面定义的,可以自己随意起名字。

之后如果fail的还是很多,建议做第三遍,就在cts_fail_1测试计划的基础上,再次新建和执行测试计划,假如用“l r”查看cts_fail_1测试计划的sessionID为3,则执行

>add derivedplan --plan cts_fail_2 -s 3 -r fail

>run cts --plan cts_fail_3

如图13所示。

clip_image036_thumb[1]

图13 Add derivedplan

三次run完之后会在*/android-cts/respository/results文件夹中生成三个以日期和时间命名的结果文件夹,把三次都失败的测试用例粘贴到excel表中进行汇总,并统计每个测试包(package)中fail的case数量。

CTS测试部分常用命令,如图14。

clip_image038_thumb[3]

图14 Help

与host相关的部分常用命令:

help: CTS命令一览表

exit:退出cts终端

……

与run相关的部分常用命令:

run cts --plan test_plan_name: 执行一个测试计划

run cts --package/-p: 单独run cts测试中的一个包

run cts --class/-c [--method/-m]: run指定的类,或者具体到类中的方法

run cts --continue-session session_ID: 继续run指定session上状态为not executed 的case

run cts [option] --serial/-s device_ID: 在指定device_ID上run cts [option]

……

与java包相关的部分常用命令:

l/list d/devices: 列出所有连接的设备和设备的状态

l/list packages: 列出CTS所有的测试包

l/list p/plan: 列出CTS所有的测试计划

……

与测试计划相关的部分常用命令:

add derivedplan --plan plan_name --session/-s session_id –r [pass/fail/notExecuted/timeout]:从指定session id中根据case的各种状态产生一个新的测试计划

……

与option相关的命令:

run cts --disable-reboot [option]: 在测试过程中不需要重启手机

CTS常见问题总结

1.如果测试结果显示android.media和android.mediastress两个packages中fail的case较多,而且查看details时,出现如图14所示的log,则是media没有copy进指定目录,此时也可以adb shell进去手机终端,在fail log路径下查看,是否有所需文件,我猜测一定是没有的。

clip_image040_thumb[1]

图14 media fail log

之后需要重新将指定文件copy到fail log中指定的目录,此时可以参考*/android-cts-media-1.1/ copy_media.sh文件中的各个push文件路径,如图15所示,尤其注意其中的internal_sd,这是是会根据手机版本有可能会变化的,如果变化,请根据变化更新脚本。

clip_image042_thumb[2]

图15 copy_media.sh

2.整轮测试跑完,如果需要rerun fail的case,在添加新的测试计划时出现如图16所示的状态。

clip_image044_thumb[1]

图16 已有同名plan

根据提示也能看出是已有相同名字的plan存在,此时可以换个name,或者去如图17所示目录中把相同名字的plan删除。

clip_image046_thumb[1]

图17 plan文件夹

3.如果测试过程中需要跑指定的几个packages,而不是full CTS, 则可修改plan文件夹中的CTS.xml文件,如图18所示。

 

clip_image048_thumb[3]

图18 修改plan

CTS测试执行流程也可以参考以下博客:

 
想要了解更深层次的CTS,可以参考以下博客:
阅读更多

没有更多推荐了,返回首页