深入解读Python的unittest并拓展HTMLTestRunner
原文地址:https://www.cnblogs.com/hhudaqiang/p/6596043.html
unnitest是Python的一个重要的单元测试框架,对于用Python进行开发的同事们可能不需要对他有过深入的了解会用就行,但是,对于自动化测试人员我觉得是要熟知unnitest的执行原理以及相关模块的作用。我这边提几个简单的需求如下:
1.如何利用unnitest执行流程测试而非单元测试。比如我们可能利用selenium+unnitest来跑一段流程,比如test1里面我们实现登陆,test2在test1成功登陆的基础上,实现一个查询的测试,test3我们查询一些数据后,页面选择性提交数据。这个你总不能在test1里面登陆完然后关闭浏览器;在test2里面再登陆再执行查询后关闭浏览器;test3再登陆执行提交数据。你或者可以这样想把这几个步骤写在一个test里面。但是,如果流程过长怎么办?自己难道感觉不到剪不断理还乱的纠结吗....
2.如何控制unnitest的执行顺序。unnitest里面tests数组里面存放的TestCase默认是以首字母排序的,这对于test1,test2....test9这样的执行顺序是没用问题的,但是对于多个test比如test1,test2.........test18,这样unnitest可不是按照这个顺序,我说了是按照首字母排序来的,他会这样执行test1,test10,....test18,test2,..........test9,当然我说的这些对于单元测试是影响不大的(除非各个test之间有数据依赖关系,后面提到),对于流程可能是颠覆性的。
3.流程测试中如何动态的控制是否跳过某个test的执行。对于流程来说,这也是常见的一种想法,比如test1我连登陆都没有成功,还有意义执行后面的test吗,之后报出来的都是一些NosuchElement的错误,这些错误没有任何意义,而且纯粹浪费时间....出来的报告也是不"人性的"。那么我们现在一个好的想法是:如果test1没有执行成功,后面的test能动态全部跳过,其实不止是test1没成功,后面test跳过,准确的说是,test1,test2........testN中如果任意某个test没有通过,后面的能动态的全部跳过。当然,如果后面的test和前面test没什么关系,也可能选择不管前面是否成功均不跳过;也可以是只和test1登录有关,只要登录成功了我就不跳过,如果登录不成功我就跳过...还有很多.....更重要的是,报告中有所展现,不能说skip了某个用例,你报告就不显示了,这样老板认为你偷懒,用例写这么少? 你还要瑟瑟发抖的去解释,是因为前面的用例没通过所以,没显示了...
我们高大上的是这样的,test1执行失败了,test2.......testN,报告中都体现,标注是skip的case,而且点开还有原因解释:"test1没有执行成功,所以跳过此case"。这就是我拓展HTMLTestRunner的原因,后面逐行解释如果拓展它。
.......还有很多
补充一下,为什么往流程上扯呢,因为公司的模块太多,而且复杂,单元测试机会不太会用,只要保证各个业务的主流程没问题即可,但是不影响我们解析unnitest。
我们的想法很多,但是如何来实现呢?那就让我们来深入探讨下python的unnitest吧!
关于unnitest看似复杂我给出来就是unnitest=TestCase+TestResult,只要熟知这2个模块,你就能"为所欲为"!!可能有人说不对不是有什么TestSuite吗还有TextTestRunner等等吗,不错确实我们平时用到的大多是这些模块,但是,到其实最终执行的是TestCase中的run方法,并把结果给TestResult(或它的子类)。我们先来看一个简单的unnitest例子,并以此来拓展!例子如下:
import unittest
class Mydemo(unittest.TestCase):
def setUp(self):
self.a=1
def test1(self):
print "i am test1 the value of a is {}".format(self.a)
def test2(self):
print "i am test2 the value of a is {}".format(self.a)
def test3(self):
print "i am test3 the value of a is {}".format(self.a)
if __name__ == '__main__':
unittest.main()
运行结果如下:
i am test1 the value of a is 1
...
i am test2 the value of a is 1
i am test3 the value of a is 1
----------------------------------------------------------------------
Ran 3 tests in 0.000s
OK
这个是没有问题的,那么我们可能要想这个unnitest.main()是什么东西,还有其他的写法来执行吗,能只执行test1,test2,不执行test3吗(暂时不用skip)?那么我们从unittest.main()看起来。debug进入其实最终执行的是TestProgram这类,贴出构造函数部分代码:
if argv is None:
argv = sys.argv#得到当前模块的绝对路径
self.exit = exit
self.failfast = failfast
self.catchbreak = catchbreak
self.verbosity = verbosity
self.buffer = buffer
self.defaultTest = defaultTest
self.testRunner = testRunner
self.testLoader = testLoader
self.progName = os.path.basename(argv[0])
self.parseArgs(argv)#查找当前module的Testsuite
self.runTests()#执行测试
好了,从上面我们可以看出来其实也就2个主要的步骤就是第一:找出要测试的testcase,并加入到Testsuite,第二:运行Testsuite并把结果给TestResult。
首先,第一:了解什么是TestCase?什么是TestSuite?第二:如果找出这些Testcase,或者TestSuite?
什么是TestCase?
有人说TesetCase就是以test开头的就叫一个testcase,我只能这样说太偏面的,准确的说:是实例了一个TesetCase类的叫一个TestCase,比如这样:
import unittest
class Mydemo(unittest.TestCase):
def setUp(self):
self.a=1
def Mytest1(self):
print "i am Mytest1 the value of a is {}".format(self.a)
def Mytest2(self):
print "i am Mytest2 the value of a is {}".format(self.a)
def Mytest3(self):
print "i am Mytest3 the value of a is {}".format(self.a)
if __name__ == '__main__':
test_runner=unittest.TextTestRunner()
test_suit=unittest.TestSuite()
test_suit.addTests(map(Mydemo,["Mytest1","Mytest2","Mytest3"]))
test_runner.run(test_suit)
运行结果如下:
1 2 3 4 5 6 7 8 |
|
上面3个Testcase可并没有以test开头...那么为什么大家都要默认以test开头来写呢,我们打开C:\Python27\Lib\unittest\loader.py这个模块在296行有写defaultTestLoader = TestLoader(),我们来看看TestLoader这个类第一行就看见testMethodPrefix = 'test',也就是说如果你使用到defaultTestLoader,那么默认是以test开头的方法为一个用例,具体可以在TestLoader类中的getTestCaseNames得到实现,红字注释部分为什么testCaseClass要有__call__方法,我们后面提到。(不知道__call__这个魔法属性的用法自行百度)
def getTestCaseNames(self, testCaseClass):
"""Return a sorted sequence of method names found within testCaseClass
"""
def isTestMethod(attrname, testCaseClass=testCaseClass,
prefix=self.testMethodPrefix):
return attrname.startswith(prefix) and \
hasattr(getattr(testCaseClass, attrname), '__call__')#返回一个testCaseClass有__call__方法且attrname以prefix开头的为一个testcase
testFnNames = filter(isTestMethod, dir(testCaseClass))
if self.sortTestMethodsUsing:
testFnNames.sort(key=_CmpToKey(self.sortTestMethodsUsing))
return testFnNames
原来是这样啊,我们上文提到的unittest.main()其实用的就是defaultTestLoader,当然你把if __name__ == '__main__'下面的代码换成unittest.main()肯定不成功,除非你把上文提到的testMethodPrefix 换成"Mytest"。有了对TestCase的看法,我们具体来看看这个类。
这个类里面包含了我们所能用的方法。我列出来一些主要的吧。
setUp()在每个test执行前都要执行的方法。
tearDown()在每个test执行后都要执行的方法。(不管是否执行成功)
setUpClass()在一个测试类中在所有test开始之前,执行一次且必须使用到Testsuite(只有在TestSuite的run方法里面才对其调用)
tearDownClass()在一个测试类中在所有test结束之后,执行一次且必须使用到Testsuite(只有在TestSuite的run方法里面才对其调用)
run()这是unnitest的核心,逻辑也相对复杂,但是很好理解,具体自己看源码。所有最终case的执行都会归结到该run方法。
还有一个重要的_resultForDoCleanups私有变量,存储TestResult的执行结果,这个在构建后面的skip用到。
我们要明确TestCase类中所有的测试用例是独立的,我上面说过了,其实每个testcase就是一个个TestCase类的实例对象,所以不要企图在某个test存储或改变一个变量,下个test中能用到,除非利用到setUpClass。我们看个例子:
1 2 3 4 5 6 7 8 9 |
|
结果:
C:\Python27\python.exe D:/Moudle/module_1/test4.py
i am test1 the value of a is 1
.E
======================================================================
ERROR: test2 (__main__.Mydemo)
----------------------------------------------------------------------
Traceback (most recent call last):
File "D:/Moudle/module_1/test4.py", line 7, in test2
print "i am test2 the value of a is {}".format(self.a)
AttributeError: 'Mydemo' object has no attribute 'a'
----------------------------------------------------------------------
Ran 2 tests in 0.001s
FAILED (errors=1)
上面就是说明TestCase类中所有的测试用例是独立的,每个testcase就是由TestCase实例化的一个独立的实例。那是不是就是每个TestCase不能共享数据呢?答案是否定的,不能共享的原因是我们上面用到的是self(实例对象属性),能共享我们就必须使用类属性,比如下个例子:
1 2 3 4 5 6 7 8 9 |
|
运行结果如下:
1 2 3 4 5 6 7 |
|
这些东西其实是python类的一些动态行为,但是既然和unnitest关联,就随便提下。我们运行test1的时候,给Mydemo加了一个新的属性a(值为1),当我们运行test2时,我们就能拿到Mydemo类的属性了。说了TaseCase我们不得不说下TestSuite。TestSuite是有一个个TestCase组成的,当然TestSuite里面可以再嵌套TestSuite。我们打开C:\Python27\Lib\unittest\suite.py找到TestSuite,它继承于BaseTestSuite,其实主要的一些属性就那么几个:
1.self._tests这个私有变量里面方的是所有的TestCase或者TestSuite。
2.run()方法,方法如下:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 |
|
注释1:self是个迭代对象,一直遍历上文提到的self._tests变量
注释2:我们看看_handleClassSetUp中的方法,发现在在用例的执行过程中,每个TestCase类只会调用一次setUpClass方法,同理tearDownClass。对用这一点我们举个例子:
import unittest
class Mydemo(unittest.TestCase):
@classmethod
def setUpClass(cls):
print "I am setUpClass"
def test1(self):
print "i am test1 "
def test2(self):
print "i am test2"
@classmethod
def tearDownClass(cls):
print "I am tearDownClass"
if __name__ == '__main__':
unittest.main()
运行结果是:
C:\Python27\python.exe D:/Moudle/module_1/test4.py
I am setUpClass
..
i am test1
----------------------------------------------------------------------
i am test2
Ran 2 tests in 0.001s
I am tearDownClass
OK
说明类方法setUpClass与tearDownClass只执行了一遍了,这就回答了我们第一个问题了:在setUpClass中启动浏览器,执行完所有流程后关闭浏览器,举一个简单的demo就是:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 |
|
上面就会在所有的case执行之前启动firefox,因为每个test中拿到的都是Mydemo类中同一个webdriver对象,所以能保证操作的都是同一个浏览器句柄。关于这个setUpClass如果想要动态的改变某个值一定要使用python的可变的对象比如list,dict等...这些其实都是一些python类的一些知识,算我啰嗦吧我还是想举个例子,嫌烦的同学,绕过这一部分吧。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 |
|
运行结果:
1 2 3 4 5 6 7 8 9 10 |
|
我们想在test1中改变a的值,但是test2中的结果说明a没有被改变,这其实也很好理解。如果我们想要改变怎么办,看看下面的例子:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 |
|
运行结果:
1 2 3 4 5 6 7 8 9 10 |
|
我们把a变成一个list,发现a的值在test2中改变了。好了这一部分就这样了。
注释三:这个其实也是python类的一些知识可能有的人没有关注就是__call__这个魔法属性,我们看到在这个循环中test如果是testsuite对象,那么会调用中TestSuite类中的__call__方法(在其父类BaseTestSuite中),该方法中会再次调用run方法。一直到test是个testcase对象,那么就会调用我们上文提到的TestCase中的__call__(这就是我们上面提到为什么找有__call__属性类实例的方法),一样该__call__中的方法也是调用TestCase中的run。所以最终所有的执行其实都是执行TestCase中的run方法。
上面大致讲了一些TestCase与TestSuit的知识,可能穿插的比较多。
如何创建这些Testcase或者TestSuite?
1.自己手动实例化TestCase
这个上面已经有例子,与普通类无异,这中在自动化领域用处不大,我们不能一个个的实例化吧...
2.利用C:\Python27\Lib\unittest\loader.py模块的TestLoader,该类提供了多种不同情境find testcase。
1.loadTestsFromTestCase利用给出的TestCase类名称返回找到所有的suite。
2.loadTestsFromMoudle利用给出的Moudle返回找到所有的suite。
3.loadTestsFromName利用给出的Moudle名称返回找到所有的suite。
4.discover返回给定目录下符合pattern类型(默认test*.py)所有的suite。
其实这些方法最终都要归结到loadTestsFromTestCase,可能官方不提供我们也能写,既然有了就直接用吧。
经过上面的说明,我觉得大家对一TestCase,TestSuite应该有一个比较清楚的认识了,也解决了我自己的提问。问题一:我们可以用类方法setUpClass实现。对于问题二:我们可以利用TestLoader类中的方法返回suite,然后对这些suite按照自己的想法进行一些排序,然后再调用run方法。说完了TestCase我们再说下TestResult。
什么是TestResult?
顾名思义,testresult就是存储测试结果的,不过通过何种方式调用run函数,最终到Testcase中的run方法时必须传一个result(如果为None则自己实例化一个TestResult对象)。这个result就是TestResult对象或者是其子类的对象,我们每次执行的结果都会调用其addFailure,addSuccess,addSkip....等方法将执行结果保存到TestResult实例属性中。我们还是来看看TestCase的run方法:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 |
|
通过注释部分我们可以看出,每次执行用例时,都会把执行结果保存到TestResult中。我们再看看TextTestRunner这个类,在开始就使用了类TextTestResult,而这个类也是继承TestResult,而后在执行的过程中最终把TextTestResult实例对象传递给TestCase的run方法。所以我上文说了,不过你是用什么方式执行unnitest,到最后都是TestCase的run方法与TestResult的游戏。而我们的HTMLTestRunner模块也是在继承在TestResult类的基础上的。
说完了TestCase我们来看看第三个问题吧,也是比较有实际意义的话题,开始我是这样跳过某些test的,代码是这样的:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 |
|
想法很简单:就是利用一个全局的数组,如果某个test执行出错我就更改这个数组元素,到下一个case执行的时候就会判断是否要跳过。上面因为test2出错了,原本我们想跳过test3,但是很遗憾并没有跳过test3!结果如下:
C:\Python27\python.exe D:/Moudle/module_1/test4.py
i am test1
.F.
i am test2
======================================================================
i am test3
FAIL: test2 (__main__.Mydemo)
----------------------------------------------------------------------
Traceback (most recent call last):
File "D:/Moudle/module_1/test4.py", line 20, in test2
raise e
AssertionError: error
----------------------------------------------------------------------
Ran 3 tests in 0.000s
FAILED (failures=1)
原因很简单:python在创建Mydemo这个类的时候,由于实例方法都使用了装饰器unittest.skipIf,所以每个方法都向unittest.skipIf这个装饰传递传递参数a[0],但是这个a[0]是没用执行过任何case之前的a[0],也就是我们刚开始定义的a[0]=Flase,所以不可能跳过的。退一万步讲,即使这样可行,也太不美观了吧。我们想的是当执行当前的test时能判断前面是否有出错的case,有的话就跳过了。可行吗?我觉得可行。主要就是用到我上面提到的TestCase中的_resultForDoCleanups的变量,这个其实就是TestResult一个引用。那么我们可以这样写:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 |
|
运行结果如下:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 |
|
可以了,我们看出,test2失败了,test3跳过;当然test2如果正确,test3会执行。目的是达到了,可是每个case都这样写不太好,我们想到了装饰器(不会自行百度),在C:\Python27\Lib\unittest\case.py中新增如下代码:
1 2 3 4 5 6 |
|
然后C:\Python27\Lib\unittest\__init__.py中新增:
1 2 3 4 5 6 7 8 |
|
最终我们这样写:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
|
好了,看上去还不错....关于其他的unnitest相关知识,不想再扯了,最后拓展HTMLTestRunner报告,这可能是大家关心的!写这个HTMLTestRunner的大神是在好久之前的了,基本能满足大家需求。但是,目前对于web自动化,我觉得至少要新增2个东西。第一个新增skip列:因为我可能会skip某些case;第二新增截图列,如果有错误我可能要截图。
打了这么久字不想再多说了....我给出全部代码,然后代码中我改变的地方我给出标记并加注释吧,完整代码如下:(可能有点长,但是要有点耐心)
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437 438 439 440 441 442 443 444 445 446 447 448 449 450 451 452 453 454 455 456 457 458 459 460 461 462 463 464 465 466 467 468 469 470 471 472 473 474 475 476 477 478 479 480 481 482 483 484 485 486 487 488 489 490 491 492 493 494 495 496 497 498 499 500 501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522 523 524 525 526 527 528 529 530 531 532 533 534 535 536 537 538 539 540 541 542 543 544 545 546 547 548 549 550 551 552 553 554 555 556 557 558 559 560 561 562 563 564 565 566 567 568 569 570 571 572 573 574 575 576 577 578 579 580 581 582 583 584 585 586 587 588 589 590 591 592 593 594 595 596 597 598 599 600 601 602 603 604 605 606 607 608 609 610 611 612 613 614 615 616 617 618 619 620 621 622 623 624 625 626 627 628 629 630 631 632 633 634 635 636 637 638 639 640 641 642 643 644 645 646 647 648 649 650 651 652 653 654 655 656 657 658 659 660 661 662 663 664 665 666 667 668 669 670 671 672 673 674 675 676 677 678 679 680 681 682 683 684 685 686 687 688 689 690 691 692 693 694 695 696 697 698 699 700 701 702 703 704 705 706 707 708 709 710 711 712 713 714 715 716 717 718 719 720 721 722 723 724 725 726 727 728 729 730 731 732 733 734 735 736 737 738 739 740 741 742 743 744 745 746 747 748 749 750 751 752 753 754 755 756 757 758 759 760 761 762 763 764 765 766 767 768 769 770 771 772 773 774 775 776 777 778 779 780 781 782 783 784 785 786 787 788 789 790 791 792 793 794 795 796 797 798 799 800 801 802 803 804 805 806 807 808 809 810 811 812 813 814 815 816 817 818 819 820 821 822 823 824 825 826 827 828 829 830 831 832 833 834 835 836 837 838 839 840 841 842 843 844 845 846 847 848 849 850 851 852 853 854 855 856 857 858 859 860 861 862 863 864 865 866 867 868 869 870 871 872 873 874 875 876 877 878 879 880 881 882 |
|
把上面代码复制覆盖原来的HTMLTestRunner就好,截图那块我是把错误的图像放在apache服务器的某个路径下的,如果有错误就显示图片超链接,没有就隐藏这超链接。
关于上面的改动其实很简单,熟悉一定的前端语言(html.javascript)即可。HTMLTestRunner原理就是我们上文提到的利用_TestResult继承unnitest中的TestResult类,并重写了addSuccess,addSkip,addError等方法,把测试结果放在一个self.result里面,最后遍历这个result利用前端的一些知识生成一个html报告。这边贴图贴一下生成的样式吧,执行testcase的代码:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 |
|
最后生成的报告如下:说了这么多只是希望大家能对unnitest有更多的了解,当然如果你已经懂的更多或者认为我某些地方说错了,请一笑而过....