一、全部列出式
全部列表式只需看第一页的页面HTML代码,这一页的所有分页链接都列出来了。
1、我们以“中华网内容分页( http://auto.china.com/dongtai/yejie/11012724/20120309/17081442.html)”为例:
![1.JPG](https://i-blog.csdnimg.cn/blog_migrate/a6d5f59a5787059a020b8e3639b4ad5b.jpeg)
可以看到这条新闻总共有3条分页。
2、查看源代码:
![2.jpg](https://i-blog.csdnimg.cn/blog_migrate/34c6ca9d40ce28a204b7768a4845d607.jpeg)
这一页里除了已经采集到的第1条分页外,还包括了第2条和第3条分页,所有的分页都列出来了。
3、取得 分页区域正则([!--smallpageallzz--]):
![3.JPG](https://i-blog.csdnimg.cn/blog_migrate/eb68c0cfdab69e6d7e2aff77c7978e92.jpeg)
4、取得 分页链接正则([!--pageallzz--]):
![4.JPG](https://i-blog.csdnimg.cn/blog_migrate/7e11e271c36e4f066835203a42b9020b.jpeg)
二、上下页导航式
上下页导航式是分页采集的难点,他需要所有页面都符合分页正则才行,在不熟悉的情况下,我们可以用第1页和第2页的代码来进行对比分析然后确定分页正则。
1、我们以“爱丽网内容分页( http://fashion.aili.com/76/445845.html)”为例:
![2-1.JPG](https://i-blog.csdnimg.cn/blog_migrate/a14e451037fb9264b22e9ba43d67da2b.jpeg)
可以看到这条新闻总共有20条分页。
2、查看源代码:
![2-2.jpg](http://www.kguowai.com/d/file/2012-03/87c828bddf2946658d82bb77c7761143.jpg)
这一页里除了已经采集到的第1条分页外,还包括了第2,第3,第4,第5,第6,第7,第8,第20条分页,但是第9到第19条分页并没有列出来,这时候我们拿用第1页和第2页的代码来进行对比分析,来确定分页正则:
(1)第1页代码:
![2-2-1.jpg](http://www.kguowai.com/d/file/2012-03/a93b60ce064b5749b891d55fbd357ff0.jpg)
(2)第2页代码:
![2-2-2.jpg](http://www.kguowai.com/d/file/2012-03/c7c13504644c7fc437821e3f318bb719.jpg)
从这两幅图片可以看到他们有着相同的“分页区域开始代码”,“分页链接”格式,“分页区域结束代码”,那么就可以确定“分页区域正则”,“分页链接正则”。
3、取得 分页区域正则([!--smallpageallzz--]):
![2-3.JPG](https://i-blog.csdnimg.cn/blog_migrate/e2b03ae364a50a3b054ee393511069cf.jpeg)
4、取得 分页链接正则([!--pageallzz--]):
![2-4.jpg](https://i-blog.csdnimg.cn/blog_migrate/2863e188151c161361bddd75da7cb67c.jpeg)
5、为了方便教程显示,newstext我采集了标题而不是采集内容,预览结果:
![2-5.JPG](https://i-blog.csdnimg.cn/blog_migrate/17191a3eb97dca6255db2534551e5c36.jpeg)
注意事项:
第一、在第一页的页面HTML代码里,内容分页链接全部列出来的情况下我们使用“全部列出式”。在第一页的页面HTML代码里,内容分页链接没有全部列出来的情况下我们使用“上下页导航式”。
第二、用全部列出式时,采集规则正确但是莫名其妙的出现重复的分页,这时可以利用替换法把它过滤掉(下一讲我们再说)。
第三、用上下页导航式时,老是采到第1页,其他页连个影子都没有见过,这是因为分页区域正则([!--smallpagezz--])截取错误。
第四、用上下页导航式时,可以采集到前几页了,但是接下来这前几页全部重复循环到底,这也是因为分页区域正则([!--smallpagezz--])截取错误,截取范围过大,导致重复截取前几个分页链接。
好的,这一讲就到这里,下一讲我们主要介绍帝国cms采集过滤和替换。
本文由 国外网站大全http://www.kguowai.com/ 原创,转载请注明出处,谢谢!