因为要爬取人民日报的新闻,所以需要一个功能来生成每日的链接,大概是这样的:
http://paper.people.com.cn/rmrb/html/2020-08/02/nbs.D110000renmrb_01.htm
并且点击每日的新闻链接也是首版,访问http://paper.people.com.cn/rmrb/html/2020-08/02/ 是会报错的。
下面是代码:
def make_dly_first_url(date):
'''日期格式为:YYYY-MM-DD,如果小于10,十位补零'''
base_url = r'http://paper.people.com.cn/rmrb/html/'
first_url = "nbs.D110000renmrb_01.htm"
dly_url = base_url + date[:7] + '/' + date[-2:] + '/'
return dly_url + first_url
def test_make_dly_first_url():
start = '2019-01-01'
end = '2020-09-01'
datestart = datetime.datetime.strptime(start, '%Y-%m-%d')
dateend = datetime.datetime.strptime(end, '%Y-%m-%d')
while datestart < dateend:
datestart += datetime.timedelta(days=1)
print(make_dly_first_url(datestart.strftime('%Y-%m-%d')))
test_make_dly_first_url()
输出结果:
http://paper.people.com.cn/rmrb/html/2019-01/02/nbs.D110000renmrb_01.htm
http://paper.people.com.cn/rmrb/html/2019-01/03/nbs.D110000renmrb_01.htm
http://paper.people.com.cn/rmrb/html/2019-01/04/nbs.D110000renmrb_01.htm
……
make_dly_first_url 是生成url的函数,test_make_dly_first_url 是测试函数,以前看过测试驱动的开发方法,现在感觉这种方法还是有一定的意义的。不过我的测试代码还是写的很烂,也没用到测试工具类。