我在运行scrapy crawlspider的时候,发现首页200请求成功,但是详情页返回404,于是,进入网站,查看详情页链接是什么样子
这是列表页
直接鼠标右键,新页面打开,发现网页正常,链接如下:
这下知道原因了,是crawlspider的路径拼接有问题,
正常打开的链接是https://www.xxx.com/xwzx/dzyw/202005/t2020058.html
而crawlspider 它自己拼接的链接是 https://www.xxx.com/202005/t2020058.html
它没有带上xwzx/dzyw这个前缀,因此,运行该爬虫,返回了404异常状态码
果断开始各种度娘谷哥,没有相关介绍,em~~我去看看scrapy官方文档,也没有...
无奈,自己去看源码
ctrl + 鼠标左键,进入crawlspider Rule的源码
但我打印attr_val 时发现它是正常的,那么问题就出在了base_url身上
知道了原因,那么就接着寻找base_url从哪里来的,我发现base_url就在刚开始的lxmlhtml.py这个文件夹中,再次上图
再次深入的时候,发现base_url在 response.py get_base_url里,但是没有摸透这一块,因为_baseurl_cache我打印不出来,这是一个对象- -,
好吧,只能使用治标不治本的方法,回到lxmlhtml.py这个文件中,强行更改base_url
如果有大佬有别的好的解决方案,烦请告知,我这个方法只能解决一下燃眉之急~~~