记录一次scrapy的crawlspider 详情页自动路径拼接问题

我在运行scrapy  crawlspider的时候，发现首页200请求成功，但是详情页返回404，于是，进入网站，查看详情页链接是什么样子

这是列表页

直接鼠标右键，新页面打开，发现网页正常，链接如下：

 

这下知道原因了，是crawlspider的路径拼接有问题，

正常打开的链接是https://www.xxx.com/xwzx/dzyw/202005/t2020058.html

而crawlspider 它自己拼接的链接是 https://www.xxx.com/202005/t2020058.html

它没有带上xwzx/dzyw这个前缀，因此，运行该爬虫，返回了404异常状态码

果断开始各种度娘谷哥，没有相关介绍，em~~我去看看scrapy官方文档，也没有...

 

无奈，自己去看源码

ctrl + 鼠标左键，进入crawlspider Rule的源码

但我打印attr_val 时发现它是正常的，那么问题就出在了base_url身上

知道了原因，那么就接着寻找base_url从哪里来的，我发现base_url就在刚开始的lxmlhtml.py这个文件夹中，再次上图

再次深入的时候，发现base_url在 response.py get_base_url里，但是没有摸透这一块，因为_baseurl_cache我打印不出来，这是一个对象- -,

好吧，只能使用治标不治本的方法，回到lxmlhtml.py这个文件中，强行更改base_url

如果有大佬有别的好的解决方案，烦请告知，我这个方法只能解决一下燃眉之急~~~