qq_39186820的博客

原创 当电商网站的产品有不同的sku对应不同的价格时，如何爬取呢？

小白一枚，最近学习scrapy爬虫，终于能够通过网站的验证码环节，本以为一切进行顺利。当我在一个网站里面调研页面结构的时候，我发现如下图：首先改变虾米那的段数，规格，效期价格都会变。改变段数（pre段，1段…）的时候商品url会变，可是改变规格的时候和效期的时候就不会改变。这个时候我就迷惑了，按理来说我直接爬取的话应该是所有的规格段数都会有，但是价格并不是对应的。我是一个小白，现在唯一能想...