之前的爬取是爬图片的,但是实际上日常开发中需要的还是csv格式的数据,这篇文章主要说的就是爬取
中国图书网里面计算机类别的书籍数据,并存入csv文件
选取网址: www.bookschina.com/kinder/27000000/
前面的步骤都一样,这里主要不一样的是主要文件和Pipeline文件
1、编写Items文件
class DoubanBookItem(scrapy.Item):
# define the fields for your item here like:
# name = scrapy.Field()
name = scrapy.Field()
author = scrapy.Field()
price = scrapy.Field()
2、编写BookMain文件进行HTML的解析处理
class BookmainSpider(scrapy.Spider):
name = 'bookMain'
allowed_domains = ['www.bookschina.com/kinder/27000000/']
start_urls = ['http://www.bookschina.com/kinder/27000000/']
allPage = set()
def parse(self, response):
allPrice = response.xpath("//div[@class='infor']")
for price in allPrice:
i