Python_Scrapy_8.爬虫

终于学到重头戏了,开始要写爬虫了. 大多数的解释在官方教程上都有.

import scrapy

class DmozSpider(scrapy.spider.Spider):
    name = "dmoz"
    allowed_domains = ["dmoz.org"]
    start_urls = [
        "http://www.dmoz.org/Computers/Programming/Languages/Python/Books/",
        "http://www.dmoz.org/Computers/Programming/Languages/Python/Resources/"
    ]

    def parse(self, response):
        filename = response.url.split("/")[-2]
        with open(filename, 'wb') as f:
            f.write(response.body)

具体的解析

首先定义了一个类,继承了scrapy.spider.Spider.之后定义了三个类属性关键的部分是在parse函数中,因为parse是一个回调函数,所以会被调用并从外部接收到了response这个参数,之后就是把response.body的内容保存在了这个项目的根目录下response.body中内容是网页源代码.

parse是语法解析的意思,后面的教程会加入正则表达式的内容.