python scrapy爬虫

#scrapy的基本使用,网址:https://movie.douban.com/top250

#创建爬虫项目douban
scrapy startproject douban 
#切换路径
cd douban
#创建爬虫名称db
scrapy genspider db https://movie.douban.com/top250

##scrapy自动生成的代码,部分需修改。
#db.py

#导入需要的模块
import scrapy
from ..items import DoubanItem

class DbSpider(scrapy.Spider):
    name = "db"
    #需要爬取的域名
    allowed_domains = ["movie.douban.com"]
    #爬取4页内容,第一页为0,第二页为25,以此类推50,75,100
    start_urls = [f"https://movie.douban.com/top250?start={i}&filter=" for i in range(0,101,25)]
	#response为请求得到的内容
    def parse(self, response):
    	#导入itenm
        douban=DoubanItem()
        #这里数据解析用xpath
        for i in response.xpath('//ol[@class="grid_view"]/li'):
            print(i.xpath('./div/div[2]/div/a/span/text()').extract_first())

#接下来设置配置请求参数
#settings.py

BOT_NAME = "douban"
SPIDER_MODULES = ["douban.spiders"]
NEWSPIDER_MODULE = "douban.spiders"
USER_AGENT = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/119.0.0.0 Safari/537.36 Edg/119.0.0.0"
ROBOTSTXT_OBEY = False
REQUEST_FINGERPRINTER_IMPLEMENTATION = "2.7"
TWISTED_REACTOR = "twisted.internet.asyncioreactor.AsyncioSelectorReactor"
FEED_EXPORT_ENCODING = "utf-8"
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值