使用scrapy爬取豆瓣电影排行top250的电影,并存入mongoDB

一.scrapy startproject 项目名;并进入项目目录;建立爬虫:scrapy genspider  爬虫名 爬取域名

二.在pycharm中进行编程

1.item文件的编写:需要获取标题,电影演职员信息,评分,简介

import scrapy


class MongotestItem(scrapy.Item):
    # define the fields for your item here like:
    # name = scrapy.Field()
    title=scrapy.Field()
    info=scrapy.Field()
    content=scrapy.Field()
    scores=scrapy.Field()

2.编写爬虫文件

import scrapy
from mongotest.items import MongotestItem

class Test1Spider(scrapy.Spider):
    name = 'test1'
    allowed_domains = ['movie.douban.com']
    off_set=0
    url=
  • 1
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值