Python爬虫入门【23】:scrapy爬取云沃客项目外包网数据!

本文介绍了使用Python的Scrapy框架爬取云沃客项目外包网的数据,成功获取7000+条信息并存储到MongoDB中。通过对数据的分析,发现大部分项目的工期集中在0~50天,且网络网站和APP的项目较多,适合相关技能的开发者寻找兼职机会。
摘要由CSDN通过智能技术生成

闲暇写一个外包网站的爬虫,万一你从这个外包网站弄点外快呢

数据分析

官方网址为 https://www.clouderwork.com/

进入全部项目列表页面,很容易分辨出来项目的分页方式

得到异步请求

Request URL:https://www.clouderwork.com/api/v2/jobs/search?ts=1546395904852&keyword=&budget_range=&work_status=&pagesize=20&pagenum=3&sort=1&scope=
Request Method:GET
Status Code:200 OK

参数如下

    ts:1546395904852  # 时间戳
    keyword:   # 搜索关键字,查找全部,使用空即可
    budget_range:   # 暂时无用
    work_status:
    pagesize:20   # 每页数据量
    pagenum:3   # 页码
    sort:1   # 排序规则
    scope:
Python资源分享qun 784758214 ,内有安装包,PDF,学习视频,这里是Python学习者的聚集地,零基础,进阶,都欢迎

下面就是拼接请求了,一下确定request相关参数

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值