Python抓取极客学院开放数据

Python 是比较美的语言,相见恨晚

抓数据的一般步骤

首先,锁定目标,也就是确定网站链接的格式。
其次,在浏览器中或者在wireshark中尝试抓包,分析数据,主要是利用浏览器的查看源码功能,分析需要抓包的数据的结构特点,确定规律。
编写python代码,分析数据,反反复复,得到脚本。

我的例子

#encoding:utf-8
import requests
import re
class Spider:
    #构造函数
    def __init__(self):
        print u('开始执行爬虫')
    #用来获取页面源码
    def getSource(self,url):
        html=requests.get(url)
        return html
    #产生不同页数
    def changePage(self,url,total_page):
        now_page=int(re.search('pageNum=(\d+)',url,re.S).group(1))
        page_group=[]
        for i in range(now_page,total_page+1):
            link=re.sub('
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值