python 请求接口方式总结

python爬取数据时候,要请求第三方接口数据,这里总结下三种常用的请求方式

 

# -*- coding:utf-8 -*-
import requests
import pycurl
import StringIO
import urllib
import urllib2


# requests请求接口
class Request():
    def __init__(self, url):
        self.url = url
        self.headers = {
            'user-agent': 'my-app/0.0.1'
        }

    def get(self,params = {}):
        r = requests.get(self.url, headers=self.headers,params = params,cookies={},timeout=0.1)
        print('get request url ' + r.url)
        if r.status_code == 200:
            print(r.text)

    def post(self,params = {}):
        r = requests.post(self.url, headers=self.headers, data=params)
        print('post request url ' + r.url)
        if r.status_code == 200:
            print(r.text)

class pycurlRequest():
    def __init__(self, url):
        self.url = url
        self.headers = {
            'user-agent': 'my-app/0.0.1'
        }
    def get(self,params = {}):
        c = pycurl.Curl()
        str = StringIO.StringIO()
        c.setopt(pycurl.URL, self.url)
        c.setopt(pycurl.WRITEFUNCTION, str.write)
        c.setopt(pycurl.TIMEOUT, 10)  # 连接超时设置
        c.setopt(pycurl.USERAGENT,"Mozilla/5.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322)")  # 模拟浏览器
        c.setopt(pycurl.FOLLOWLOCATION, 1)
        c.perform()
        if c.getinfo(pycurl.HTTP_CODE) == 200:
            print(str.getvalue().decode('utf-8'))


    def post(self,params = {}):
        c = pycurl.Curl()
        str = StringIO.StringIO()
        c.setopt(pycurl.URL, self.url)
        #c.setopt(pycurl.COOKIEJAR, cookiejar)
        c.setopt(pycurl.WRITEFUNCTION, str.write)
        c.setopt(pycurl.TIMEOUT, 10)  # 连接超时设置
        c.setopt(pycurl.USERAGENT,"Mozilla/5.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR 1.1.4322)")  # 模拟浏览器
        c.setopt(pycurl.FOLLOWLOCATION, 1)
        postfields = urllib.urlencode(postdata)
        c.setopt(c.POSTFIELDS, postfields)
        c.perform()
        if c.getinfo(pycurl.HTTP_CODE) == 200:
            print(str.getvalue().decode('utf-8'))


class urllibRequest():
    def __init__(self, url):
        self.url = url
        self.headers = {
            'user-agent': 'my-app/0.0.1'
        }
    def get(self,params = {}):
        params = urllib.urlencode(params)
        req = urllib2.Request(self.url+'?'+params, headers=self.headers)
        resp = urllib2.urlopen(req)
        cont = resp.read().decode('utf8')
        print(cont)
    def post(self, params={}):
        params = urllib.urlencode(params)
        req = urllib2.Request(self.url,data=params, headers=self.headers)
        resp = urllib2.urlopen(req)
        cont = resp.read().decode('utf8')
        print(cont)

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

攻城狮的梦

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值