python 中网络编程连接以及报头

urllib:

url ="http://www.csdn.net"

ff = urllib.urlopen(url)(url须为绝对地址)

不能修改header

ff.geturl() 获取访问的URL(string)

ff.headers 获取回应报头(string)

ff.info() 获取回应报头(string)


urllib2:

ff   = urllib2.urlopen(url)(同urllib,(url须为绝对地址))

另一种方式(可修改header,有时网站会屏蔽不是浏览器的爬虫请求,需要修改header,加入user-agent等):

reqheaders={'':'','':''}

request = urllib2.Request(url,headers=reqheaders)

respon  = urllib2.urlopen(request)

respon.info()/respon.headers()/info()(类似urllib)


httplib:

conn = httplib.HTTPConnection(url)(url可不必为绝对地址)重定向会停止

conn = httplib.HTTPSConnection(url)(url可不必为绝对地址)

conn.request('GET', '/')

res = conn.getresponse()获取网站回应

header = res.getheaders()获取报头(list)

res.getheaders(name,)字典查询特定name的报头


httplib2:

http = httplib2.Http()

#http.request(uri, method, body, headers, redirections, connection_type)

response, content = http.request(url2)

response  为headers字典,content为内容string

可以不区分HTTPS或者http,会自动重定向,追踪到最后的页面。










评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值