爬虫小实例

1.网页信息爬取

import requests
try:
    kv={'user-agent': 'Mozilla/5.0'}
    url='http://www.baidu.com/'
    r=requests.get(url,headers=kv)
    r.raise_for_status()
    r.encoding=r.apparent_encoding
    print(r.text[:500])
except:
    print("爬取失败")

2.百度搜索关键字提交

由于百度搜索的关键字接口为http://www.baidu.com/s?wd=keyword


import requests
try:
    kv1={'wd:':'python'}   #搜索python
    kv2={'user-agent': 'Mozilla/5.0'}
    url='http://www.baidu.com/s'
    r=requests.get(url,params=kv1,headers=kv2)
    r.raise_for_status()
    r.encoding=r.apparent_encoding
    print(r.text[1000:5000])
    print(len(r.text))
except:
    print("爬取失败")

3.网络图片爬取

import requests
import os
kv2={'user-agent': 'Mozilla/5.0'}
url='http://pic28.photophoto.cn/20130818/0020033143720852_b.jpg'  
root='D://pic//'
path=root+url.split('/')[-1]
try:
    if not os.path.exists(root):
        os.mkdir(root)
    if not os.path.exists(path): 
        r=requests.get(url,headers=kv2)
        r.raise_for_status()
        r.encoding=r.apparent_encoding
        with open(path,'wb')as f:
            f.write(r.content)
            f.close()
            print('文件已保存')
    else:
        print('文件已存在')
except:
    print("爬取失败")

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值