爬虫练习POST请求(爬取肯德基信息)

import urllib.request
import urllib.parse

header = {
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/97.0.4692.71 Safari/537.36 Edg/97.0.1072.62'}
ulr = 'http://www.kfc.com.cn/kfccda/ashx/GetStoreList.ashx?op=cname'


def getrequest(page):
    header = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/97.0.4692.71 Safari/537.36 Edg/97.0.1072.62'}
    data = {'cname': '重庆',
            'pid': '',
            'pageIndex': page,
            'pageSize': '10'}
    data = urllib.parse.urlencode(data).encode('utf-8')###unlencode():将字典信息转化为URL
                                                       ###encode('utf-8')必须有post必须有                            
                                                                                   这个
    return urllib.request.Request(url=ulr, data=data, headers=header)


if __name__ == '__main__':
    start_page = int(input('起始页'))
    stop_page = int(input('结束页'))

    for page in range(start_page, stop_page + 1):
        requ = getrequest(page)
        response = urllib.request.urlopen(requ)
        content = response.read().decode('utf-8')
        with open('肯德基_第' + str(page) + '.json', 'w', encoding='utf-8') as fp:
            fp.write(content)
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值