如何自动对页面解码

在爬虫中,经常遇到需要页面界面都才能看到正确的内容,否则中文会显示为乱码,但每个页面的编码方式不一样,此时最好能自动获取页面的编码方式,然后对页面进行解码,才能获取到我们想要的内容。
代码如下:

  • from lxml import etree import chardet import requests import
    urllib

    # 自动获取页面源码的编码方式 def automatic_detect(url):
        # python2,urllib.urlopen
        content = urllib.request.urlopen(url).read()
        result = chardet.detect(content)
        encoding = result['encoding']
        return encoding
    
    
    url = 'http://www.yongdasbkj.com/' resp = requests.get(url,
    verify=False) html_string =
    resp.content.decode(automatic_detect(url))
    # print(html_string) html = etree.HTML(html_string)
    # 获取titile titles = html.xpath('//title') for title in titles:
        title = title.xpath('text()')
        print(title)
    
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值