Python下载文件出现乱码的解决方法之一:Content-Encoding: gzip,deflate, br

最近一直在爬晋江的小说列表,比如作者和字数什么的,但是总是出现乱码,网上找了很多资料,然后得到的解决方法,应该可以适用很多网站了。


import urllib
from bs4 import BeautifulSoup
from io import BytesIO
import urllib.request
from urllib.request import urlopen
import zlib
import gzip
import re
from gzip import GzipFile

def loadData(url):
    request = urllib.request.Request(url)
    request.add_header('Accept-encoding', 'gzip,deflate')
    response = urlopen(request)
    content = response.read()
    encoding = response.info().get('Content-Encoding')
    if encoding == 'gzip':
        content = gzip1(content)
    elif encoding == 'deflate':
        content = deflate(content)
    elif encoding == 'br':
        content == br(content)
    return content


def gzip1(data):
    buf = BytesIO(data)
    f = gzip.GzipFile(fileobj=buf)
    return f.read()


def deflate(data):
    try:
        return zlib.decompress(data, -zlib.MAX_WBITS)
    except zlib.error:
        return zlib.decompress(data)

import brotli


def br(data):
    data = brotli.decompress(data)

def main():
    url = "https://www.jjwxc.net/topten.php?orderstr=7&t=0"
    content = loadData(url)

    html = content.decode("gb18030")

 
    print(html)
      



if __name__ == '__main__':
    main()

  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值