今天在尝试爬取百度新闻网标题的时候,出现了爬取的html乱码问题.
爬虫代码如下:
import re
import requests
url='http://news.baidu.com/'
headers={
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:73.0) Gecko/20100101 Firefox/73.0'
}
#response.text 不太准确 转码 是靠推测
data = requests.get(url,headers= headers)