首先用浏览器打开网页,利用扩展程序 “fiddler” 代理获取网页。
其次输入以下代码块,爬取百度搜索目标网站的源代码:
# 导入模块包
from urllib.request import Request, urlopen
from urllib.parse import quote
# 网址地址(采用格式化减少有效地址长度)
url = "http://baidu.com/s?wd={}".format(quote("懂球帝"))
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/65.0.3325.181 "
"Safari/537.36 "
}
request = Request(url, headers=headers)
response = urlopen(request)
print(response.read())
若有的同学遇到以下问题:
解决办法:
**
将字符串格式改成 “UTF-8” 即可
**