最近工作需要,爬取一个小网站的样式,对css和html不是很精通的我选择用python来爬取网页。
首先我们使用的是urllib包里的requests。这个包是自带的,所以不需要pip install来安装,如果安装会报错误:
"Could not find a version that satisfies the requirement urllib (from versions: ) No matching distribution found for urllib"
直接使用:
#导入包
import urllib.request
#输入要爬取的网页(工作网站不方便放,放一个大佬的网站)
url = r'http://wuchong.me'
#调用一下urlopen这个方法,获得response
res = urllib.request.urlopen(url)
#将响应读取,格式为utf-8
html = res.read().decode('utf-8')
#输出
print(html)
下一步将获取的网页代码存储到为html文件:
import urllib.request
url = r'http://wuchong.me'
urllib.request.urlretrieve(url,'./v1.html')
之后将源网页里的css样式下载下来放在一个目录下就可以运行了。