最近在使用selenium来抓取网页,保存page_source的时候,遇到coding问题,试验并总结如下:
Python版本: 2.7.12
第一种情况
driver.get('http://bbs.chinaunix.net/forum-24-1.html')
doc = driver.page_source # unicode
with codecs.open('web.html', mode='w') as f:
f.write(doc)
这种情况会有如下错误:
Traceback (most recent call last):
File "/home/cooli7wa/PycharmProjects/untitled/web.py", line 22, in <module>
f.write(doc)
UnicodeEncodeError: 'ascii' codec can't encode characters in position 327-332: ordinal not in range(128)
存储文件的时候,如果文件未encode,比如上面的情况,page_source得到的是unicode格式代码,那么python会选择默认的ascii格式来encode,ascii无法支持中文,故出错。
更改下代码,采用utf-8来enc