Python学习笔记(爬虫)–获取网页信息
Python有一个内置的urllib库,这个内置库可以完成向服务器发出请求并获得网页的功能,是学习爬虫的第一步。但是在python3中需要import urllib.request,否则运行时会报错。
还有一个需要关注的点是页面打开的方式,在使用写的方式打开后运行代码会报错:TypeError: write() argument must be str, not bytes
我在做的时候也是尝试网上找到的解决办法,最终以二进制写的方式打开后代码运行成功。
#coding:utf-8
import urllib.request
page = urllib.request.urlopen('https://***url****')
htmlcode = page.read()
#print htmlcode
pageFile = open('pageCode.txt','wb+')#以写的方式打开pageCode.txt
pageFile.write(htmlcode)#写入
pageFile.close()#关闭
之前看到有人说找不到保存的文件,所以说明一下get到的页面数据保存在电脑用户的默认目录下。