分析需求:
1)利用python抓取网页页面
2)将抓取到的网页 生成txt文件导出到电脑桌面
准备工作:
电脑构建python环境
安装python编辑环境IDE(本文所述,利用pyCharm编辑器)
新建项目文件
1)项目中新建pydemo.py 文件
2)配置python解释器
3)编辑文件代码如下
import urllib
import urllib.request
# 抓取页面方法,调用该方法返回抓取到数据
def read_pageHtml(url):
file = urllib.request.urlopen(url)
data = file.read()
return data
# 传入需要抓取页面的链接 并调用抓取页面方法获得页面数据
url = "https://www.baidu.com/"
data = read_pageHtml(url)
# 控制台打印数据
print(data)
# 将数据生成txt文件方法 传入保存文件路径 storagePath 以及文件数据 data
def storageToLocalFiles(storagePath, data):
fhandle = open(storagePath,"wb")
fhandle.write(data)
fhandle.close()
# 调用文件数据保存方法
storagePath = "C:/Users/Pathliu/Desktop/pyweb.txt"
storageToLocalFiles(storagePath, data)
4)运行 点击 run
5)桌面得到生成的txt文件
获取到的数据,根据你需要利用数据的功能,再进行定量分析。