实践五、六、七 -- 爬虫实践

随手记

1.JSON序列化与反序列化

2. Pandas库

1. 常与Numpy和matplotlib一起用
2. 核心数据结构：Series(一维数据)和DataFrame(多特征数据)

# 设置显示中文
plt.rcParams['font.sans-serif'] = ['simhei'] # 指定默认字体
# plt.rcParams['font.sans-serif']=['Fangsong'] # 用来显示中文标签
plt.rcParams['axes.unicode_minus']=False # 用来显示负号 
plt.rcParams['figure.dpi'] = 100 # 每英寸点数 

3. BeautifulSoups4用法：

一个可以从HTML或XML文件中提取数据的Python库。它通过转换器实现文档导航,查找,修改文档的方式。

4. csv模块：

以纯文本存储数和文本（此处找到一篇详细的博客，感谢这位作者）

5. matplotlib.pyplot模块：

用于将分析的数据通过图标的方式可视化出来，同样找到一篇博客

6. fake-useragent库用法（用于应对反爬）：

!pip install fake_useragent
from fake_useragent import UserAgent

headers= {'User-Agent':str(UserAgent().random)}
r = requests.get(url, proxies=proxies, headers=headers, timeout=10)