python计算生态概览、库、框架、资源汇总整理

1.非常有用的转载1：

Python框架、库和软件资源大全(整理篇)

2.较为有用的转载2：

Python系列——常用第三方库

3.嵩天老师Python计算生态概览

课程《Python语言程序设计》链接，计算生态内容在***第九章***

以下是笔记内容

第9章 python计算生态概览

9.1 从数据处理到人工智能

数据表示->数据清洗->数据统计->数据可视化->数据挖掘->人工智能

• 数据表示：采用合适方式用程序表达数据
• 数据清洗：数据归一化、数据转换、异常值处理
• 数据统计：数据的该要理解，数量、分布、中位数等
• 数据可视化：使用直观的方式展示数据的内涵
• 数据挖掘：从数据分析获得知识，产生数据外的价值
• 人工智能：数据/语言/图像/视觉等方面深度分析与决策

Python库的数据分析

Numpy，最基础的库，用于表达N维数组

• Python接口使用，C语言实现，计算速度优异
• 支撑Pandas等

Pandas：Python数据分析高层次应用库

• Series = 索引 + 一维数据
• DataFrame = 行列索引+二维数据

SciPy：数学、科学和工程计算功能库

• 类似matlab，可用于傅里叶变换、信号处理等应用
• 主要用于科学计算

Python库的数据可视化

Matplotlib：高质量的二维数据可视化功能库

• 提供了超过100种数据可视化展示效果
• 因此，这个库的子库非常多：matplotlib.pyplot子库调用各可视化效果
• 一般只需要调用matplotlib.pyplot子库

Seaborn:统计类数据可视化功能库

• 主要展示数据见分布、分类和线性关系等内容

Mayavi：三维科学数据可视化功能库

Python库的文本处理

PyPDF2:用来处理pdf文件的工具集

• 提供了一批处理PDF文件的计算功能
• 支持获取信息、分隔/整合文件、加密解密等
• 完全Python语言实现，不需要额外依赖，功能稳定
• 如下例子：合并PDF文件

NLTK:自然语言文本处理第三方库

• 提供了一批简单易用的自然语言文本处理功能
• 支持语言文本分类、标记、语法句法、语义分析等
• 最优秀的Python自然语言处理库

Python-docx：创建或更新Microsoft Word文件的第三方库

• 提供创建或更新.doc .docx等文件的计算功能
• 增加并配置段落、图片、表格、文字等，功能全面

Python库的机器学习

Scikit-learn:机器学习方法工具集

• 提供一批统一化的机器学习方法功能接口
• 提供聚类、分类、回归、强化学习等计算功能
• 最优秀的机器学习第三方库

TensorFlow：AlphaGo背后的机器学习计算框架

• 谷歌公司推动的开源机器学习框架
• 将数据流图作为基础，图节点代表运算，边代表张量
• 支持谷歌人工智能应用

MXNet：基于神经网络的深度学习计算框架

• 提供可扩展的神经网络及深度学习计算功能
• 可用于自动驾驶、机器翻译、语音识别等众多领域
• Python最重要的深度学习计算框架

9.2 实例15：霍兰德人格分析雷达图

霍兰德认为：人格兴趣与职业之间应有一种内在的对应关系

• 人格分类：研究型、艺术型、社会型、企业型、传统型、现实型（六个角度）
• 职业：工程师、实验员、艺术家、推销员、记事员、社会工作者

需求：雷达图方式验证霍兰德人格分析

输入：各职业人群结合兴趣的调研数据

绘制霍兰德人格分析雷达图：

• 通用雷达图绘制：matplotlib库
• 专业的多维数据表示:numpy库
• 输出：雷达图

#HollandRadarDraw
import numpy as np
import matplotlib.pyplot as plt
import matplotlib
matplotlib.rcParams['font.family']='SimHei'
radar_labels = np.array(['研究型(I)','艺术型(A)','社会型(S)',\
'企业型(E)','常规型(C)','现实型(R)'])
data = np.array([[0.40, 0.32, 0.35, 0.30, 0.30, 0.88],
[0.85, 0.35, 0.30, 0.40, 0.40, 0.30],
[0.43, 0.89, 0.30, 0.28, 0.22, 0.30],
[0.30, 0.25, 0.48, 0.85, 0.45, 0.40],
[0.20, 0.38, 0.87, 0.45, 0.32, 0.28],
[0.34, 0.31, 0.38, 0.40, 0.92, 0.28]]) #数据值
data_labels = ('艺术家','实验员','工程师','推销员','社会工作者','记事员')
angles = np.linspace(0, 2*np.pi, 6, endpoint=False)
data = np.concatenate((data, [data[0]]))
angles = np.concatenate((angles, [angles[0]]))
fig = plt.figure(facecolor="white")
plt.subplot(111, polar=True)
plt.plot(angles,data,'o-', linewidth=1, alpha=0.2)
plt.fill(angles,data, alpha=0.25)
plt.thetagrids(angles*180/np.pi, radar_labels)
plt.figtext(0.52, 0.95, '霍兰德人格分析', ha='center', size=20)
legend = plt.legend(data_labels, loc=(0.94, 0.80), labelspacing=0.1)
plt.setp(legend.get_texts(), fontsize='large')
plt.grid(True)
plt.savefig('holland_radar.jpg')
plt.show()

举一反三：

• 编程的目标感：寻找感兴趣的目标，寻觅之
• 编程的沉浸感：寻找可实现的方法，思考之
• 编程的熟练度：练习、练习、再练习，熟练之

9.3 从web解析到网络空间

Python库之网络爬虫

Requests：最友好的网络爬虫功能库

• 提供了简单易用的类HTTP协议网络爬虫功能
• 支持连接池、SSL、Cookies、HTTP(S)代理等

Scrapy：优秀的网络爬虫框架，可以构建专业的网络爬虫系统

• 提供了构建网络爬虫系统的框架功能，功能半成品（框架）
  • 框架可以理解为功能的半成品
  • 已经将很多的基础功能已经完成，只需用户进行扩展开发或者额外配置，就可以形成用户功能特定的系统
• 支持批量和定时网页爬取、提供数据处理流程等
• Python最主要且最专业的网络爬虫框架

pyspider：强大的Web页面爬取系统，进一步了解之后可以形成完整的网页爬取系统

• 提供了完整的网页爬取系统构建功能
• 支持数据库后端、消息队列、优先级、分布式架构等

Python库之Web信息提取

Beautiful Soup:HTML和XML的解析库

• 提供了解析HTML和XML等Web信息的功能
• 又名beautifulsoup4或bs4，可以加载多种解析引擎
• 常与网络爬虫库搭配使用，如Scrapy、requests等

解析web信息无需还原其设计格式，需要用到正则表达式库：

Re:正则表达式解析和处理功能库

• 提供了定义和解析正则表达式的一批通用功能
• 可用于各类场景，包括定点的Web信息提取
• Python最主要的标准库之一，无需安装

Python-Goose：提取文章类型Web页面的功能库

• 提供了对web页面中文章信息/视频等元数据的提取功能
• 针对特定类型web页面，应用覆盖面较广

Python库之Web网站开发

Django：最流行的Web应用框架

• 提供了构建web系统的基本应用框架
• MTV模式：模型（model）、模板（Template）、视图（Views）

Pyramid:规模适中的Web应用框架

• 规模适中，适合快速构建并适度扩展类应用
• 产品级别应用框架，起步简单可扩展性好

FLask最简单构建web系统的应用框架

• 特点：简单、规模小，快速
• 适用于建立几个页面的网站

Django>Pyramid>FLask

Python库之网络应用开发

WeRoBot:微信公众号开发框架

• 提供了解析微信服务器消息及反馈消息的功能
• 建立微型机器人的重要技术手段

aip:百度AI开放平台接口

• 提供了访问百度AI服务的Python功能接口
• 语音、人脸、OCR、NLP、知识图谱、图像搜索等领域
• python百度AI应用最主要的方式

MyQR：二维码生成第三方库

• 提供生成二维码的系列功能
• 基本二维码、艺术二维码和动态二维码

9.4 从人机交互到艺术设计

Python库之图形用户界面

GUI：图形用户界面

PyQt5：Qt开发框架的Python接口

• Qt框架早年由诺基亚公司开发的开源的图形用户界面系统
• 非常成熟
• 提供了创建Qt5程序的Python API接口
• Qt是非常成熟的跨平台桌面应用开发系统，完备GUI
• 推荐的Python GUI开发第三方库
• 完备的跨平台系统，背后有成熟的工业链条

wxPython:跨平台GUI开发框架

• 提供了专用于Python的跨平台GUI开发框架
• 理解数据类型与索引关系，操作索引即操作数据

PyGObject:使用GTK+开发GUI的功能库

• 提供了整合GTK+、WebKitGTK+等库的功能
• GTK+:跨平台的一种用户图形界面GUI框架
• 实例：Anaconda采用该库构建GUI

Python库之游戏开发

PyGame：简单的游戏开发功能库

• 提供了基于SDL的简单游戏开发功能及实现引擎
• 理解游戏对外部输入的响应机制及角色构建和交互机制

Panda3D:开源、跨平台的3D渲染和游戏开发库

• 一个3D游戏引擎，提供Python和C++两种接口
• 支持很多先进特性：法线贴图、光泽贴图、卡通渲染等
• 由迪士尼和卡尼吉梅隆大学共同开发
• 相当的优秀、相当的好用

cocos2d:构建2D游戏和图形界面交互式应用的框架

• 提供OpenGL的游戏开发图形渲染功能
• 支持GPU加速，采用树形结构分层管理游戏对象类型
• 适用于2D专业级游戏开发

Python库之虚拟现实

VR Zero：在树莓派上开发VR应用的Python库

• 提供大量与VR开发相关的功能
• 针对树莓派的VR开发库，支持设备小型化，配置简单化
• 非常适合初学者实践VR开发及应用

Raspberry Pi（中文名为“树莓派”，简写为PRi，或者RasPi/RPI，是为学习计算机编程教育而设计，只有信用卡大小的微型电脑，其系统基于Linux。随着Windows 10 IoT的发布，我们也将可以用上运行windows的树莓派）

pyovr：Oculus Rift的Python开发接口

• 基于成熟的VR设备，提供全套文档，工业级应用设备
• Python+虚拟现实领域探索的一种思路

Vizard：基于Python的通用VR开发引擎

• 专业的企业级虚拟现实开发引擎
• 提供详细的官方文档
• 支持多种主流的VR硬件设备，具有一定的通用性

Python库之图形艺术

Quads：迭代的艺术

• 对图片进行四分迭代，形成像素风
• 可以生成动图或静图图像
• 简单易用，具有很高展示度

ascii_art:ASCII艺术库

• 将普通图片转为ASCII艺术风格
• 输出可以是纯文本或彩色文本
• 可采用图片格式输出

turtle：海龟绘图体系

9.5 实例16：玫瑰花绘制

举一反三

• 艺术：思想优先，编程是手段
• 设计：想法和编程同等重要
• 工程：编程有限，思想次之（不强调方法的新旧，而在于能够解决工程实际问题）

编程不重要，思想才重要：

• 认识自己：明确自己的目标，有自己的思想（想法）
• 方式方法：编程只是手段，熟练之，未雨绸缪为思想服务
• 为谁编程：将自身发展与祖国发展相结合，创造真正价值

Python未来之路在哪里

• Python Everyewhere，Python无处不在
• Python Only Not Enough，只有Python可以但不足够
  • 想成为专业的程序员还需要学习其他编程语言
  • 跟Python对接的C语言
  • web上展示前端的HTML,CSS,JavaScript语言
  • 综合其他语言Python才能发挥更大能量
• Python EcoSystem，Python计算生态将成为编程主流