9 python计算生态概括

Python计算生态概括

一、从数据处理到人工智能

1.概括

数据表示->数据清洗->数据统计->数据可视化->数据挖掘->人工智能

-数据表示：采用合适方式用程序表达数据

-数据清洗：数据归一化、数据转换、异常值处理

-数据统计：数据的概要理解，数量、分布、中位数等

-数据可视化：直观展示数据内涵的方式

-数据挖掘：从数据分析获得知识，产生数据外的价值

-人工智能：依托于数据/语言/图像/视觉等方面深度分析与决策

2.Python库的数据分析

①Numpy：表达N维数组的最基础库

②Pandas：Python数据分析高层次应用库

• Series = 索引 + 一维数组
• DataFrame = 行列索引 + 二维数组

③SciPy：数学、科学和工程计算功能库，类似Matlab（可用于傅里叶变换等）

类：傅里叶变换、信号处理、线性代数、图像处理、稀疏图压缩、稀疏图运算、优化算法等

3.Python库的数据可视化

①Matolotlib：高质量的二维数据可视化功能库

-提供超过一百种可视化展示效果

-通过matplotlib.pyplot子库调用各可视化效果

②Seaborn：统计类数据可视化功能库

-主要展示数据间的分布、分类、线性关系等内容

③Mayavi：三维科学数据可视化功能库

4.Python库的文本处理

①PyPDF2：用来处理pdf文件的工具集

-支持获取信息、分隔/整合文件、加密解密等

http://mstamy2.github.io/PyPDF2

from PyPDF2 import PdfFileReader,PdfFileMerger
merger=PdfFileMerger()
input1=open("document1.pdf","rb")
input2=open("document2.pdf","rb")
merger.append(fileobj=input1,pages=(0,3))
merger.merge(position=2,fileobj=input2,pages=(0,1))
output=open("document-output.pdf","wb")
merger.write(output)

②NLTK：自然语言文本处理第三方库

-提供了一批简单易用的自然语言文本处理功能

-支持语言文本分类、标记、语法句法、语义分析等

http://www.nltk.org/

from nltk.corpus import treebank
t=treebank.parsed_sents('wsj_0001.mrg')[0]
t.draw()

③Python-docx：创建或更新Microsoft Word文件的第三方库

-增加并配置段落、图片、表格、文字等

http://python-docx.readthedocs.io/en/latest/index.html

from docx import Document
document=Document()
document.add_heading('Document Title',0)
p=document.add_paragraph('A plain paragraph having some ')
document.add_page_break()
document.save('demo.docx')

5.Python库的机器学习

①Scikit-learn：机器学习方法工具集

-提供一批统一化的机器学习方法功能接口

-提供聚类、分类、回归、强化学习等计算功能

②TensorFlow：AlphaGo背后的机器学习计算框架

-将数据流图作为基础，图节点代表运算，边代表张量

import tensorflow as tf
init=tf.global_variables_initializer()
sess=tf.Session()
res=sess.run(result)
print('result:',res)

③MXNet：基于神经网络的深度学习计算框架

-可用于自动驾驶、机器翻译、语音识别等众多领域

二、实例15：霍兰德人格分析雷达图

1.问题分析

雷达图 Rader Chart

霍兰德人格分析：人格兴趣与职业之间有一种内在的对应关系

人格分类：研究型、艺术型、社会型、企业型、传统型、现实性

职业：工程师、实验员、艺术家、推销员、记事员、社会工作者

• 绘制雷达图：使用matplotlib库
• 专业的多维数据表示：numpy库

2.代码

#HollandRadarDraw
import numpy as np
import matplotlib.pyplot as plt
import matplotlib
matplotlib.rcParams['font.family']='SimHei'
radar_labels = np.array(['研究型(I)','艺术型(A)','社会型(S)',\
                         '企业型(E)','常规型(C)','现实型(R)']) #雷达标签
nAttr = 6
data = np.array([[0.40, 0.32, 0.35, 0.30, 0.30, 0.88],
                 [0.85, 0.35, 0.30, 0.40, 0.40, 0.30],
                 [0.43, 0.89, 0.30, 0.28, 0.22, 0.30],
                 [0.30, 0.25, 0.48, 0.85, 0.45, 0.40],
                 [0.20, 0.38, 0.87, 0.45, 0.32, 0.28],
                 [0.34, 0.31, 0.38, 0.40, 0.92, 0.28]]) #数据值
data_labels = ('艺术家', '实验员', '工程师', '推销员', '社会工作者','记事员')
angles = np.linspace(0, 2*np.pi, nAttr, endpoint=False)
data = np.concatenate((data, [data[0]]))
angles = np.concatenate((angles, [angles[0]]))
fig = plt.figure(facecolor="white")
plt.subplot(111, polar=True)
plt.plot(angles,data,'o-', linewidth=1, alpha=0.2)
plt.fill(angles,data, alpha=0.25)
plt.thetagrids(angles*180/np.pi, radar_labels,frac = 1.2)
plt.figtext(0.52, 0.95, '霍兰德人格分析', ha='center', size=20)
legend = plt.legend(data_labels, loc=(0.94, 0.80), labelspacing=0.1)
plt.setp(legend.get_texts(), fontsize='large')
plt.grid(True)
plt.savefig('holland_radar.jpg')
plt.show()

三、从Web解析到网络空间

1.网络爬虫

①Requests：网络爬虫功能库

-提供了类HTTP协议网络爬虫功能，Python页面级网络爬虫

-支持连接池、SSL、Cookies、HTTP(S)代理

import requests
r=requests.get('https://api.github.com/user',\
              auth=('user','pass'))
r.status_code
r.headers['content-type']
r.ending
r.text

②Scrapy：优秀的网络爬虫框架

-提供了构建网络爬虫的框架功能，功能半成品

-支持批量和定时网页爬取，提供数据处理流程等

③pyspider：web网页爬取系统

-提供完整的网页爬取系统构建功能

-支持数据库后端、消息队列、优先级、分布式架构等

2.Web信息提取

①Beautiful Soup：HTML和XML的解析库

-又名beautufulsoup4或者bs4，可以加载多种解析引擎

-经常与网络爬虫库搭配使用，如Scrapy、requests等

②Re：正则表达式解析和处理功能库

-可用于各类场景，包括定点的Web信息提取

③Python-Goose：提取文章类型Web页面的功能库

-提供了针对Web页面中文章信息/视频等元数据的提取功能

-针对特定类型Web页面，应用覆盖面较广

3.Web网站开发

①Django：最流行的Web应用框架

-提供构建Web系统的基本应用框架

-MTV模式：模型(model)、模板(Template)、视图(Views)

③Pyramid：规模适中的Web应用框架

4.网络应用开发

①WeRoBot：微信公众号开发框架

-建立微信机器人的重要技术手段

②aip：百度AI开发平台接口

-提供访问百度AI服务的Python功能接口

-语音、人脸、OCR、NLP、知识图谱、图像搜索等领域

③MyQR：二维码生成（基本、艺术、动态）

四、从人机交互到艺术设计

1.图形用户界面

①PyQy5：Qt开发框架的Python接口

-非常成熟的跨平台桌面应用开发系统，完备GUI

②wxPython：跨平台GUI开发框架

import wx
app=wx.App(False)
frame=wx.Frame(None,wx.ID_ANY,"Hello World")
frame.show(True)
app.MainLoop()

③PyGObject：使用GTK+开发GUI的功能库

2.游戏开发

①PyGame：简单的游戏开发功能库

②Panda3D：开源、跨平台的3D渲染和游戏开发库

-3D游戏引擎，支持很多先进特性（法线贴图、光泽贴图、卡通渲染等）

③cocos2d：构建2D游戏和图形界面交互式应用的框架

-支持GPU加速，采用树形结构分层管理游戏对象类型

3.虚拟现实

①VR Zero：在树莓派上开发VR应用的Python库

②pyovr：Oculus Rift的Python开发接口

③Vizard：基于Python的通用VR开发引擎

4.图形艺术

①Quads：迭代的艺术（像素风）

②ascii_art：ASCII艺术库，转换为ASCII艺术风格

③turtle：海龟绘图体系

五、实例16：玫瑰花绘制

#RoseDraw.py
import turtle as t
# 定义一个曲线绘制函数
def DegreeCurve(n, r, d=1):
    for i in range(n):
        t.left(d)
        t.circle(r, abs(d))
# 初始位置设定
s = 0.2 # size
t.setup(450*5*s, 750*5*s)
t.pencolor("black")
t.fillcolor("red")
t.speed(100)
t.penup()
t.goto(0, 900*s)
t.pendown()
# 绘制花朵形状
t.begin_fill()
t.circle(200*s,30)
DegreeCurve(60, 50*s)
t.circle(200*s,30)
DegreeCurve(4, 100*s)
t.circle(200*s,50)
DegreeCurve(50, 50*s)
t.circle(350*s,65)
DegreeCurve(40, 70*s)
t.circle(150*s,50)
DegreeCurve(20, 50*s, -1)
t.circle(400*s,60)
DegreeCurve(18, 50*s)
t.fd(250*s)
t.right(150)
t.circle(-500*s,12)
t.left(140)
t.circle(550*s,110)
t.left(27)
t.circle(650*s,100)
t.left(130)
t.circle(-300*s,20)
t.right(123)
t.circle(220*s,57)
t.end_fill()
# 绘制花枝形状
t.left(120)
t.fd(280*s)
t.left(115)
t.circle(300*s,33)
t.left(180)
t.circle(-300*s,33)
DegreeCurve(70, 225*s, -1)
t.circle(350*s,104)
t.left(90)
t.circle(200*s,105)
t.circle(-500*s,63)
t.penup()
t.goto(170*s,-30*s)
t.pendown()
t.left(160)
DegreeCurve(20, 2500*s)
DegreeCurve(220, 250*s, -1)
# 绘制一个绿色叶子
t.fillcolor('green')
t.penup()
t.goto(670*s,-180*s)
t.pendown()
t.right(140)
t.begin_fill()
t.circle(300*s,120)
t.left(60)
t.circle(300*s,120)
t.end_fill()
t.penup()
t.goto(180*s,-550*s)
t.pendown()
t.right(85)
t.circle(600*s,40)
# 绘制另一个绿色叶子
t.penup()
t.goto(-150*s,-1000*s)
t.pendown()
t.begin_fill()
t.rt(120)
t.circle(300*s,115)
t.left(75)
t.circle(300*s,100)
t.end_fill()
t.penup()
t.goto(430*s,-1070*s)
t.pendown()
t.right(30)
t.circle(-600*s,35)
t.done()