笔记
- 数据表示→数据清洗→数据统计→数据可视化→数据挖掘→人工智能
-数据表示:采用合适方式用程序表达数据
-数据清洗:数据归一化、数据转换、异常值处理
-数据统计:数据概要理解,数量、分布、中位数等
-数据可视化:直观展示数据内涵的方式
-数据挖掘:从数据分析获得知识,产生数据外的价值
-人工智能:数据/语言/图像/视觉等方面深度分析与决策 - 数据分析
Numpy:表达N维数组的最基本库
-Python接口使用,C语言实现,计算速度优异
-Python数据分析及科学计算的基础库,支撑Pandas等
-提供直接的矩阵运算、广播函数、线性代数等功能
Pandas:Python数据分析高层次应用库
-提供了简单易用的数据结构和数据分析工具
-理解数据类型与索引的关系,操作索引即操作数据
-Python最重要的数据分析功能库,基于Numpy开发
△Series=索引+一维数据
△DataFrame=行列索引+二维数据
Scipy:数学、科学和工程计算功能库
-提供了一批数学算法及工程数据运算功能
-类似MATLAB,可用于如傅里叶变换、信号处理等应用
-Python最主要的科学计算功能库,基于Numpy开发
功能:傅里叶变换类、信号处理类、线性代数类、图像处理类、稀疏图压缩类、稀疏图运算类、优化算法类 - 数据可视化
Matplotlib:高质量的二维数据可视化功能库
-提供了超过100种数据可视化展示效果
-通过matplotlib.pyplot子库调用各可视化效果
-python最主要的数据可视化功能库,基于Numpy开发
Seaborn:统计类数据可视化功能库
-提供了一批高层次的统计类数据可视化展示效果
-主要展示数据间分布、分类和线性关系等内容
-基于Matplotlib开发,支持Numpy和Pandas
Mayavi:三维科学数据可视化功能库
-提供了一批简单易用的3D科学计算数据可视化展示效果
-目前版本是Mayavi2,三维可视化最主要的第三方库
-支持Numpy、TVTK、Traits、Envisage - 文本处理
PyPDF2:用来处理pdf文件的工具集
-提供了一批处理PDF文件的计算功能
-支持获取信息、分隔/整合文件、加密解密等
-完全Python语言实现,不需要额外依赖,功能稳定
#两个文件整合成一个文件
from PyPDF2 import PdfFileReader, PdfFileMerger
merger=PdfFileMerger()
input1=open("document1.pdf","rb")
input2=open("document2.pdf","rb")
merger.append(fileobj=input1,pages=(0,3))
merger.merge(position=2,fileobj=input2,pages=(0,1))
output=open("document-output.pdf","wb")
merger.write(output)
NLTK:自然语言文本处理第三方库
-提供了一批简单易用的自然语言文本处理功能
-支持语言文本分类、标记、语法句法、语义分析等
-最优秀的Python自然语言处理库
from nltk.corpus import treebank
t=treebank.parsed_sents("wsj_0001.mrg")[0]
t.draw()
Python-docx:创建或更新Microsoft Word文件的第三方库
-提供创建或更新.doc.docx等文件的计算功能
-增加并配置段落、图片、表格、文字等,功能全面
from docx import Document
document=Document()
document.add_heading("Document Title",0)
p=document.add_paragraph("A plain paragraph having some")
document.add_page_break()
document.save("demo.docx")
- 机器学习
Scikit-learn:机器学习方法工具集
-提供一批统一化的机器学习方法功能接口
-提供聚类、分类、回归、强化学习等计算功能
-机器学习最基本且最优秀的Python第三方库
TensorFlow:AlphaGo背后机器学习计算框架
-谷歌公司推动的开源机器学习框架
-将数据流图作为基础,图节点代表运算,边代表张量
-应用机器学习方法的一种方式,支撑谷歌人工智能应用
import tensorflow as tf
init=tf.global_variables_initializer()
sess=tf.Session()
sess.run(init)
res=sess.run(result)
print("result:",res)
MXNet:基于神经网络的深度学习计算框架
-提供可扩展的神经网络及深度学习计算功能
-可用于自动驾驶、机器翻译、语音识别等众多领域
-Python最重要的深度学习计算框架
- 霍兰德人格分析雷达图
#HollandRadarDraw
import numpy as np
import matplotlib.pyplot as plt
import matplotlib
matplotlib.rcParams['font.family']='SimHei'
radar_labels = np.array(['研究型(I)','艺术型(A)','社会型(S)',\
'企业型(E)','常规型(C)','现实型(R)']) #雷达标签
nAttr = 6
data = np.array([[0.40, 0.32, 0.35, 0.30, 0.30, 0.88],
[0.85, 0.35, 0.30, 0.40, 0.40, 0.30],
[0.43, 0.89, 0.30, 0.28, 0.22, 0.30],
[0.30, 0.25, 0.48, 0.85, 0.45, 0.40],
[0.20, 0.38, 0.87, 0.45, 0.32, 0.28],
[0.34, 0.31, 0.38, 0.40, 0.92, 0.28]]) #数据值
data_labels = ('艺术家', '实验员', '工程师', '推销员', '社会工作者','记事员')
angles = np.linspace(0, 2*np.pi, nAttr, endpoint=False)
data = np.concatenate((data, [data[0]]))
angles = np.concatenate((angles, [angles[0]]))
fig = plt.figure(facecolor="white")
plt.subplot(111, polar=True)
plt.plot(angles,data,'o-', linewidth=1, alpha=0.2)
plt.fill(angles,data, alpha=0.25)
plt.thetagrids(angles*180/np.pi, radar_labels,frac = 1.2)
plt.figtext(0.52, 0.95, '霍兰德人格分析', ha='center', size=20)
legend = plt.legend(data_labels, loc=(0.94, 0.80), labelspacing=0.1)
plt.setp(legend.get_texts(), fontsize='large')
plt.grid(True)
plt.savefig('holland_radar.jpg')
plt.show()
- 从Web解析到网络空间
- 网络爬虫
Requests:最友好的网络爬虫功能库
-提供了简单易用的类HTTP协议网络爬虫功能
-支持连接池、SSL、Cookies、HTTP(S)代理等
-Python最重要的页面级网络爬虫功能库
import requests
r=requests.get("https://api.github.com/user",auth=("user","pass"))
r.status_code
r.headers["content-type"]
r.encoding
r.text
此外
Scrapy:优秀的网络爬虫框架
-提供了构建网络爬虫系统的框架功能,功能半成品
-支持批量和定时网页爬取、提供数据处理流程等
-Python最主要且最专业的的网络爬虫框架
pyspider:强大的Web网页爬取系统
-提供了完整的网页爬取系统构建功能
-支持数据库后端、消息队列、优先级、分布式架构等
Python最重要的网络爬虫类第三方库
- Web信息提取
Beautiful Soup:HTML和XML的解析库
-提供了解析HTML和XML等Web信息的功能
-又名beautifulsoup4或bs4,可以加载多种解析引擎
-常与网络爬虫库搭配使用,如Scrapy、requests等
Re(regular expression):正则表达式解析和处理功能库
-提供了定义和解析正则表达式的一批通用功能
-可用于各类场景,包括顶点的Web信息提取
-是Python最重要的标准库之一,无需安装
Python-Goose:提取文章类型Web页面的功能库
-提供了对Web页面中文章信息/视频等元数据的提取功能
-针对特定类型Web页面,应用覆盖面较广
-Python最主要的Web信息提取库
from goose import Goose
url="http://www.elmundo.es/elmundo/2012/10/28/espana/1351388909.html"
g=Goose({"use_meta_language":False,"target_language":"es"})
article=9.extract(url=url)
article.cleaned_text[:150]
- Web网站开发
Django:最流行的Web应用框架
-提供了构建Web系统的基本应用框架
-MTV模式:模型(model)、模板(template)、视图(views)
-Python最重要的Web应用框架,略微复杂的应用框架
Pyramid:规模适中的Web应用框架
-提供了简单方便构建Web系统的应用框架
-不大不小,规模适中,适合快速构建并适度扩展类应用
-Python产品级Web应用框架,起步简单可扩展性好
from wsgiref.simple_server import make_server
from pyramid.config import Configurator
from pyramid.response import Response
def hello_world(request):
return Response("Hello World!")
if __name__=="__main__":
with Configurator() as config:
config.add_route("hello","/")
config.add_view(hello_world,route_name="hello")
app=config.make_wsgi_app()
server=make_server("0.0.0.0",6543,app)
server.server_forever()
Flask:Web应用开发微框架
-提供了最简单构建Web系统的应用框架
-特点是:简单、规模小、快速
-Django>Pyramid>Flask
from flask import Flask
app=Flask(__name__)
@app.route("/")
def hello_world():
return "Hello, World!"
- 网络应用开发
WeRoBot:微信公众号开发框架
-提供了解析微信服务器消息及反馈消息的功能
-建立微信机器人的重要技术手段
aip:百度AI开放平台接口
-提供了访问百度AI服务的Python功能接口
-语音、人脸、OCR、NLP知识图谱、图像搜索等领域
-Python百度AI应用的最主要方式
MyQR:二维码生成第三方库
-提供了生成二维码的系列功能
-基本二维码、艺术二维码和动态二维码 - 图形用户界面
PyQt5:Qt开发框架的Python接口
-提供了创建Qt5程序的Python API接口
-Qt是非常成熟的跨平台桌面应用开发系统,完备GUI
-推荐的Python GUI开发第三方库
WxPython:跨平台GUI开发框架
-提供了专用于Python的跨平台GUI开发框架
-理解数据类型与索引的关系,操作索引即操作数据
-Python最重要的数据分析功能库,基于Numpy开发
PyGObject:使用GTK+开发GUI的功能库
-提供了整合GTK+、WebKitGTK+等库的功能
-GTK+:跨平台的一种用户图形界面GUI框架
-实例:Anaconda采用该库构建GUI - 游戏开发
PyGame:简单的游戏开发功能库
-提供了基于SDL的简单游戏开发功能及实现引擎
-理解游戏对外部输入的响应机制及角色构建的交互机制
-Python游戏入门最重要的第三方库
Panda3D:开源、跨平台的3D渲染和游戏开发库
-一个3D游戏引擎,提供Python和C++两种接口
-支持很多先进特性:法线贴图、光泽贴图、卡通渲染等
-由迪士尼和卡尼基梅隆大学共同开发
cocos2d:构建2D游戏和图形界面交互式应用的框架
-提供了基于OpenGL的游戏开发图形渲染功能
-支持GPU加速,采用树形结构分层管理游戏对象类型
-适用于2D专业级游戏开发 - 虚拟现实
VR Zero:在树莓派上开发VR应用的Python库
-提供大量与VR开发相关的功能
-针对树莓派的VR开发库,支持设备小型化,配置简单化
-非常适合初学者时间VR开发及应用
pyovr:Oculus Rift的Python开发接口
-针对Oculus VR设备的Python开发库
-基于成熟的VR设备,提供全套文档,工业级应用设备
-Python+虚拟现实领域探索的一种思路
Vizard:基于Python的通用VR开发引擎
-专业的企业级虚拟现实开发引擎
-提供详细的官方文档
-支持多种主流的VR硬件设备,具有一定通用性 - 图形艺术
Quads:迭代艺术
-对图片进行四分迭代,形成像素风
-可以生成动图或静图图像
-简单易用,具有很高展示度
ascii_art:ASCII艺术库
-将普通图片转为ASCII艺术风格
-输出可以是纯文本或彩色文本
-可采用图片格式输出
turtle:海龟绘图体系
Random Art - 玫瑰花绘制
import turtle as t
# 定义一个曲线绘制函数
def DegreeCurve(n, r, d=1):
for i in range(n):
t.left(d)
t.circle(r, abs(d))
# 初始位置设定
s = 0.2 # size
t.setup(450*5*s, 750*5*s)
t.pencolor("black")
t.fillcolor("red")
t.speed(100)
t.penup()
t.goto(0, 900*s)
t.pendown()
# 绘制花朵形状
t.begin_fill()
t.circle(200*s,30)
DegreeCurve(60, 50*s)
t.circle(200*s,30)
DegreeCurve(4, 100*s)
t.circle(200*s,50)
DegreeCurve(50, 50*s)
t.circle(350*s,65)
DegreeCurve(40, 70*s)
t.circle(150*s,50)
DegreeCurve(20, 50*s, -1)
t.circle(400*s,60)
DegreeCurve(18, 50*s)
t.fd(250*s)
t.right(150)
t.circle(-500*s,12)
t.left(140)
t.circle(550*s,110)
t.left(27)
t.circle(650*s,100)
t.left(130)
t.circle(-300*s,20)
t.right(123)
t.circle(220*s,57)
t.end_fill()
# 绘制花枝形状
t.left(120)
t.fd(280*s)
t.left(115)
t.circle(300*s,33)
t.left(180)
t.circle(-300*s,33)
DegreeCurve(70, 225*s, -1)
t.circle(350*s,104)
t.left(90)
t.circle(200*s,105)
t.circle(-500*s,63)
t.penup()
t.goto(170*s,-30*s)
t.pendown()
t.left(160)
DegreeCurve(20, 2500*s)
DegreeCurve(220, 250*s, -1)
# 绘制一个绿色叶子
t.fillcolor('green')
t.penup()
t.goto(670*s,-180*s)
t.pendown()
t.right(140)
t.begin_fill()
t.circle(300*s,120)
t.left(60)
t.circle(300*s,120)
t.end_fill()
t.penup()
t.goto(180*s,-550*s)
t.pendown()
t.right(85)
t.circle(600*s,40)
# 绘制另一个绿色叶子
t.penup()
t.goto(-150*s,-1000*s)
t.pendown()
t.begin_fill()
t.rt(120)
t.circle(300*s,115)
t.left(75)
t.circle(300*s,100)
t.end_fill()
t.penup()
t.goto(430*s,-1070*s)
t.pendown()
t.right(30)
t.circle(-600*s,35)
t.done()
效果图
第九周作业
单项选择题
点击选项选择正确答案,每题有且仅有一个正确答案
1
1 分
以下选项不是Python人工智能方向第三方库的是:
A Scikit-Learn
B Seaborn
C MXNet
D TensorFlow
正确答案 B
Seaborn是数据可视化第三方库。
2
1 分
以下选项不是Python游戏开发方向第三方库的是:
A PyGame
B aip
C cocos2d
D Panda3D
正确答案 B
aip是baidu的人工智能功能Python访问接口。
3
1 分
以下选项不是Python图形用户界面方向第三方库的是:
A Vizard
B PyQt5
C wxPython
D PyGObject
正确答案 A
Vizard是虚拟现实第三方库。
4
1 分
以下选项不是Python网络应用开发方向第三方库的是:
A aip
B MyQR
C WeRobot
D numpy
正确答案 D
numpy是多维度数据处理第三方库。
5
1 分
以下选项不是Python Web信息提取方向第三方库的是:
A Python-Goose
B Beautiful Soup
C Re
D wxPython
正确答案 D
wxPython是GUI第三方库。
6
1 分
以下选项不是Python数据可视化方向第三方库的是:
A Pyramid
B Seaborn
C Matplotlib
D Mayavi
正确答案 A
Pyramid是Web开发框架库。
7
1 分
以下选项不是Python网络爬虫方向第三方库的是:
A Python-Goose
B Scrapy
C pyspider
D Requests
正确答案 A
Python-Goose是Web提取第三方库。
8
1 分
以下选项不是Python文本处理方向第三方库的是:
A NLTK
B pyovr
C python-docx
D PyPDF2
正确答案 B
pyovr是增强现实开发库。
9
1 分
以下选项不是Python数据分析方向第三方库是:
A Pandas
B Scrapy
C Numpy
D SciPy
正确答案 B
Scrapy是网络爬虫库
10
1 分
以下选项不是Python网站开发框架方向第三方库的是:
A redis-py
B Flask
C Pyramid
D Django
正确答案 A
redis-py是redis数据的Python访问接口。
程序设计题
1
系统基本信息获取
描述
获取系统的递归深度、当前执行文件路径、系统最大UNICODE编码值等3个信息,并打印输出。
输出格式如下:
RECLIMIT:<深度>, EXEPATH:<文件路径>, UNICODE:<最大编码值>
提示:请在sys标准库中寻找上述功能。
#作业第一题参考答案
import sys
a = sys.getrecursionlimit()
print("RECLIMIT:{}, EXEPATH:{}, UNICODE:{}"\
.format(a,sys.executable,sys.maxunicode))
2
二维数据表格输出
描述
tabulate能够对二维数据进行表格输出,是Python优秀的第三方计算生态。
参考编程模板中给定的数据和代码,编写程序,能够输出如下风格效果的表格数据。
#作业第二题参考答案
data = [ ["北京理工大学", "985", 2000], \
["清华大学", "985", 3000], \
["大连理工大学", "985", 4000], \
["深圳大学", "211", 2000], \
["沈阳大学", "省本", 2000], \
]
import tabulate
from tabulate import tabulate
head = []
print(tabulate(data, tablefmt='grid'))
第十周期末测试
1
无空隙回声输出
描述
获得用户输入,去掉其中全部空格,将其他字符按收入顺序打印输出。
#期末测试第一题
s=input()
for i in s:
t = i.replace(" ", "")
print(t,end="")
2
文件关键行数
描述
关键行指一个文件中包含的不重复行。关键行数指一个文件中包含的不重复行的数量。
统计附件文件中与关键行的数量。
#期末测试第二题
f = open("latex.log","r").readlines()
c = len(set(f))
print("共"+str(c)+"关键行")
3
字典翻转输出
描述
读入一个字典类型的字符串,反转其中键值对输出。
即,读入字典key:value模式,输出value:key模式。
#期末测试第三题
d = eval(input())
if type(d) != dict:
print('输入错误')
else:
s = {}
for k in d:
s[d[k]] = k #双重逻辑
print(s)
4
《沉默的羔羊》之最多单词
描述
附件是《沉默的羔羊》中文版内容,请读入内容,分词后输出长度大于2且最多的单词。
如果存在多个单词出现频率一致,请输出按照Unicode排序后最大的单词。
#期末测试第四题
import jieba
txt=open("沉默的羔羊.txt","r",encoding="utf-8").read()
words=jieba.lcut(txt)
counts={}
for word in words:
if len(word)==1:
continue
else:
counts[word]=counts.get(word,0)+1
items=list(counts.items())
items.sort(key=lambda x:x[1],reverse=True)
for i in range(1):
word,count=items[i]
print("{0}".format(word))