Python 进阶
- PEP8 编码规范, 及开发中的一些惯例和建议
- 练习: 规范化这段代码
from django.conf import settings
from user.models import *
import sys, os
mod=0xffffffff
def foo ( a , b = 123 ):
c={ ‘x’ : 111 , ‘y’ : 222 }#定义一个字典
d=[ 1 , 3,5 ]
return a,b , c
def bar(x):
if x%2==0 : return True - 为什么要有编码规范
- 编码是给人看的还是给机器看的?
- 美观是重点吗?
- 美观
- 可读性
- 可维护性
- 健壮性
- 团队内最好的代码状态: 所有人写出的代码像一个人写出来的
- 代码编排:
- 缩进 4 个空格, 禁止空格与 Tab 混用
- 行长 80 字符: 防止单行逻辑过于复杂
- import
- 不要使用 from xxx import *
- 0顺序
- 标准库
- 第三方库
- 自定义库
- 单行不要 import 多个库
- 模块内用不到的不要去 import
- 空格
- : , 后面跟一个空格, 前面无空格 (行尾分号后无空格)
- 二元操作符前后各一个空格, 包括以下几类:
- 数学运算符: + - * / // = & |
- 比较运算符: == != > < >= <= is not in
- 逻辑运算符: and or not
- 位运算符: & | ^ << >>
- 当 = 用于指示关键字参数或默认参数值时, 不要在其两侧使用空格
- 适当添加空行
- 函数间: 顶级函数间空 2 行, 类的方法之间空 1 行
- 函数内: 同一函数内的逻辑块之间, 空 1 行
- 文件结尾: 留一个空行 (Unix 中 \n 是文件的结束符)
- 注释
- 忌: 逐行添加注释, 没有一个注释
- 行尾注释: 单行逻辑过于复杂时添加
- 块注释: 一段逻辑开始时添加
- 引入外来算法或者配置时须在注释中添加源连接, 标明出处
- 函数、类、模块尽可能添加 docstring
- 命名
- 好的变量名要能做到“词能达意”
- 除非在 lambda 函数中, 否则不要用 单字母 的变量名 (即使是 lambda 函数中的变量名也应该尽可能的有意义)
- 包名、模块名、函数名、方法、普通变量名全部使用小写, 单词间用下划线连接
- 类名、异常名使用 CapWords (首字母大写) 的方式, 异常名结尾加 Error 或 Wraning 后缀
- 全局变量尽量使用大写, 一组同类型的全局变量要加上统一前缀, 单词用下划线连接
- 函数名必须有动词, 最好是 do_something 的句式, 或者 somebody_do_something 句式
- 语意明确、直白
- not xx in yy VS xx not in yy
- not a is b VS a is not b
- 程序的构建
- 函数是模块化思想的体现
- 独立的逻辑应该抽离成独立函数,让代码结构更清晰,可复用度更高
- 一个函数只做一件事情, 并把这件事做好
- 大的功能用小函数之间灵活组合来完成
- 避免编写庞大的程序, “大” 意味着体积庞大, 逻辑复杂甚至混乱
- 自定义的变量名、函数名不要与标准库中的名字冲突
- pip install pycodestyle pylint flake8 autopep8
-
- 和 ** 的用法
- 函数定义时接收不定长参数
def foo(*args, **kwargs):
pass - 参数传递
def foo(x, y, z, a, b):
print(x)
print(y)
print(z)
print(a)
print(b)
lst = [1, 2, 3]
dic = {‘a’: 22, ‘b’: 77}
foo(*lst, **dic) - import * 语法
- Python 的赋值和引用
-
==, is: == 判断的是值, is 判断的是内存地址 (即对象的id)
-
小整数对象: [-5, 256]
-
copy, deepcopy 的区别
- copy: 只拷贝表层元素
- deepcopy: 在内存中重新创建所有子元素
-
练习1: 说出执行结果
def extendList(val, lst=[]): lst.append(val) return lst list1 = extendList(10) list2 = extendList(123, []) list3 = extendList('a')
-
练习2: 说出下面执行结果
from copy import copy, deepcopy from pickle import dumps, loads a = ['x', 'y', 'z'] b = [a] * 3 c = copy(b) d = deepcopy(b) e = loads(dumps(b, 4)) b[1].append(999) b.append(777) c[1].append(999) c.append(555) d[1].append(999) d.append(333) e[1].append(999) e.append(111)
-
自定义 deepcopy: my_deepcopy = lambda item: loads(dumps(item, 4))
- 迭代器, 生成器
-
练习: 说出如下代码的打印结果
>>> def foo():
… print(111)
… yield 222
… print(333)
… yield 444
… print(555)>>> n = foo() >>> next(n) >>> next(n) >>> next(n)
-
generator: 生成器是一种特殊的迭代器, 不需要自定义 iter 和 next
-
生成器函数 (yield)
-
生成器表达式
class Range:
def init(self, start, end=None, step=1):
if end is None:
self.end = start
self.start = 0
else:
self.start = start
self.end = end
self.step = stepdef __iter__(self): return self def __next__(self): if self.start < self.end: current = self.start self.start += self.step return current else: raise StopIteration()
-
-
iterator: 任何实现了 iter 和 next 方法的对象都是迭代器.
- iter 得到一个迭代器。迭代器的__iter__()返回自身
- next 返回迭代器下一个值
- 如果容器中没有更多元素, 则抛出 StopIteration 异常
- Python2中没有 next(), 而是 next()
-
str / bytes / list / tuple / dict / set 自身不是迭代器,他们自身不具备 next(), 但是具有 iter(), iter() 方法用来把自身转换成一个迭代器
-
练习1: 定义一个随机数迭代器, 随机范围为 [1, 50], 最大迭代次数 30
import randomclass RandomIter: def __init__(self, start, end, times): self.start = start self.end = end self.count = times def __iter__(self): return self def __next__(self): self.count -= 1 if self.count >= 0: return random.randint(self.start, self.end) else: raise StopIteration()
-
练习2: 自定义一个迭代器, 实现斐波那契数列
class Fib:
def init(self, max_value):
self.prev = 0
self.curr = 1
self.max_value = max_valuedef __iter__(self): return self def __next__(self): if self.curr <= self.max_value: res = self.curr self.prev, self.curr = self.curr, self.prev + self.curr # 为下一次做准备 return res else: raise StopIteration()
-
练习3: 自定义一个生成器函数, 实现斐波那契数列
def fib(max_value):
prev = 0
curr = 1
while curr < max_value:
yield curr
prev, curr = curr, curr + prev -
迭代器、生成器有什么好处?
- 节省内存
- 惰性求值 (惰性求值思想来自于 Lisp 语言)
-
各种推导式
- 分三部分:生成值的表达式, 循环主体, 过滤条件表达式
- 列表: [i * 3 for i in range(5) if i % 2 == 0]
- 字典: {i: i + 3 for i in range(5)}
- 集合: {i for i in range(5)}
- 装饰器
-
最简装饰器
def deco(func):
def wrap(*args, **kwargs):
return func(*args, **kwargs)
return wrap@deco def foo(a, b): return a ** b
-
原理
-
对比被装饰前后的 foo.name 和 foo.doc
from functools import wrapsdef deco(func): '''i am deco''' @wraps(func) # 还原被装饰器修改的原函数属性 def wrap(*args, **kwargs): '''i am wrap''' return func(*args, **kwargs) return wrap
-
简单过程
fn = deco(func)
foo = fn
foo(*args, **kwargs) -
多个装饰器叠加调用的过程
@deco1
@deco2
@deco3
def foo(x, y):
return x ** y# 过程拆解 1 fn3 = deco3(foo) fn2 = deco2(fn3) fn1 = deco1(fn2) foo = fn1 foo(3, 4) # 过程拆解 2 # 单行: deco1( deco2( deco3(foo) ) )(3, 2) deco1( deco2( deco3(foo) ) )(3, 4)
-
-
带参数的装饰器
def deco(n):
def wrap1(func):
def wrap2(*args, **kwargs):
return func(*args, **kwargs)
return wrap2
return wrap1# 调用过程 wrap1 = deco(n) wrap2 = wrap1(foo) foo = wrap2 foo() # 单行形式 check_result(30)(foo)(4, 8)
-
装饰器类和 call
class Deco:
def init(self, func):
self.func = funcdef __call__(self, *args, **kwargs): return self.func(*args, **kwargs) @Deco def foo(x, y): return x ** y # 过程拆解 fn = Deco(foo) foo = fn foo(12, 34)
-
使用场景
- 参数、结果检查
- 缓存、计数
- 日志、统计
- 权限管理
- 重试
- 其他
-
练习1: 写一个 timer 装饰器, 计算出被装饰函数调用一次花多长时间, 并把时间打印出来
import time
from functools import wrapsdef timer(func): @wraps(func) # 修正 docstring def wrap(*args, **kwargs): time0 = time.time() result = func(*args, **kwargs) time1 = time.time() print(time1 - time0) return result return wrap
-
练习2: 写一个 Retry 装饰器
import timeclass retry(object): def __init__(self, max_retries=3, wait=0, exceptions=(Exception,)): self.max_retries = max_retries self.exceptions = exceptions self.wait = wait def __call__(self, func): def wrapper(*args, **kwargs): for i in range(self.max_retries + 1): try: result = func(*args, **kwargs) except self.exceptions: time.sleep(self.wait) continue else: return result return wrapper
- 函数闭包
-
Function Closure: 引用了自由变量的函数即是一个闭包. 这个被引用的自由变量和这个函数一同存在, 即使已经离开了创造它的环境也不例外.
-
说出下面函数返回值
def foo():
l = []
def bar(i):
l.append(i)
return l
return barf1 = foo() f2 = foo() # 说出下列语句执行结果 f1(1) f1(2) f2(3)
-
深入一点: object.closure
-
作用域
┌───────────────────────────┐
│ built-in namespace │
├───────────────────────────┤ ↑
│ global namespace │
│ ┌───────────────────────┤
│ │ local namespace │ n = 123
│ │ ┌───────────────────┤
│ │ │ local namespace │ ↑
│ │ │ ┌───────────────┤
│ │ │ │ … │ print(n)
└───┴───┴───┴───────────────┘- 声明全局变量: global
- 声明非本层的 局部变量 : nonlocal
- 查看全局变量: globals()
- 查看局部变量: locals()
- 查看变量: vars([object]) # 不传参数相当于 locals(), 传入对象后, 会得到 object.dict
- 类方法和静态方法
-
method
- 通过实例调用
- 可以引用类内部的任何属性和方法
-
classmethod
- 无需实例化
- 可以调用类属性和类方法
- 无法取到普通的成员属性和方法
-
staticmethod
- 无需实例化
- 无法取到类内部的任何属性和方法, 完全独立的一个方法
-
练习: 说出下面代码的运行结果
class Test(object):
x = 123def __init__(self): self.y = 456 def bar1(self): print('i am a method') @classmethod def bar2(cls): print('i am a classmethod') @staticmethod def bar3(): print('i am a staticmethod') def foo1(self): print(self.x) print(self.y) self.bar1() self.bar2() self.bar3() @classmethod def foo2(cls): print(cls.x) print(cls.y) cls.bar1() cls.bar2() cls.bar3() @staticmethod def foo3(obj): print(obj.x) print(obj.y) obj.bar1() obj.bar2() obj.bar3() t = Test() t.foo1() t.foo2() t.foo3()
- 继承相关问题
-
什么是多态
class Animal:
def run(self):
print(‘animal running’)class Lion(Animal): def run(self): print('lion running') class Tiger(Animal): def run(self): print('tiger running') class LeoTiger(Lion, Tiger): pass cub = LeoTiger() isinstance(cub, Lion) isinstance(cub, Tiger)
-
多继承
- 方法和属性的继承顺序: Cls.mro()
- 菱形继承问题
继承关系示意
菱形继承
A.foo()
/
B C.foo()
\ /
D.mro() # 方法的继承顺序,由 C3 算法得到
-
Mixin: 通过单纯的 mixin 类完成功能组合
-
super
class A:
def init(self):
print(‘enter A’)
self.x = 111
print(‘exit A’)class B(A): def __init__(self): print('enter B') self.y = 222 A.__init__(self) # super().__init__() print('exit B') class C(A): def __init__(self): print('enter C') self.z = 333 A.__init__(self) # super().__init__() print('exit C') class D(B, C): def __init__(self): print('enter D') B.__init__(self) C.__init__(self) # super().__init__() print('exit D') d = D()
- 垃圾收集 (GC)
-
Garbage Collection (GC)
-
引用计数
-
优点: 简单、实时性高
-
==>
-
缺点: 消耗资源、循环引用
lst1 = [3, 4] # lst1->ref_count 1
lst2 = [8, 9] # lst2->ref_count 1# lst1 -> [3, 4, lst2] lst1.append(lst2) # lst2->ref_count 2 # lst2 -> [8, 9, lst1] lst2.append(lst1) # lst1->ref_count 2 del lst1 # lst1->ref_count 1 del lst2 # lst2->ref_count 1
-
-
标记-清除, 分代收集
- 用来回收引用计数无法清除的内存
-
Python 魔术方法
-
str 格式化输出对象
-
init 和 new
- new 创建一个实例,并返回类的实例
- init 初始化实例,无返回值
- new 是一个类方法
- 单例模式
class A(object):
‘’‘单例模式’’’
obj = None
def new(cls, *args, **kwargs):
if cls.obj is None:
cls.obj = object.new(cls)
return cls.obj
- 单例模式
-
数学运算、比较运算
- 运算符重载
- +: add(value)
- -: sub(value)
- *: mul(value)
- /: truediv(value) (Python 3.x), div(value) (Python 2.x)
- //: floordiv(value)
- %: mod(value)
- &: and(value)
- |: or(value)
- 练习: 实现字典的 add 方法, 作用相当于 d.update(other)
class Dict(dict):
def add(self, other):
if isinstance(other, dict):
new_dict = {}
new_dict.update(self)
new_dict.update(other)
return new_dict
else:
raise TypeError(‘not a dict’) - 比较运算符的重载
- ==: eq(value)
- !=: ne(value)
-
: gt(value)
-
=: ge(value)
- <: lt(value)
- <=: le(value)
- 练习: 完成一个类, 实现数学上无穷大的概念
class Inf:
def lt(self, other):
return False
def le(self, other):
return False
def ge(self, other):
return True
def gt(self, other):
return True
def eq(self, other):
return False
def ne(self, other):
return True
- 运算符重载
-
容器方法
- len -> len
- iter -> for
- contains -> in
- getitem 对 string, bytes, list, tuple, dict 有效
- setitem 对 list, dict 有效
-
可执行对象: call
-
上下文管理 with:
-
enter 进入 with 代码块前的准备操作
-
exit 退出时的善后操作
-
文件对象、线程锁、socket 对象 等 都可以使用 with 操作
-
示例
class A:
def enter(self):
return selfdef __exit__(self, Error, error, traceback): print(args)
-
-
setattr, getattribute, getattr, dict
-
内建函数:setattr(), getattr(), hasattr()
-
常用来做属性监听
class User:
‘’‘TestClass’’’
z = [7,8,9]
def init(self):
self.money = 10000
self.y = ‘abc’def __setattr__(self, name, value): if name == 'money' and value < 0: raise ValueError('money < 0') print('set %s to %s' % (name, value)) object.__setattr__(self, name, value) def __getattribute__(self, name): print('get %s' % name) return object.__getattribute__(self, name) def __getattr__(self, name): print('not has %s' % name) return -1 def foo(self, x, y): return x ** y # 对比 a = A() print(A.__dict__) print(a.__dict__)
-
-
槽: slots
- 固定类所具有的属性
- 实例不会分配 dict
- 实例无法动态添加属性
- 优化内存分配
class A:
slots = (‘x’, ‘y’)
-
Python 性能之困
-
计算密集型
- CPU 长时间满负荷运行, 如图像处理、大数据运算、圆周率计算等
- 计算密集型: 用 C 语言补充
- cProfile, timeit
-
I/O 密集型
- 网络 IO, 文件 IO, 设备 IO 等
- 一切皆文件
-
多任务处理
- 进程、线程、协程调度的过程叫做上下文切换
- 进程、线程、协程对比
名称 资源占用 数据通信 上下文切换 (Context)
进程 大 不方便 (网络、共享内存、管道等) 操作系统按时间片切换, 不够灵活, 慢
线程 小 非常方便 按时间片切换, 不够灵活, 快
协程 非常小 非常方便 根据I/O事件切换, 更加有效的利用 CPU
-
全局解释器锁 ( GIL )
- 它确保任何时候一个进程中都只有一个 Python 线程能进入 CPU 执行。
- 全局解释器锁造成单个进程无法使用多个 CPU 核心
- 通过多进程来利用多个 CPU 核心,一般进程数与CPU核心数相等,或者CPU核心数两倍
-
什么是同步、异步、阻塞、非阻塞?
- 同步, 异步: 客户端调用服务器接口时
- 阻塞, 非阻塞: 服务端发生等待
- 阻塞 -> 非阻塞
- 同步 -> 异步
-
协程:Stackless / greenlets / gevent | tornado / asyncio
import asyncioasync def foo(n): for i in range(10): print('wait %s s' % n) await asyncio.sleep(n) return i task1 = foo(1) task2 = foo(1.5) tasks = [asyncio.ensure_future(task1), asyncio.ensure_future(task2)] loop = asyncio.get_event_loop() # 事件循环,协程调度器 loop.run_until_complete( asyncio.wait(tasks) )
-
线程安全, 锁
- 获得锁之后, 一定要释放, 避免死锁
- 尽量使用 with 去操作锁
- 获得锁之后, 执行的语句, 只跟被锁资源有关
- 线程之间的数据交互尽量使用 Queue
-
一些技巧和误区
-
格式化打印 json
- 调试时数据格式化:json.dumps(data, indent=4, sort_keys=True, ensure_ascii=False)
- 传输时 json 压缩: json.dumps(data, ensure_ascii=False, separators=[’,’,’:’])
-
确保能取到有效值
- d.get(k, default) 无值时使用默认值,对原字典无修改
- d.setdefault 无值时使用默认值,并将默认值写入原字典
- x = a if foo() else b
- a or b
-
try…except… 的滥用
- 不要把所有东西全都包住, 程序错误需要报出来
- 使用 try…except 要指明具体错误, try 结构不是用来隐藏错误的, 而是用来有方向的处理错误的
-
利用 dict 做模式匹配
def do1():
print(‘i am do1’)def do2(): print('i am do2') def do3(): print('i am do3') def do4(): print('i am do4') mapping = {1: do1, 2: do2, 3: do3, 4: do4} mod = random.randint(1, 10) func = mapping.get(mod, do4) func()
-
inf, -inf, nan
-
字符串拼接尽量使用 join 方式: 速度快, 内存消耗小
-
property: 把一个方法属性化
class C(object):
@property
def x(self):
“I am the ‘x’ property.”
return self._x -
else 子句: if, for, while, try