4.1 高阶函数
""" 函数式编程 """
'''
函数是Python内建支持的一种封装,我们通过把大段代码拆成函数,通过一层一层的函数调用,
就可以把复杂任务分解成简单的任务,这种分解可以称之为面向过程的程序设计。函数就是面向
过程的程序设计的基本单元。
而函数式编程(请注意多了一个“式”字)——Functional Programming,虽然也可以归结到面向
过程的程序设计,但其思想更接近数学计算。
我们首先要搞明白计算机(Computer)和计算(Compute)的概念。
在计算机的层次上,CPU执行的是加减乘除的指令代码,以及各种条件判断和跳转指令,所以,
汇编语言是最贴近计算机的语言。
而计算则指数学意义上的计算,越是抽象的计算,离计算机硬件越远。
对应到编程语言,就是越低级的语言,越贴近计算机,抽象程度低,执行效率高,比如C语言;
越高级的语言,越贴近计算,抽象程度高,执行效率低,比如Lisp语言。
函数式编程就是一种抽象程度很高的编程范式,纯粹的函数式编程语言编写的函数没有变量,
因此,任意一个函数,只要输入是确定的,输出就是确定的,这种纯函数我们称之为没有副作用。
而允许使用变量的程序设计语言,由于函数内部的变量状态不确定,同样的输入,可能得到不同
的输出,因此,这种函数是有副作用的。
函数式编程的一个特点就是,允许把函数本身作为参数传入另一个函数,还允许返回一个函数!
Python对函数式编程提供部分支持。由于Python允许使用变量,因此,Python不是纯函数式编程语言。
'''
'''高阶函数'''
'''
高阶函数英文叫Higher-order function。什么是高阶函数?我们以实际代码为例子,一步一步深入概念。
'''
'''
变量可以指向函数
以Python内置的求绝对值的函数abs()为例,调用该函数用以下代码:
'''
print(abs(-10))
print(abs)
x = abs(-10)
print(x)
f = abs
print(f)
'''
结论:函数本身也可以赋值给变量,即:变量可以指向函数。
如果一个变量指向了一个函数,那么,可否通过该变量来调用这个函数?用代码验证一下:
'''
print(f(-10))
'''
成功!说明变量f现在已经指向了abs函数本身。直接调用abs()函数和调用变量f()完全相同。
'''
'''
函数名也是变量
那么函数名是什么呢?函数名其实就是指向函数的变量!对于abs()这个函数,完全可以把函数名
abs看成变量,它指向一个可以计算绝对值的函数!
如果把abs指向其他对象,会有什么情况发生?
'''
'''
把abs指向10后,就无法通过abs(-10)调用该函数了!因为abs这个变量已经不指向求绝对值函数
而是指向一个整数10!
当然实际代码绝对不能这么写,这里是为了说明函数名也是变量。
要恢复abs函数,请重启Python交互环境。
注:由于abs函数实际上是定义在import builtins模块中的,所以要让修改abs变量的指向在
其它模块也生效,要用import builtins; builtins.abs = 10。
'''
'''
传入函数
既然变量可以指向函数,函数的参数能接收变量,那么一个函数就可以接收另一个函数作为参数
,这种函数就称之为高阶函数。
一个最简单的高阶函数:
'''
def add(x,y,f):
return f(x) + f(y)
'''
当我们调用add(-5, 6, abs)时,参数x,y和f分别接收-5,6和abs,根据函数定义,
我们可以推导计算过程为:
x = -5
y = 6
f = abs
f(x) + f(y) ==> abs(-5) + abs(6) ==> 11
return 11
'''
print(add(-5,-4,f))
'''
编写高阶函数,就是让函数的参数能够接收别的函数。
小结:
把函数作为参数传入,这样的函数称为高阶函数,函数式编程就是指这种高度抽象的编程范式。
'''
4.1.1 map/reduce函数
'''
map/reduce
Python内建了map()和reduce()函数。
如果你读过Google的那篇大名鼎鼎的论文“MapReduce: Simplified Data Processing on Large
Clusters”,你就能大概明白map/reduce的概念。
我们先看map。map()函数接收两个参数,一个是函数,一个是Iterable,map将传入的函数依次作
用到序列的每个元素,并把结果作为新的Iterator返回。
举例说明,比如我们有一个函数f(x)=x2,要把这个函数作用在一个list [1, 2, 3, 4, 5, 6, 7, 8, 9]上,
就可以用map()实现如下:
f(x) = x * x
│
│
┌───┬───┬───┬───┼───┬───┬───┬───┐
│ │ │ │ │ │ │ │ │
▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼
[ 1 2 3 4 5 6 7 8 9 ]
│ │ │ │ │ │ │ │ │
│ │ │ │ │ │ │ │ │
▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼ ▼
[ 1 4 9 16 25 36 49 64 81 ]
现在,我们用Python代码实现:
'''
def f(x):
return x * x
r = map(f,[1,2,3,4])
print(list(r))
'''
map()传入的第一个参数是f,即函数对象本身。由于结果r是一个Iterator,Iterator是
惰性序列,因此通过list()函数让它把整个序列都计算出来并返回一个list。
你可能会想,不需要map()函数,写一个循环,也可以计算出结果:
'''
L = []
for n in [1, 2, 3, 4, 5, 6, 7, 8, 9]:
L.append(f(n))
print(L)
'''
的确可以,但是,从上面的循环代码,能一眼看明白“把f(x)作用在list的每一个元素并把结果
生成一个新的list”吗?
所以,map()作为高阶函数,事实上它把运算规则抽象了,因此,我们不但可以计算简单的
f(x)=x2,还可以计算任意复杂的函数,比如,把这个list所有数字转为字符串:
'''
print(list(map(str,["1", "2", "3"])))
'''
再看reduce的用法。reduce把一个函数作用在一个序列[x1, x2, x3, ...]上,这个函数必须
接收两个参数,reduce把结果继续和序列的下一个元素做累积计算,其效果就是:
比方说对一个序列求和,就可以用reduce实现:
'''
from functools import reduce
def add(x,y):
return x + y
print(reduce(add,[1,3,5,7]))
'''
这个例子本身没多大用处,但是,如果考虑到字符串str也是一个序列,对上面的例子稍加改动,
配合map(),我们就可以写出把str转换为int的函数:
'''
def fn(x,y):
return 10 * x + y
def char2num(s):
digits = {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9}
return digits[s]
print(reduce(fn,map(char2num,"12345")))
from functools import reduce
DIGITS = {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9}
def str2int(s):
def fn(x, y):
return x * 10 + y
def char2num(s):
return DIGITS[s]
return reduce(fn, map(char2num, s))
print(str2int("1111"))
from functools import reduce
DIGITS = {'0': 0, '1': 1, '2': 2, '3': 3, '4': 4, '5': 5, '6': 6, '7': 7, '8': 8, '9': 9}
def char2num(s):
return DIGITS[s]
def str2int(s):
return reduce(lambda x, y: x * 10 + y, map(char2num, s))
'''
也就是说,假设Python没有提供int()函数,你完全可以自己写一个把字符串转化为整数的函数,
而且只需要几行代码!
lambda函数的用法在后面介绍。
'''
'''
练习
利用map()函数,把用户输入的不规范的英文名字,变为首字母大写,其他小写的规范名字。
输入:['adam', 'LISA', 'barT'],输出:['Adam', 'Lisa', 'Bart']:
'''
def normalize(name):
return name[:1].upper()+name[1:].lower()
L1 = ['adam', 'LISA', 'barT']
L2 = list(map(normalize, L1))
print(L2)
4.1.2 filter函数
'''filter函数'''
'''
Python内建的filter()函数用于过滤序列。
和map()类似,filter()也接收一个函数和一个序列。和map()不同的是,filter()把传入的
函数依次作用于每个元素,然后根据返回值是True还是False决定保留还是丢弃该元素。
例如,在一个list中,删掉偶数,只保留奇数,可以这么写:
'''
def is_odd(n):
return n % 2 == 1
print(list(filter(is_odd,[1,2,3,4,5])))
def not_empty(s):
return s and s.strip()
print(list(filter(not_empty,["A", "", "B",None, " "])))
'''
可见用filter()这个高阶函数,关键在于正确实现一个“筛选”函数。
注意到filter()函数返回的是一个Iterator,也就是一个惰性序列,所以要强迫filter()完成
计算结果,需要用list()函数获得所有结果并返回list。
'''
'''
用filter求素数
计算素数的一个方法是埃氏筛法,它的算法理解起来非常简单:
首先,列出从2开始的所有自然数,构造一个序列:
2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, ...
取序列的第一个数2,它一定是素数,然后用2把序列的2的倍数筛掉:
3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, ...
取新序列的第一个数3,它一定是素数,然后用3把序列的3的倍数筛掉:
5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, ...
取新序列的第一个数5,然后用5把序列的5的倍数筛掉:
7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, ...
不断筛下去,就可以得到所有的素数。
用Python来实现这个算法,可以先构造一个从3开始的奇数序列:
'''
def _odd_iter():
n = 1
while True:
n = n + 2
yield n
def _not_divisible(n):
return lambda x: x % n > 0
def primes():
yield 2
it = _odd_iter()
while True:
n = next(it)
yield n
it = filter(_not_divisible(n), it)
for n in primes():
if n < 1000:
print(n)
else:
break
'''
练习
回数是指从左向右读和从右向左读都是一样的数,例如12321,909。请利用filter()筛选出回数:
'''
def is_palindrome(n):
a = str(n)
b = a[::-1]
if a == b:
return True
return False
output = filter(is_palindrome, range(1, 1000))
print('1~1000:', list(output))
if list(filter(is_palindrome, range(1, 200))) == [1, 2, 3, 4, 5, 6, 7, 8, 9, 11,
22, 33, 44, 55, 66, 77, 88, 99, 101, 111, 121, 131, 141, 151, 161, 171, 181, 191]:
print('测试成功!')
else:
print('测试失败!')
'''
小结
filter()的作用是从一个序列中筛出符合条件的元素。由于filter()使用了惰性计算,所以
只有在取filter()结果的时候,才会真正筛选并每次返回下一个筛出的元素。
'''
4.1.3 sort函数
'''sorted'''
'''
排序算法
排序也是在程序中经常用到的算法。无论使用冒泡排序还是快速排序,排序的核心是比较两个元素的大小。
如果是数字,我们可以直接比较,但如果是字符串或者两个dict呢?直接比较数学上的大小是没有意义
的,
因此,比较的过程必须通过函数抽象出来。
Python内置的sorted()函数就可以对list进行排序:
'''
print(sorted([34,12,3,5,4]))
L = [34,-12,3,5,4]
L = sorted(L,key = abs)
print(L)
'''
key指定的函数将作用于list的每一个元素上,并根据key函数返回的结果进行排序。
对比原始的list和经过key=abs处理过的list:
list = [36, 5, -12, 9, -21]
keys = [36, 5, 12, 9, 21]
然后sorted()函数按照keys进行排序,并按照对应关系返回list相应的元素:
keys排序结果 => [5, 9, 12, 21, 36]
| | | | |
最终结果 => [5, 9, -12, -21, 36]
我们再看一个字符串排序的例子:
'''
print(sorted(['bob', 'about', 'Zoo', 'Credit']))
'''
默认情况下,对字符串排序,是按照ASCII的大小比较的,由于'Z' < 'a',
结果,大写字母Z会排在小写字母a的前面。
现在,我们提出排序应该忽略大小写,按照字母序排序。要实现这个算法,不必对现有代码大
加改动,只要我们能用一个key函数把字符串映射为忽略大小写排序即可。
忽略大小写来比较两个字符串,实际上就是先把字符串都变成大写(或者都变成小写),再比较。
这样,我们给sorted传入key函数,即可实现忽略大小写的排序:
'''
print(sorted(['bob', 'about', 'Zoo', 'Credit'],key = str.lower))
'''
要进行反向排序,不必改动key函数,可以传入第三个参数reverse=True:
'''
print( sorted(['bob', 'about', 'Zoo', 'Credit'], key=str.lower, reverse=True))
'''
从上述例子可以看出,高阶函数的抽象能力是非常强大的,而且,核心代码可以保持得非常简洁。
小结
sorted()也是一个高阶函数。用sorted()排序的关键在于实现一个映射函
'''
'''
练习
假设我们用一组tuple表示学生名字和成绩:
请用sorted()对上述列表分别按名字排序:
'''
L = [('Bob', 75), ('Adam', 92), ('Bart', 66), ('Lisa', 88)]
def by_name(t):
return t[0]
def by_score(t):
return t[1]
L1 = sorted(L,key = by_name)
L2 = sorted(L,key = by_score)
print(L1)
print(L2)
4.2 返回函数
'''返回函数'''
'''
函数作为返回值
高阶函数除了可以接受函数作为参数外,还可以把函数作为结果值返回。
我们来实现一个可变参数的求和。
通常情况下,求和的函数是这样定义的:
'''
def calc_sum(*args):
ax = 0
for n in args:
ax = ax + n
return ax
'''
但是,如果不需要立刻求和,而是在后面的代码中,根据需要再计算怎么办?
可以不返回求和的结果,而是返回求和的函数:
'''
def lazy_sum(*args):
def sum():
ax = 0
for i in args:
ax = ax + i
return ax
return sum
f = lazy_sum(1, 3, 5)
print(f)
print(f())
'''
在这个例子中,我们在函数lazy_sum中又定义了函数sum,并且,内部函数sum可以引用外部
函数lazy_sum的参数和局部变量,当lazy_sum返回函数sum时,相关参数和变量都保存在返回
的函数中,这种称为“闭包(Closure)”的程序结构拥有极大的威力。
请再注意一点,当我们调用lazy_sum()时,每次调用都会返回一个新的函数,即使传入相同的参数:
'''
f1 = lazy_sum(1,2,3)
f2 = lazy_sum(1,2,3)
print(f1 == f2)
'''
闭包
注意到返回的函数在其定义内部引用了局部变量args,所以,当一个函数返回了一个函数后,
其内部的局部变量还被新函数引用,所以,闭包用起来简单,实现起来可不容易。
另一个需要注意的问题是,返回的函数并没有立刻执行,而是直到调用了f()才执行。
我们来看一个例子:
'''
def count():
fs = []
for i in range(1, 4):
def f():
return i*i
fs.append(f)
return fs
f1, f2, f3 = count()
'''
在上面的例子中,每次循环,都创建了一个新的函数,然后,把创建的3个函数都返回了。
你可能认为调用f1(),f2()和f3()结果应该是1,4,9,但实际结果是:9 9 9
'''
print(f1(),f2(),f3())
'''
返回闭包时牢记一点:返回函数不要引用任何循环变量,或者后续会发生变化的变量。
如果一定要引用循环变量怎么办?方法是再创建一个函数,用该函数的参数绑定循环变量当前
的值,无论该循环变量后续如何更改,已绑定到函数参数的值不变:
'''
def count():
def f(j):
def g():
return j*j
return g
fs = []
for i in range(1, 4):
fs.append(f(i))
return fs
f1, f2, f3 = count()
print(f1(),f2(),f3())
'''
练习
利用闭包返回一个计数器函数,每次调用它返回递增整数:
'''
def createCounter():
s = 0
def counter():
nonlocal s
s = s + 1
return s
return counter
counterA = createCounter()
print(counterA(), counterA(), counterA(), counterA(), counterA())
counterB = createCounter()
if [counterB(), counterB(), counterB(), counterB()] == [1, 2, 3, 4]:
print('测试通过!')
else:
print('测试失败!')
'''
小结
一个函数可以返回一个计算结果,也可以返回一个函数。
返回一个函数时,牢记该函数并未执行,返回函数中不要引用任何可能会变化的变量。
'''
4.3 匿名函数
'''匿名函数'''
'''
当我们在传入函数时,有些时候,不需要显式地定义函数,直接传入匿名函数更方便。
在Python中,对匿名函数提供了有限支持。还是以map()函数为例,计算f(x)=x2时,
除了定义一个f(x)的函数外,还可以直接传入匿名函数:
'''
L = list(map(lambda x: x*x,[1,2,3,4]))
print(L)
'''
通过对比可以看出,匿名函数lambda x: x * x实际上就是:
def f(x):
return x * x
'''
'''
关键字lambda表示匿名函数,冒号前面的x表示函数参数。
匿名函数有个限制,就是只能有一个表达式,不用写return,返回值就是该表达式的结果。
用匿名函数有个好处,因为函数没有名字,不必担心函数名冲突。此外,匿名函数也是一个函数对象,
也可以把匿名函数赋值给一个变量,再利用变量来调用该函数:
'''
f = lambda x: x * x
print(f)
print(f(3))
def build(x,y):
return lambda: x*x + y*y
print(build(3,5))
print(build(3,5)())
'''
练习
请用匿名函数改造下面的代码:
def is_odd(n):
return n % 2 == 1
L = list(filter(is_odd, range(1, 20)))
'''
L = list(filter(lambda n: n % 2 == 1, range(1,20)))
print(L)
'''
小结
Python对匿名函数的支持有限,只有一些简单的情况下可以使用匿名函数。
'''
4.4 装饰器
'''装饰器'''
'''
由于函数也是一个对象,而且函数对象可以被赋值给变量,所以,通过变量也能调用该函数。
'''
def now():
print("2019-10-20")
f = now
f()
print(now.__name__)
print(f.__name__)
'''
现在,假设我们要增强now()函数的功能,比如,在函数调用前后自动打印日志,但又不希望
修改now()函数的定义,这种在代码运行期间动态增加功能的方式,称之为“装饰器”(Decorator)。
本质上,decorator就是一个返回函数的高阶函数。
所以,我们要定义一个能打印日志的decorator,可以定义如下:
'''
def log(func):
def wrapper(*args, **kw):
print('call %s():' % func.__name__)
return func(*args, **kw)
return wrapper
'''
观察上面的log,因为它是一个decorator,所以接受一个函数作为参数,并返回一个函数。
我们要借助Python的@语法,把decorator置于函数的定义处:
'''
@log
def now():
print('2015-3-25')
now()
'''
把@log放到now()函数的定义处,相当于执行了语句:
now = log(now)
'''
'''
由于log()是一个decorator,返回一个函数,所以,原来的now()函数仍然存在,只是现在同名
的now变量指向了新的函数,于是调用now()将执行新函数,即在log()函数中返回的wrapper()函数。
如果decorator本身需要传入参数,那就需要编写一个返回decorator的高阶函数,
写出来会更复杂。比如,要自定义log的文本:
'''
def log(text):
def decorator(func):
def wrapper(*args, **kw):
print('%s %s():' % (text, func.__name__))
return func(*args, **kw)
return wrapper
return decorator
'''
这个3层嵌套的decorator用法如下:
'''
@log('execute')
def now():
print('2015-3-25')
now()
'''
执行结果如下:execute now():
2015-3-25
'''
'''
和两层嵌套的decorator相比,3层嵌套的效果是这样的:
now = log('execute')(now)
我们来剖析上面的语句,首先执行log('execute'),返回的是decorator函数,再调用返回的
函数,参数是now函数,返回值最终是wrapper函数。
以上两种decorator的定义都没有问题,但还差最后一步。因为我们讲了函数也是对象,
它有__name__等属性,但你去看经过decorator装饰之后的函数,它们的__name__已经从
原来的'now'变成了'wrapper':
'''
print(now.__name__)
'''
因为返回的那个wrapper()函数名字就是'wrapper',所以,需要把原始函数的__name__等属性
复制到wrapper()函数中,否则,有些依赖函数签名的代码执行就会出错。
不需要编写wrapper.__name__ = func.__name__这样的代码,
Python内置的functools.wraps就是干这个事的,所以,一个完整的decorator的写法如下:
'''
import functools
def log():
def decorator(func):
@functools.wraps(func)
def wrapper(*args, **kw):
print('call %s():' % func.__name__)
return func(*args, **kw)
return wrapper
return decorator
import functools
def log(text):
def decorator(func):
@functools.wraps(func)
def wrapper(*args, **kw):
print('%s %s():' % (text, func.__name__))
return func(*args, **kw)
return wrapper
return decorator
'''
import functools是导入functools模块。模块的概念稍候讲解。现在,只需记住在
定义wrapper()的前面加上@functools.wraps(func)即可。
'''
'''
练习
请设计一个decorator,它可作用于任何函数上,并打印该函数的执行时间:
'''
import time
def metric(fn):
@functools.wraps(fn)
def wrapper(*args, **kw):
start = time.time()
result = fn(*args, **kw)
end = time.time()
print('执行时长:', end - start)
print('执行结果:', result)
return result
return wrapper
@metric
def fast(x, y):
time.sleep(0.0012)
return x + y;
@metric
def slow(x, y, z):
time.sleep(0.1234)
return x * y * z;
f = fast(11, 22)
s = slow(11, 22, 33)
if f != 33:
print('测试失败!')
elif s != 7986:
print('测试失败!')
else:
print("测试成功!")
4.5 偏函数
'''
偏函数
Python的functools模块提供了很多有用的功能,其中一个就是偏函数(Partial function)。
要注意,这里的偏函数和数学意义上的偏函数不一样。
在介绍函数参数的时候,我们讲到,通过设定参数的默认值,可以降低函数调用的难度。
而偏函数也可以做到这一点。举例如下:
int()函数可以把字符串转换为整数,当仅传入字符串时,int()函数默认按十进制转换:
'''
print(int("123"))
print(int("123", base = 16))
def int2(x,base = 2):
return int(x,base)
print(int2("1000"))
import functools
int2 = functools.partial(int,base = 2)
print(int2("1111"))
'''
所以,简单总结functools.partial的作用就是,把一个函数的某些参数给固定住
(也就是设置默认值),返回一个新的函数,调用这个新函数会更简单。
注意到上面的新的int2函数,仅仅是把base参数重新设定默认值为2,
但也可以在函数调用时传入其他值:
'''
print(int("1234", 10))
'''
实际上固定了int()函数的关键字参数base,也就是:
int2('10010')
相当于:
kw = { 'base': 2 }
int('10010', **kw)
'''
max2 = functools.partial(max, 10)
print(max2(5, 6, 7))
'''
相当于:
args = (10, 5, 6, 7)
max(*args)
结果为10。
'''
'''
小结
当函数的参数个数太多,需要简化时,使用functools.partial可以创建一个新的函数,
这个新函数可以固定住原函数的部分参数,从而在调用时更简单。
'''