day11-高阶函数和装饰器

day11-高阶函数和装饰器

实参高阶函数

参数是函数的函数就是实参高阶函数

def func4(f):
    # f=func1
    print(f(10, 20) * 2)   # print(func1(10, 20)*2)


def func1(*nums):
    return [1, 2]


func4(func1)

系统实参高阶函数的应用

max/min

普通用法:max/min(序列) - 求序列中元素的最大/小值(序列中元素的类型必须一致,而且元素必须支持比较运算)

实参高阶函数:

max/min(序列,key=函数) - 通过函数来定制求最大值的方式

序列 - 需要获取某种最大值/最小值对应的序列

函数 - 又且只有一个参数(指向/代表序列每一个元素);有一个返回值(求最大值的时候的比较对象)

nums = [93, 45, 67, 122]
# 求最大的元素
print(max(nums))


# 求个位数最大的元素
result = max(nums, key=lambda item: item % 10)
print(result)   # 67

# 求十位数最大的元素
result = max(nums, key=lambda item: item // 10 % 10)
print(result)
sorted

用法一:sorted(序列) - 将序列中的元素按照元素的大小从小到大排序

用法二:

sorted(序列,key=函数)

函数 - 有且只有一个参数(指向/代表序列中的每个元素);有一个返回值(比较返回值的大小进行排序的;返回值就是排序标准)

nums = [115, 34, 62, 89, 102]

# a.按序列元素大小排序
result = sorted(nums, key=lambda item: item)
print(result)    # [34, 62, 89, 102]

# b.按照序列元素的个位数的大小排序
result = sorted(nums, key=lambda item: item % 10)
print(result)

map

用法一:

map(函数,序列) - 通过原序列中元素进行指定的变换后产生一个新的序列(返回的是map对象,本质是序列)

函数 - 有且只有一个参数(指向/代表后面的序列中的元素);有一个返回值(新序列中的元素)

用法二:

map(函数,序列1,序列2) - 产生一个新的序列,序列中的元素是序列1和序列2中元素通过指定的变换产生的

函数 - 有且只有两个参数(这个两个参数分别指向序列1中的元素和序列2中的元素)

​ 有一个返回值(新序列中的元素)

# 产生一个新的列表,列表中是nums中元素的平方
nums = [1, 2, 3, 4]
result = list(map(lambda item: item**2, nums))
print(result)   # [1, 4, 9, 16]

# 产生一个新的列表,列表中的元素是seq1中加上seq2中的元素
seq1 = (1, 2, 3, 4)
seq2 = [5, 6, 7, 8]
result = list(map(lambda item1, item2: item1+item2, seq1, seq2))
print(result)   # [6, 8, 10, 12]

补充:eval函数的用法

eval(序列字符串) - 将满足规范格式的序列的字符串转换成序列

dict1 = {'name': 'stu7', 'age': 16, 'score': 100, 'sex': '女'}
dict1_str = str(dict1)   # "{'name': 'stu7', 'age': 16, 'score': 100, 'sex': '女'}"
dict2 = eval(dict1_str)
print(dict2, type(dict2))   # {'name': 'stu7', 'age': 16, 'score': 100, 'sex': '女'} <class 'dict'>

list_str = "[1, 2, 3, 4]"
list1 = eval(list_str)
print(list1, type(list1))    # [1, 2, 3, 4] <class 'list'>

reduce

使用之前需要从functools模块导入

用法一:

reduce(函数,序列) - 将序列中的元素通过指定的规则合并成一个数据

函数 - 有且只有两个参数, 第一个参数第一次调用的时候指向序列中的第一个元素,从第二次开始都是指向上一次运算的结果;

​ 返回值是每一次合并的结果(用来定制合并规则的)

用法二:

reduce(函数,序列,初始值)

函数:

第一个参数:第一次指向初始值;从第二次开始参数指向上次合并的结果

第二个参数:指向序列中所有的元素

返回值:每一次合并的结果(用来定制合并规则的)

# ==============用法一(了解)=================
nums = [10, 11, 12, 13, 14]


def func1(x, y):
    print(f'x:{x}, y:{y}')
    return x+y

"""
第一次: x=10; y=11; x=x+y, 
第二次: x=21; y=12; x=x+y
第三次:  x=33; y=13; x=x+y
第四次: x=46; y=14;   x=x+y 
...
"""
result = reduce(func1, nums)
print(result)
# ==============用法二(掌握)=================
nums = [10, 11, 12, 13, 14]


def func2(x, y):
    print(f'x:{x}, y:{y}')
    return x+y


result = reduce(func2, nums, 0)
print(result)

装饰器

装饰器是一种专门用来给其他的函数添加功能的函数

给函数添加统计指向时间的功能

方式一:直接在需要添加功能的函数中添加新功能对应的代码(缺点:同样的功能的代码可能需要写多遍)

def func1():
    start = time.time()
    print('hello world!')
    end = time.time()
    print('执行时间:', end-start)


def func2(x, y):
    start = time.time()
    z = x+y
    print('和:', z)
    end = time.time()
    print('执行时间:', end-start)


func1()
func2(10, 20)

方式二:定义一个实参高阶函数来给指定函数添加功能(缺点:主次颠倒)

def count_time(func, *args, **kwargs):
    start = time.time()
    # 执行原函数的功能
    func(*args, **kwargs)
    end = time.time()
    print('执行时间:', end-start)

方式三:装饰器

def add_time(func):
    def test(*args, **kwargs):
        start = time.time()
        result = func(*args, **kwargs)
        end = time.time()
        print('action time:', end-start)
        return result
    return test


@add_time
def func3():
    print('你好吗')


@add_time
def func4(num):
    print(num*2)

无参装饰器的写法

装饰器 = 实参高阶函数+返回值高阶函数+糖语法

套路:

def 函数名1(参数1):
    def 函数名2(*args, **kwarg):
        result = 参数1(*args, **kwarg)
        实现添加功能的代码段
        return result
    return 函数名2

说明:

函数名1 - 装饰器的名字(按照当前装饰器添加的功能来命名)

参数1 - 这个参数是用来接受被添加功能的函数(指向原函数),一般直接命名成: func

函数名2 - 表示的是在原函数的基础上添加完功能的新函数, 一般直接命名成一个固定的名字:test、new_func

使用装饰器:在需要添加功能的函数的定义前加:@装饰器名

def end(func):
    def new_func(*args, **kwargs):
        result = func(*args, **kwargs)
        print('======函数结束=======')
        return result
    return new_func


@end
def func5(x, y):
    print(x+y)
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Apache Spark 2.4 中提供了许多解决复杂数据类型的内置函数高阶函数。其中,内置函数包括数组函数、结构体函数、日期时间函数、字符串函数等,可以方便地对复杂数据类型进行操作和处理。高阶函数则可以将函数作为参数传递给其他函数,实现更加灵活的数据处理。 例如,数组函数包括 explode、array_contains、array_distinct 等,可以对数组类型的数据进行拆分、查找、去重等操作。结构体函数包括 struct、getField、withField 等,可以对结构体类型的数据进行创建、获取、修改等操作。日期时间函数包括 year、month、day、hour、minute、second 等,可以对日期时间类型的数据进行提取和转换。字符串函数包括 concat、substring、trim、regexp_replace 等,可以对字符串类型的数据进行拼接、截取、去空格、替换等操作。 高阶函数包括 map、filter、reduce、fold 等,可以对数据集进行映射、过滤、聚合等操作。例如,map 函数可以将一个函数应用于数据集中的每个元素,返回一个新的数据集;filter 函数可以根据指定的条件过滤数据集中的元素,返回一个新的数据集;reduce 函数可以将数据集中的元素进行聚合,返回一个单一的值;fold 函数可以对数据集中的元素进行聚合,并指定一个初始值,返回一个单一的值。 总之,Apache Spark 2.4 中提供了丰富的内置函数高阶函数,可以方便地对复杂数据类型进行操作和处理,提高数据处理的效率和灵活性。 ### 回答2: Apache Spark是一款非常流行的大数据处理框架,而在该框架的最新版本Apache Spark 2.4中,主要更新了复杂数据类型的内置函数高阶函数,以帮助用户更加方便地进行数据分析和处理。 首先,Apache Spark 2.4 中加入了多个新的内置函数,如array_contains、map_from_arrays、map_keys、map_values和posexplode等,用于处理不同的复杂数据类型。 array_contains函数用于判断一个数组是否包含某个指定元素,它很容易地就能来检查一个数据集中是否具有某些特定的值。而map_from_arrays、map_keys和map_values等函数则用于对一个Map类型的数据集进行操作,例如将一些key数组转换成一个map,或者将一个map的值集返回成一个数组等。 此外,Apache Spark 2.4版本还增加了许多高阶函数高阶函数是使用其他函数作为参数的函数,因此通常具有更强的灵活性和适应性。一些常用的高阶函数,如aggregate、foldLeft、reduce、foreach和flatMap等,都能在Spark中得到很好的支持。 其中,aggregate函数用于将数据集中的每条记录与一个给定的初始值进行组合,然后再用一个给定的函数进行聚合。例如,它可以被用于求数据集中的最大值、最小值和平均值等等。 与此相似,foldLeft函数和reduce函数都可以用来对数据集中的每个元素进行操作,但它们的实现方式略有不同。foldLeft函数还可以提供一个序列化的初始值,并将结果与初始值合并以产生最终结果。而reduce函数则使用指定的函数将所有元素逐一聚合起来,得到一个最终的输出结果。 总之,Apache Spark 2.4中新增的这些内置函数高阶函数,为用户提供了丰富的功能和更加灵活的选项,使得Spark在处理各种类型的数据时更加方便和高效。 ### 回答3: Apache Spark 2.4是一个强大的大数据分析和处理引擎,它通过内置的函数库和高阶函数来解决复杂数据类型的处理问题。这些函数使得对非结构化数据或半结构化数据的查询和分析变得容易和高效。 Apache Spark 2.4内置的函数库支持各种复杂数据类型,包括结构化数据(如JSON或XML),图形数据(如社交网络)和空间数据(如地图数据)。对于每种数据类型,Spark都提供了一组专门的函数来解决常见的数据操作问题。例如,Spark提供了大量的JSON函数来解析和查询JSON数据,这些函数可以方便地提取某个字段或值,进行集合操作,或者转换为其他数据格式。 除了内置的函数库之外,Apache Spark 2.4还支持高阶函数高阶函数是指一个函数可以接受另一个函数作为参数或返回一个函数作为结果。这种函数式编程风格可以使得代码更加简洁和灵活。例如,Spark提供了flatMap、map和filter等高阶函数,可以方便地进行复杂的数据转换和筛选。此外,Spark还支持用户定义的函数(UDF),可以让用户根据自己的业务逻辑定义自己的函数,从而获得更高的灵活性和可定制性。 总体而言,Apache Spark 2.4提供了强大的内置函数高阶函数,可以方便地解决各种复杂数据类型的处理问题。这些函数可以提高数据分析和处理的效率,使得数据科学家和开发人员能够更快地分析和挖掘数据价值,实现更加智能和高效的数据处理系统。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值