上一篇中对协程的概念做出了解释和澄清。总的来说,完全协程才算得上是真正意义上的协程,其它如生成器等只是部分实现了协程概念的非完全协程,我们之后主要讨论完全协程。
本篇介绍一些协程的实际应用。协程本质是一种控制抽象,它的价值在于可以简洁优雅地实现一些控制行为。在协程中,控制可以从当前执行上下文跳转到程序的其它位置,并且可以在之后的任意时刻恢复当前执行上下文,控制从跳出点处继续执行。这种行为与Continuation类似,但协程相比之下更容易理解,某些情况下还更加高效。之后会有一篇专门对比这两个概念。
生产者-消费者模型
在前一篇中已有提及,这是协程最典型也最常见的应用场景。Conway提出协程这个概念时所解决的编译器问题就属于生产者-消费者问题。
管道(Pipeline)也是由生产者-消费者模型扩展而来的,管道实际上是由一个生产者,加上一个或多个过滤器(Filter),再加上一个最终的消费者组成的生产者-消费者链。其中过滤器既是生产者又是消费者。以下是由Lua实现的过滤器*:
1 function filter(ant)
2 return coroutine.wrap(function())
3 while true do
4 -- resume antecessor to obtain value
5 local x = ant()
6 -- yield transformed value
7 coroutine.yield(f(x))
8 end
9 end
10 end
只需要一行语句把生产者、过滤器和消费者串联起来就可以创建出一个管道:
consumer(filter(producer()))
生成器(Generator)
生成器实际上可以看作只有生产者的生产者-消费者模型。生成器的主要用途就是实现迭代器(Iterator)。需要提到的一点就是目前大多数语言提供的生成器都是非栈式(Stackful)的,即不能在嵌套调用中直接yield,这样在实现复杂的生成器时会非常麻烦。比如要实现一个二叉树的先序遍历,先看Lua实现*:
1 function preorder(node)
2 if node then
3 preorder(node.left)
4 coroutine.yield(node.key)
5 preorder(node.right)
6 end
7 end
8
9 -- create an iterator
10 function preorder_iterator(tree)
11 return coroutine.wrap(function()
12 preorder(tree)
13 return nil
14 end)
15 end
简洁而直接,因为Lua的协程是完全协程,允许在嵌套调用中yield。如果用C#实现:
1 public static class BinaryTree<T>
2 {
3 static IEnumerable<T> Preorder(Node<T> node)
4 {
5 if (node != null) {
6 foreach (var key in Preorder(node.left))
7 yield return key;
8
9 yield return node.key;
10
11 foreach (var key in Preorder(node.right))
12 yield return key;
13 }
14 }
15
16 public static IEnumerable<T> PreorderIterator(Node<T> tree)
17 {
18 foreach (var key in Preorder(tree))
19 yield return key;
20 }
21 }
可以看到,在递归的每一级都需要一个迭代块向上一级yield,直到最顶层。如果生成器更加复杂,比如需要调用一系列辅助方法,那么在每个调用点处都要增加机械的yield代码。
目标导向(Goal-oriented)编程
目标导向编程是指模式匹配(Pattern-matching)或Prolog的查询这样的系统,由用户提出一个形式化定义的目标(Goal),系统会在一系列可选的子目标中寻找直到确认一个解决方案。在寻找过程中常常会需要回溯(Backtracking)机制,这种机制使用完全非对称协程作为生成器很容易实现。
例如用Lua实现一个模式匹配系统,支持匹配常量、可选和序列三种模式的组合*:
1 -- matching a string literal
2 function prim(str)
3 return function(S, pos)
4 local len = string.len(str)
5 if string.sub(S, pos, pos+len-1) == str then
6 coroutine.yield(pos + len)
7 end
8 end
9 end
10
11 -- alternative patterns (disjunction)
12 function alt(patt1, patt2)
13 return function(S, pos)
14 patt1(S, pos)
15 patt2(S, pos)
16 end
17 end
18
19 -- sequence of sub-patterns (conjuction)
20 function seq(patt1, patt2)
21 return function(S, pos)
22 local btpoint = coroutine.wrap(function()
23 patt1(S, pos)
24 end)
25 for npos in btpoint do
26 patt2(S, npos)
27 end
28 end
29 end
30
31 function match(S, patt)
32 local len = string.len(S)
33 local m = coroutine.wrap(function() patt(S, 1) end)
34 for pos in m do
35 if pos == len+1 then
36 return true
37 end
38 end
39 return false
40 end
使用时形如("abc"|"de")."x"的目标可以定义如下:
patt = seq(alt(prim("abc"), prim("de")), prim("x"))
在进行匹配时这个目标被封装到一个协程中,通过循环逐一尝试匹配每个子目标。实现中的每个模式函数接受目标字符串和起始位置作为参数,匹配成功时yield下一个位置给后续匹配,无法继续匹配时返回nil。我尝试了一下使用C#来实现上述代码,得到的编译错误是:不能在匿名方法或lambda表达式内部使用yield语句。于是我便没有继续了,因为已经可以想象最后的完成代码会有多臃肿。这是C#生成器的又一使用限制,的确非常影响表达力。
协作式多任务(Cooperative multitasking)
并发编程所涉及的范围太广,这里仅讨论线程与协程的对比。在并发编程中,协程与线程类似,每个协程表示一个执行单元,有自己的本地数据,与其它协程共享全局数据和其它资源。目前主流语言基本上都选择了多线程作为并发设施,与线程相关的概念是抢占式多任务(Preemptive multitasking),而与协程相关的是协作式多任务。
由于抢占式调度执行顺序无法确定的特点,使用线程时需要非常小心地处理同步问题,而协程完全不存在这个问题(事件驱动和异步程序也有同样的优点),因此非常容易使用。下面是一段Lua实现多任务的代码*:
1 -- list of "live" tasks
2 tasks = {}
3
4 -- create a task
5 function create_task(f)
6 local co = coroutine.wrap(function() f(); return "ended" end)
7 table.insert(tasks, co)
8 end
9
10 -- task dispatcher
11 function dispatcher()
12 while true do
13 local n = table.getn(tasks)
14 if n == 0 then break end -- no more tasks to run
15 for i = 1, n do
16 local status = tasks[i]()
17 if status == "ended" then
18 table.remove(tasks, i)
19 break
20 end
21 end
22 end
23 end
协作式多任务的缺点之一是进行阻塞(Blocking)操作如IO时会阻塞掉整个程序,解决方案是提供一个辅助函数,初始化IO操作之后如果操作不能立即完成就挂起当前协程,Programming in Lua中给出了一个多任务下载的例子:
1 function download(host, file)
2 local c = assert(socket.connect(host, 80))
3 local count = 0
4 c:send("GET " .. file .. " HTTP/1.0\r\n\r\n")
5 while true do
6 local s, status, partial = receive(c)
7 count = count + #(s or partial)
8 if status == "closed" then break end
9 end
10 c:close()
11 print(file, count)
12 end
13
14 function receive(connection)
15 connection:settimeout(0)
16 local s, status, partial = connection:receive(2^10)
17 if status == "timeout" then
18 coroutine.yield(connection)
19 end
20 return s or partial, status
21 end
22
23 threads = {}
24
25 function get(host, file)
26 local co = coroutine.create(function()
27 download(host, file)
28 end)
29 table.insert(threads, co)
30 end
31
32 function dispatch()
33 local i = 1
34 while true do
35 if threads[i] == nil then
36 if threads[1] == nil then break end
37 i = 1
38 end
39 local status, res = coroutine.resume(threads[i])
40 if not res then
41 table.remove(threads, i)
42 else
43 i = i + 1
44 end
45 end
46 end
这个例子把每个下载任务放在一个协程中,通过settimeout(0)使获取操作不会阻塞,再由调度函数逐一唤醒协程执行,如果获取还未完成就挂起,直到所有下载完成。
协作式多任务的另一个缺点是无法利用多核资源,这一点我认为我们日常所编写的绝大部分应用都没有这个必要,除非是实时性要求非常高(如操作系统)或需要尽可能地榨取机器性能(如Web服务器)的情况下(即使这时多线程也并非唯一选择)。所以在你打算使用多线程时先认真考虑一下是否协程就已经足够。在这篇采访中也有一些关于协程和并发的观点供参考。
异常处理
支持异常处理的语言需要实现两个基础原语:try和raise。try原语包含两项表达:主体和异常处理器。若主体正常返回,则返回值作为try的值,忽略异常处理器。若主体遇到异常条件,则引发(raise)一个异常并立即送给异常处理器,主体的剩余部分被忽略。异常处理器可以返回一个值作为try的值,或重新引发一个异常给更外层的异常处理器。
使用完全非对称协程来实现异常处理很简单:try原语由一个函数实现,此函数接受两个函数(主体和异常处理器)作为参数,然后在一个协程中执行主体函数;raise原语也是一个函数,在其中yield出一个异常即可。
总结
协程还适于实现状态机(每对入口/出口点表现一个状态),参与者模型(Actor model)(实质上也是协作式多任务)等。重要的是理解协程所表达的控制抽象,在此之上能够灵活运用的话,原本一些棘手的控制问题也许就可以简洁优雅地实现出来。
* 代码来自Revisiting Coroutines