携程python_Python 携程

一、协程

1、又称微线程，纤程。英文名Coroutine.一句话说明什么是协程：协程是一种用户态的轻量级线程(相当于操作系统不知道它的存在，是用户控制的)。

2、协程拥有自己的寄存器上下文和栈(代码的必要的代码段和)。协程调度切换时，将寄存器上下文和栈保存到其他地方，在切回来的时候，恢复先前保存的寄存器上下文和栈，因此：协程能保留上一次调用时的状态(即所有局部状态的一个特定组合)，每次过程重入时，就相当于进入上一次调用的状态，换种说法：进入上一次离开时所处逻辑流的位置。

3、协程一定是在单线程中运行的。

二、协程的优点与缺点

优点：

1、无需线程上下文切换的开销。

2、无需原子操作(最小级别的操作)锁定及同步的开销。

3、方便切换控制流，简化编程模型。

4、高并发+高扩展性+低成本：一个CPU支持上万的协程都不是问题，所以很适合用于高并发处理。

缺点：

1、无法利用多核资源：协程的本质是个单线程，它不能同时将单个CPU的多个核用上，协程需要和进程配合才能运行在多CPU上，当然我们日常所编写的绝大部分应用都没有这个必要，除非是cpu密集型应用。

2、进行阻塞(Blocking)操作(如IO时)会阻塞掉整个程序。

三、使用yield实现协程操作例子

1、使用yield实现的一个最简单的协程的效果

#!/usr/bin/python

# -*- coding : utf-8 -*-

# 作者： Presley

# 时间： 2018-12-4

# 邮箱：1209989516@qq.com

# 这是我用来练习python 协程的测试脚本

import time

import queue

def consumer(name):

print("starting eating baozi...")

while True:

new_baozi = yield

print("[%s] is eating baozi %s" %(name,new_baozi))

def producer():

r = con.__next__()

r = con2.__next__()

n = 0

while n < 5:

n += 1

con.send(n)

con2.send(n)

print("\033[32;1m[producer]\033[0m is making")

if __name__ == "__main__":

con = consumer("c1")

con2 = consumer("c2")

p = producer()

执行结果：

C:\Users\wohaoshuai\AppData\Local\Programs\Python\Python36\python.exe E:/PythonLearn/day16/pro_consume.py

starting eating baozi...

starting eating baozi...

[c1] is eating baozi 1

[c2] is eating baozi 1

[producer] is making

[c1] is eating baozi 2

[c2] is eating baozi 2

[producer] is making

[c1] is eating baozi 3

[c2] is eating baozi 3

[producer] is making

[c1] is eating baozi 4

[c2] is eating baozi 4

[producer] is making

[c1] is eating baozi 5

[c2] is eating baozi 5

[producer] is making

Process finished with exit code 0

2、greenlet

#!/usr/bin/python

# -*- coding : utf-8 -*-

# 作者： Presley

# 时间： 2018-12-4

# 邮箱：1209989516@qq.com

# 这是我用来练习python 协程的测试脚本

from greenlet import greenlet

def test1():

print(12)

gr2.switch()

print(34)

gr2.switch()

def test2():

print(56)

gr1.switch()

print(78)

gr1 = greenlet(test1)

gr2 = greenlet(test2)

gr1.switch()

执行结果：

C:\Users\wohaoshuai\AppData\Local\Programs\Python\Python36\python.exe E:/PythonLearn/day16/pro_consume.py

12

56

34

78

Process finished with exit code 0

3、gevent

a、gevent是一个第三方库，可以轻松通过gevent实现并发同步或异步编程，在gevent中用到的主要模式是greenlet，它是以C扩展模块形式接入Python的轻量级协程。greenlet全部运行在主程序操作系统进程的内部，但它们被协作式地调度。

#!/usr/bin/python

# -*- coding : utf-8 -*-

# 作者： Presley

# 时间： 2018-12-1

# 邮箱：1209989516@qq.com

# 这是我用来练习python 协程的测试脚本

import gevent

def foo():

print("Running in foo")

gevent.sleep(1)

print("Explicit context switch to foo again")

def bar():

print("Explicit context to bar")

gevent.sleep(1)

print("Implicit context switch back to bar")

def ex():

print("Explicit context to ex")

gevent.sleep(1)

print("Implicit context switch back to ex")

gevent.joinall([

gevent.spawn(foo), #类似产生一个协程的foo

gevent.spawn(bar), #产生一个协程的bar

gevent.spawn(ex)

])

#代码的效果为：第一个协程切换到第二个，第二个切换到第三个，然后又遇到sleep(模拟io)又切换到下一个，然后实现并发的协程的效果

执行结果

C:\Users\wohaoshuai\AppData\Local\Programs\Python\Python36\python.exe E:/PythonLearn/day16/pro_consume.py

Running in foo

Explicit context to bar

Explicit context to ex

Explicit context switch to foo again

Implicit context switch back to bar

Implicit context switch back to ex

Process finished with exit code 0

b、通过协程爬取网页实例

#!/usr/bin/python

# -*- coding : utf-8 -*-

# 作者： Presley

# 时间： 2018-12-5

# 邮箱：1209989516@qq.com

# 这是我用来练习python 协程的测试脚本

from gevent import monkey;monkey.patch_all()

import gevent

from urllib.request import urlopen

def f(url):

print("GET: %s" %url)

resp = urlopen(url)

data = resp.read()

print("%d bytes received from %s." %(len(data),url))

gevent.joinall([

gevent.spawn(f,"https://www.python.org/"),

gevent.spawn(f,"https://www.yahoo.com/"),

gevent.spawn(f,"https://github.com"),

])

执行结果：

C:\Users\wohaoshuai\AppData\Local\Programs\Python\Python36\python.exe E:/PythonLearn/day16/pro_consume.py

GET: https://www.python.org/

GET: https://www.yahoo.com/

GET: https://github.com

80704 bytes received from https://github.com.

50008 bytes received from https://www.python.org/.

528149 bytes received from https://www.yahoo.com/.

Process finished with exit code 0

c、通过gevent实现单线程下的多socket并发

server端

#!/usr/bin/python

# -*- coding : utf-8 -*-

# 作者： Presley

# 时间： 2018-12-5

# 邮箱：1209989516@qq.com

# 这是我用来练习python 协程的测试脚本

import gevent

from gevent import socket,monkey

monkey.patch_all() #python中的一种黑魔法，只要写入一句话就自动的把python中的许多标准库变为非阻塞的模式

def server(port):

s = socket.socket()

s.bind(("0.0.0.0",port))

s.listen(5000)

while True:

cli,addr = s.accept()

gevent.spawn(handle_request,cli) #执行handle_request函数，参数是cli,即客户端实例

def handle_request(s):

try:

while True:

data = s.recv(1024) #接收数据，这里设置成不阻塞

print("recv:",data)

s.send(data)

if not data:

s.shutdown(socket.SHUT_RD) #如果接收为空值，结束

except Exception as ex:

print(ex)

finally:

s.close()

if __name__ == "__main__":

server(8001)

client端

#!/usr/bin/python

# -*- coding : utf-8 -*-

# 作者： Presley

# 时间： 2018-12-5

# 邮箱：1209989516@qq.com

# 这是我用来练习python 协程的测试脚本

import socket

HOST = "localhost"

PORT = 8001

s = socket.socket()

s.connect((HOST,PORT))

while True:

msg = input(">>:")

if not msg:continue

msg = msg.encode("utf-8")

s.sendall(msg)

data = s.recv(1024)

print("Received",data.decode("utf-8"))

s.close()

python 携程asyncio 实现高并发示例2

https://www.bilibili.com/video/BV1g7411k7MD?from=search&seid=13649975876676293013 import asyncio ...

python 携程asyncio实现高并发示例1

import asyncio #携程(携程不是函数) async def print_hello(): while True: print("hello world") await ...

Python线程，进程，携程，I&sol;O同步，异步

只有本人能看懂的-Python线程,进程,携程,I/O同步,异步 举个栗子: 我想get三个url,先用普通的for循环 import requests from multiprocessing im ...

python爬虫-携程-eleven参数

携程-eleven分析 一.eleven的位置 通过对旁边栈的分析,它是在另一个js文件中调用的.那个js文件是一个自调用的函数,所以我们可以直接copy下来,用浏览器执行看看 执行运行是会报错的,u ...

python对比线程，进程，携程，异步，哪个快

目录概念介绍测试环境开始测试测试[单进程单线程]测试[多进程 并行]测试[多线程 并发]测试[协程 + 异步]结果对比绘图展示概念介绍首先简单介绍几个概念: 进程和线程进程就是一个程序在一个数据集上的 ...

进程、线程和携程的通俗解释【刘新宇Python】

通过下面这张图你就能看清楚了,进程.线程和携程的关系   进程: 多个进程是可以运行在多个CPU当中的,比如你的电脑是4核,可以同时并行运行四个进程,这是真正物理上的并行运行. 线程: 每个进程又可以 ...

我所了解的各公司使用的 Ceph 存储集群 &lpar;携程、乐视、有云、宝德云、联通等&rpar;

Ceph 作为软件定义存储的代表之一,最近几年其发展势头很猛,也出现了不少公司在测试和生产系统中使用 Ceph 的案例,尽管与此同时许多人对它的抱怨也一直存在.本文试着整理作者了解到的一些使用案例. ...

Python 协程 61

什么是协程 协程,又称微线程,纤程.英文名Coroutine.一句话说明什么是线程:协程是一种用户态的轻量级线程. 协程的特点 协程拥有自己的寄存器上下文和栈.协程调度切换时,将寄存器上下文和栈保存到 ...

18 11 26 用多进程 多线程 携程 实现 http 服务器的创建

下面是一个  多进程 服务器的创建 import socket import re import multiprocessing def service_client(new_socket): &qu ...

随机推荐

&lbrack;BZOJ3670&rsqb;&lbrack;UOJ&num;5&rsqb;&lbrack;NOI2014&rsqb;动物园

[BZOJ3670][UOJ#5][NOI2014]动物园 试题描述 近日,园长发现动物园中好吃懒做的动物越来越多了.例如企鹅,只会卖萌向游客要吃的.为了整治动物园的不良风气,让动物们凭自己的真才实学 ...

C&num; 缓存学习总结

昨天整理了一下缓存的基本用法,和缓存依赖类 CacheDependency类的使用,今天整理一下缓存的数据库依赖类SqlCacheDependency 1.数据库依赖类SqlCacheDependen ...

PHP内核之旅-5&period;强大的数组

PHP 内核之旅系列 PHP内核之旅-1.生命周期 PHP内核之旅-2.SAPI中的Cli PHP内核之旅-3.变量 PHP内核之旅-4.字符串 PHP内核之旅-5.强大的数组 PHP内核之旅-6.垃 ...

golang初识4 - Go 并发

Go的CSP并发模型实现:M, P, G Go实现了两种并发形式.第一种是大家普遍认知的:多线程共享内存.其实就是Java或者C++等语言中的多线程开发.另外一种是Go语言特有的,也是Go语言推荐的: ...

手动生成&sol;etc&sol;shadow文件中的密码

shadow文件的格式就不说了.就说说它的第二列——密码列. 通常,passwd直接为用户指定密码就ok了.但在某些情况下,要为待创建的用户事先指定密码,还要求是加密后的密码,例如kickstart文 ...

JavaScript有这几种测试分类

译者按: 也许你讨厌测试,但是你不得不面对它,所以至少区分一下单元测试.集成测试与功能测试?对吧… 原文: What are Unit Testing, Integration Testing and ...

遇到以前跑一次却没问题的问题，直接maven install 再跑

遇到以前跑一次却没问题的问题,直接maven install 再用tomcat 跑 比如,xml 路径找不到类,奇葩的报错啊

WinRAR 0day漏洞

WinRAR 0day漏洞(附利用过程) 英国安全机构Mohammad Reza Espargham的漏洞实验室发现,流行压缩工具WinRAR 5.21最新版里存在一个安全漏洞,目前该漏洞还属于零日漏 ...

BZOJ4822&lbrack;Cqoi2017&rsqb;老C的任务——树状数组&lpar;二维数点&rpar;

题目描述 老 C 是个程序员.     最近老 C 从老板那里接到了一个任务——给城市中的手机基站写个管理系统.作为经验丰富的程序员,老 C 轻松 地完成了系统的大部分功能,并把其中一个功能交给你来实 ...