0

0

python gevent的原理分析

冰川箭仙

冰川箭仙

发布时间:2025-11-01 23:43:01

|

801人浏览过

|

来源于php中文网

原创

gevent通过greenlet实现轻量级协程,利用monkey patch将标准库函数替换为非阻塞版本,结合事件循环自动调度I/O操作,在单线程中以协作式多任务模拟并发,使开发者能用同步写法编写异步程序,适用于I/O密集型场景。

python gevent的原理分析

gevent 是一个基于协程的 Python 网络库,它使用 greenletlibev(或 libuv)事件循环来实现高并发的异步编程。它的核心原理是:在单线程中通过协作式多任务(cooperative multitasking)模拟出“并发”效果,让开发者可以用同步写法写出异步程序。

1. Greenlet:轻量级协程

gevent 的基础是 greenlet,它是 C 实现的轻量级协程,可以看作是用户态的微线程。

  • 每个 greenlet 都有自己的和执行上下文,可以在运行时主动切换到另一个 greenlet。
  • 切换由程序控制,不是操作系统调度,开销极小。
  • greenlet 本身不提供 I/O 调度能力,gevent 在其基础上封装了自动切换机制。

例如:

// 创建两个 greenlet 并手动切换 from greenlet import greenlet

def test1(): print(1) gr2.switch() print(2)

def test2(): print(3) gr1.switch() print(4)

gr1 = greenlet(test1) gr2 = greenlet(test2) gr1.switch() // 输出: 1 3 2

2. Monkey Patch:拦截阻塞调用

Python 标准库中的 socket、time.sleep 等函数是同步阻塞的。gevent 提供了 monkey patch 机制,动态替换这些标准函数为非阻塞版本。

立即学习Python免费学习笔记(深入)”;

  • 调用 gevent.monkey.patch_all() 后,socket.send、socket.recv、time.sleep 等都会被替换成 gevent 内部的协程友好版本。
  • 当发生 I/O 操作时,当前 greenlet 会主动让出控制权,事件循环转去执行其他 greenlet。
  • I/O 完成后,事件循环再恢复该 greenlet 继续执行。

这样,代码看起来是同步的,实际执行是异步的。

3. 事件循环:驱动协程调度

gevent 使用 libev 或 libuv 作为底层事件循环,监听文件描述符(如 socket)的状态变化。

Napkin AI
Napkin AI

Napkin AI 可以将您的文本转换为图表、流程图、信息图、思维导图视觉效果,以便快速有效地分享您的想法。

下载
  • 当某个 greenlet 发起网络请求时,gevent 将其挂起,并向事件循环注册回调。
  • 事件循环持续监听 I/O 事件,一旦数据可读或可写,就唤醒对应的 greenlet。
  • 调度过程完全由 gevent 自动完成,开发者无需手动 yield 或 await。

这使得你可以这样写代码:

import gevent import requests

def fetch(url): print(f"GET {url}") resp = requests.get(url) // 看似同步,实际是非阻塞 print(f"{url} -> {len(resp.content)}")

并发抓取

gevent.joinall([ gevent.spawn(fetch, 'https://www.php.cn/link/7f272b86ea4f734837b281ad960be2f7'), gevent.spawn(fetch, 'https://www.php.cn/link/148c2ad42607c372038edd48cad30120') ])

虽然没有 async/await,但两个请求是并发执行的。

4. 协作式调度:避免长时间占用 CPU

gevent 是协作式的,意味着只有当 greenlet 主动让出时,其他协程才有机会运行。

  • 常见让出时机:sleep、I/O 操作、显式调用 gevent.sleep(0)。
  • 如果某段代码纯计算且不触发任何 patch 过的调用,就会阻塞整个事件循环。
  • 解决办法:定期插入 gevent.sleep(0) 来主动交出控制权。

例如:

for i in range(1000000): do_something() if i % 1000 == 0: gevent.sleep(0) // 让出执行权

基本上就这些。gevent 的魔力在于把复杂的异步逻辑隐藏在底层,让你用最自然的方式写高并发网络程序,特别适合 I/O 密集型场景,比如爬虫、长连接服务等。不过要注意它不适用于 CPU 密集任务,而且由于 monkey patch 是全局替换,可能与其他库产生兼容问题。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end=' ', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

193

2023.09.27

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

19

2026.02.03

if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

847

2023.08.22

switch语句用法
switch语句用法

switch语句用法:1、Switch语句只能用于整数类型,枚举类型和String类型,不能用于浮点数类型和布尔类型;2、每个case语句后面必须跟着一个break语句,以防止执行其他case的代码块,没有break语句,将会继续执行下一个case的代码块;3、可以在一个case语句中匹配多个值,使用逗号分隔;4、Switch语句中的default代码块是可选的等等。

569

2023.09.21

Java switch的用法
Java switch的用法

Java中的switch语句用于根据不同的条件执行不同的代码块。想了解更多switch的相关内容,可以阅读本专题下面的文章。

441

2024.03.13

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

447

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

606

2023.08.10

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

766

2023.08.10

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

26

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号