0

0

Python 实现生产者消费者模型

冷炫風刃

冷炫風刃

发布时间:2026-02-27 19:06:13

|

632人浏览过

|

来源于php中文网

原创

python 实现生产者消费者模型

Python 中实现生产者消费者模型,核心是解决多线程(或多进程)间的数据协同问题:生产者生成数据放入缓冲区,消费者从缓冲区取出处理。最稳妥、推荐的方式是使用 queue.Queue —— 它是线程安全的,内置锁和条件变量,无需手动同步。

用 queue.Queue 实现线程版生产者消费者

queue.Queue 天然支持阻塞式读写(如 get()put()),可自动处理“空时等待取”和“满时等待放”,非常适合该模型。

  • 创建一个固定容量的队列:q = queue.Queue(maxsize=5)
  • 生产者线程调用 q.put(item),若队列已满则阻塞,直到有空位
  • 消费者线程调用 q.get(),若队列为空则阻塞,直到有新数据
  • 每次 get() 后必须调用 q.task_done();所有任务提交后调用 q.join() 可等待全部消费完成

完整可运行示例

以下是一个含 2 个生产者、3 个消费者、共处理 10 个任务的小型演示:

import threading
import queue
import time
import random
<p>q = queue.Queue(maxsize=3)</p><p><span>立即学习</span>“<a href="https://pan.quark.cn/s/00968c3c2c15" style="text-decoration: underline !important; color: blue; font-weight: bolder;" rel="nofollow" target="_blank">Python免费学习笔记(深入)</a>”;</p><div class="aritcle_card flexRow">
                                                        <div class="artcardd flexRow">
                                                                <a class="aritcle_card_img" href="/ai/2393" title="LibLibAI"><img
                                                                                src="https://img.php.cn/upload/ai_manual/001/246/273/176352304574139.png" alt="LibLibAI"  onerror="this.onerror='';this.src='/static/lhimages/moren/morentu.png'" ></a>
                                                                <div class="aritcle_card_info flexColumn">
                                                                        <a href="/ai/2393" title="LibLibAI">LibLibAI</a>
                                                                        <p>国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达。</p>
                                                                </div>
                                                                <a href="/ai/2393" title="LibLibAI" class="aritcle_card_btn flexRow flexcenter"><b></b><span>下载</span> </a>
                                                        </div>
                                                </div><p>def producer(name):
for i in range(5):
item = f"item-{name}-{i}"
q.put(item)  # 自动阻塞
print(f"[P{name}] produced {item}")
time.sleep(random.uniform(0.1, 0.5))</p><p>def consumer(name):
while True:
try:
item = q.get(timeout=2)  # 2秒超时,避免永久阻塞
print(f"[C{name}] consumed {item}")
time.sleep(random.uniform(0.2, 0.6))
q.task_done()
except queue.Empty:
print(f"[C{name}] timeout, exiting...")
break</p><h1>启动线程</h1><p>threads = []
for i in range(2):
t = threading.Thread(target=producer, args=(i,))
threads.append(t)
t.start()</p><p>for i in range(3):
t = threading.Thread(target=consumer, args=(i,))
threads.append(t)
t.start()</p><h1>等待所有生产者结束</h1><p>for t in threads[:2]:
t.join()</p><h1>等待队列中所有任务被消费完</h1><p>q.join()</p><p>print("All done.")</p>

进阶:协程版(asyncio + asyncio.Queue)

若需高并发 I/O 密集型场景(如网络请求、文件读写),可用 asyncio.Queue 配合协程,资源开销更低:

  • await q.put(item)await q.get() 是异步阻塞操作
  • 同样支持 maxsizetask_done()join()
  • 注意:不能混用线程与协程原语;所有逻辑需在同一个事件循环中运行

不推荐的手动同步方式

虽然可用 threading.Lock + threading.Condition 手动实现队列,但容易出错(如忘记 notify、死锁、虚假唤醒)。除非学习底层原理或有特殊定制需求,否则没必要重复造轮子。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

721

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

371

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

27

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

25

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

100

2026.02.06

Golang 并发编程模型与工程实践:从语言特性到系统性能
Golang 并发编程模型与工程实践:从语言特性到系统性能

本专题系统讲解 Golang 并发编程模型,从语言级特性出发,深入理解 goroutine、channel 与调度机制。结合工程实践,分析并发设计模式、性能瓶颈与资源控制策略,帮助将并发能力有效转化为稳定、可扩展的系统性能优势。

1

2026.02.27

Golang 高级特性与最佳实践:提升代码艺术
Golang 高级特性与最佳实践:提升代码艺术

本专题深入剖析 Golang 的高级特性与工程级最佳实践,涵盖并发模型、内存管理、接口设计与错误处理策略。通过真实场景与代码对比,引导从“可运行”走向“高质量”,帮助构建高性能、可扩展、易维护的优雅 Go 代码体系。

1

2026.02.27

Golang 测试与调试专题:确保代码可靠性
Golang 测试与调试专题:确保代码可靠性

本专题聚焦 Golang 的测试与调试体系,系统讲解单元测试、表驱动测试、基准测试与覆盖率分析方法,并深入剖析调试工具与常见问题定位思路。通过实践示例,引导建立可验证、可回归的工程习惯,从而持续提升代码可靠性与可维护性。

0

2026.02.27

漫蛙app官网链接入口
漫蛙app官网链接入口

漫蛙App官网提供多条稳定入口,包括 https://manwa.me、https

51

2026.02.27

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.6万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号