0

0

Python 进程间通信的常见手段

舞夢輝影

舞夢輝影

发布时间:2026-01-31 19:03:18

|

674人浏览过

|

来源于php中文网

原创

multiprocessing.Queue适合父-子进程间传小到中等对象,基于pipe+pickle;Pipe更快但仅双端单向;Value/Array用于基础类型共享内存;Event仅作状态通知,不传数据。

python 进程间通信的常见手段

multiprocessing.Queue 传数据最直接,但别跨进程多次 get()

它底层基于管道(pipe)+ 序列化(pickle),适合在父进程和子进程之间传递小到中等体积的对象。常见错误是多个子进程都从同一个 Queue 里反复 get() 却没判空,导致阻塞或 Empty 异常。

  • 只在创建它的进程及其派生子进程中使用,不能用于任意两个独立进程
  • put()get() 默认阻塞,加 timeout=1 可防卡死
  • 对象必须可被 picklelambda、嵌套函数、带绑定方法的实例都不行
  • 大量高频小数据(如每毫秒一次)会因序列化开销拖慢性能,此时考虑 multiprocessing.Pipe

multiprocessing.Pipe 更快但只能双端通信

返回一对连接对象((conn1, conn2)),一端发、另一端收,不经过序列化(仅对内置类型自动处理),比 Queue 轻量。但它天生是单向或半双工的,且不能被 fork 多次后复用 —— 每个子进程得拿到专属的一端。

  • 若需多对一通信(比如多个 worker 向主进程上报结果),得让每个 worker 持有自己独占的 conn2,主进程用多个 conn1 分别接收
  • 调用 conn.recv() 前建议先用 conn.poll(timeout) 判断是否有数据,避免死等
  • 不可在非创建它的线程中调用 recv()send(),会报 OSError: Bad file descriptor

共享内存用 multiprocessing.Valuemultiprocessing.Array,但只支持基础类型

它们映射到系统共享内存段,绕过序列化,适合高频读写标量或固定长度数组(如计数器、状态标志、图像 buffer)。但不支持 list、dict、自定义类等动态结构。

MedPeer自然科学基金
MedPeer自然科学基金

科研申报与成果分析的智能数据引擎

下载
  • Value('i', 0) 中的 'i' 是 ctypes 类型码,不是 Python 类型;写错(如用 'int')会静默失败或崩溃
  • 多个进程同时写同一 Value 时不会自动加锁,必须显式用 Lock 包裹读写块
  • Array('d', [1.0, 2.0]) 创建的是只读副本?不对 —— 它是可写的,但初始化值只在创建时拷贝一次,后续修改不自动同步到其他进程的视图里(因为是共享内存,改了就真改了)

跨进程信号用 multiprocessing.Event,但别指望它传数据

本质是包装了系统级事件对象(如 POSIX semaphores),用来做“通知”:一个进程 set(),其他进程 wait() 返回。它不携带任何 payload,纯状态同步。

立即学习Python免费学习笔记(深入)”;

  • 不能用 Event 替代 Queue 来传递消息,有人误以为 event.set() 后能顺带塞个值进去,实际不行
  • wait() 可设超时,返回 True/False 表示是否等到,别忽略返回值直接假设已触发
  • 父子进程间传递 Event 对象本身没问题,但不要在子进程里重新 Event() 一个同名变量覆盖掉传入的那个
真正麻烦的是混合场景:既要低延迟共享状态,又要可靠传复杂结构,还得支持 N 对 N 通信。这时候得组合用 —— 比如用 Value 做运行标志,Pipe 传关键指令,Queue 塞日志行。没人规定只能选一种。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1091

2023.08.02

int占多少字节
int占多少字节

int占4个字节,意味着一个int变量可以存储范围在-2,147,483,648到2,147,483,647之间的整数值,在某些情况下也可能是2个字节或8个字节,int是一种常用的数据类型,用于表示整数,需要根据具体情况选择合适的数据类型,以确保程序的正确性和性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

621

2024.08.29

c++怎么把double转成int
c++怎么把double转成int

本专题整合了 c++ double相关教程,阅读专题下面的文章了解更多详细内容。

356

2025.08.29

C++中int的含义
C++中int的含义

本专题整合了C++中int相关内容,阅读专题下面的文章了解更多详细内容。

235

2025.08.29

lambda表达式
lambda表达式

Lambda表达式是一种匿名函数的简洁表示方式,它可以在需要函数作为参数的地方使用,并提供了一种更简洁、更灵活的编码方式,其语法为“lambda 参数列表: 表达式”,参数列表是函数的参数,可以包含一个或多个参数,用逗号分隔,表达式是函数的执行体,用于定义函数的具体操作。本专题为大家提供lambda表达式相关的文章、下载、课程内容,供大家免费下载体验。

215

2023.09.15

python lambda函数
python lambda函数

本专题整合了python lambda函数用法详解,阅读专题下面的文章了解更多详细内容。

193

2025.11.08

Python lambda详解
Python lambda详解

本专题整合了Python lambda函数相关教程,阅读下面的文章了解更多详细内容。

62

2026.01.05

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

806

2023.08.10

Python WebSocket实时通信与异步服务开发实践
Python WebSocket实时通信与异步服务开发实践

本专题聚焦 Python 在实时通信场景中的开发实践,系统讲解 WebSocket 协议原理、长连接管理、消息推送机制以及异步服务架构设计。内容包括客户端与服务端通信实现、连接稳定性优化、消息队列集成及高并发处理策略。通过完整案例,帮助开发者构建高效稳定的实时通信系统,适用于聊天应用、实时数据推送等场景。

7

2026.03.18

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5.1万人学习

SciPy 教程
SciPy 教程

共10课时 | 2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号