0

0

Python多进程编程_multiprocessing实践

舞夢輝影

舞夢輝影

发布时间:2026-03-07 16:31:14

|

442人浏览过

|

来源于php中文网

原创

multiprocessing模块通过独立进程绕过gil实现多核并发,关键在于稳定可控:跨平台应显式设start_method为'spawn';避免在if name == '__main__':外创建进程;大对象勿直传queue/pipe以防序列化失败。

python多进程编程_multiprocessing实践

Python的multiprocessing模块是解决CPU密集型任务并行化的标准方案,它通过创建独立进程绕过GIL限制,真正实现多核并发。实际使用中,关键不在“能不能跑”,而在“怎么跑得稳、跑得清、跑得可控”。

进程启动方式:spawn、fork还是forkserver?

不同平台默认行为不同,尤其在Windows和macOS上容易出错。Linux默认用fork(快但有状态残留风险),Windows只能用spawn(安全但启动慢)。建议显式指定:

  • 跨平台项目统一设为mp.set_start_method('spawn'),避免子进程意外继承父进程资源(如数据库连接、日志句柄)
  • 若需共享大量只读数据(如大模型权重),可考虑forkserver,它预启一个干净进程池,兼顾安全与效率
  • 切勿在if __name__ == '__main__':外直接调用Process()Pool(),否则Windows/macOS会反复递归启动新进程

数据传递:别把大对象塞进Queue或Pipe

进程间通信(IPC)底层依赖序列化(pickle),大对象传输不仅慢,还可能因超限失败。常见误区是把整个DataFrame、numpy数组甚至类实例直接put()Queue

  • 小数据(Queue或Pipe足够,注意Queue有默认缓冲区上限,满时put()会阻塞
  • 大数据优先走共享内存:mp.Array/mp.Value适合简单类型;mp.shared_memory(Python 3.8+)支持任意numpy数组零拷贝共享
  • 文件路径比内容更适合作为IPC消息——让子进程自己读取,而非父进程读完再传

资源清理:进程退出不等于资源释放

子进程崩溃、terminate()强制结束、或未显式join(),都可能导致句柄泄漏、临时文件堆积、甚至僵尸进程。

KPPW客客出品专业威客系统
KPPW客客出品专业威客系统

客客出品专业威客系统英文名称KPPW,也是keke produced professional witkey的缩写。KPPW是一款基于PHP+MYSQL技术构架的威客系统,积客客团队多年实践和对威客模式商业化运作的大量调查分析而精心策划研发,是您轻松搭建威客网站的首选利器。KPPW针对威客任务和商品交易模式进行了细致的分析,提供完善威客任务流程控制解决方案,并将逐步分享威客系统专业化应用作为我们的

下载

立即学习Python免费学习笔记(深入)”;

  • 所有Process对象必须配对调用start()join(),哪怕只是p.join(timeout=5)加超时保护
  • with mp.Pool() as pool:代替手动创建Pool,确保__exit__自动调用close()+join()
  • 子进程中打开的文件、网络连接、数据库游标,务必用try/finally或上下文管理器保证关闭,不要依赖进程退出自动回收

调试与监控:别只看print

多进程下print输出乱序、丢失,异常堆栈也不显示在主进程。真实问题常卡在死锁、队列满、共享内存竞争。

  • logging替代print,配置QueueHandler+QueueListener把子进程日志汇总到主线程输出
  • 对关键IPC操作加超时:queue.get(timeout=10)pipe.recv(timeout=5),避免无限等待
  • psutil.Process().children()检查子进程存活状态,配合is_alive()做健康巡检

多进程不是万能加速器,写错反而比单进程更慢、更难排查。核心是明确划分计算边界、谨慎共享状态、主动管理生命周期。写完先跑小数据流,再压测,最后加监控——这三步走稳了,就不太会掉坑里。

相关文章

编程速学教程(入门课程)
编程速学教程(入门课程)

编程怎么学习?编程怎么入门?编程在哪学?编程怎么学才快?不用担心,这里为大家提供了编程速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

845

2023.08.22

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1431

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1163

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

833

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

461

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2361

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

874

2023.08.10

windows boot manager
windows boot manager

windows boot manager无法开机的解决方法:1、系统文件损坏,使用Windows安装光盘或USB启动盘进入恢复环境,选择修复计算机,然后选择自动修复;2、引导顺序错误,进入恢复环境,选择命令提示符,输入命令"bootrec /fixboot"和"bootrec /fixmbr",然后重新启动计算机;3、硬件问题,使用硬盘检测工具进行扫描和修复;4、重装操作系统。本专题还提供其他解决

1948

2023.08.28

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

23

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.8万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号