0

0

Python 多进程环境下的日志处理

舞夢輝影

舞夢輝影

发布时间:2026-02-05 15:50:11

|

473人浏览过

|

来源于php中文网

原创

multiprocessing中直接用logging会丢日志或乱序,因子进程继承父进程logger但FileHandler非进程安全,多进程写同一文件导致缓冲冲突、覆盖或OSError;应让各子进程独立配置logger或使用QueueHandler+QueueListener。

python 多进程环境下的日志处理

为什么 multiprocessing 中直接用 logging 会丢日志或乱序?

因为每个子进程会继承父进程的 logger 对象,但底层 handler(比如 FileHandler)不是进程安全的——多个进程同时写同一个文件,会导致缓冲区冲突、覆盖、截断,甚至 OSError:[Errno 9] Bad file descriptor标准库logging 模块本身不保证跨进程写入安全。

推荐方案:每个子进程独立初始化 logger

避免共享 handler,让每个进程持有一个专属的 FileHandler 或转向进程安全的中转方式。最简单可靠的做法是:在子进程入口函数里调用 logging.basicConfig() 或手动配置 logger,确保 handler 不被复用。

  • 不要在主进程配置好 logger 后直接传给子进程(Process(target=..., args=(logger,))
  • 子进程中禁用继承:调用 logging.getLogger().handlers.clear() 再重新 addHandler
  • 若需统一日志文件,改用 QueueHandler + QueueListener(见下一条)
  • 注意 basicConfig() 在子进程中首次调用才生效;重复调用无效

需要合并到单个文件?用 QueueHandler + QueueListener

这是官方推荐的跨进程日志方案:所有子进程把 log record 发到一个 multiprocessing.Queue,由主进程里的 QueueListener 统一消费并写入文件。它规避了并发写问题,也保留了时间戳和进程名等上下文。

  • 必须在主进程创建 QueueQueueListener,并在主进程启动 listener(.start()
  • 子进程拿到 Queue 实例后,用 QueueHandler(queue) 替换默认 handler
  • 主进程退出前要调用 listener.stop(),否则可能丢失最后几条日志
  • 注意 Queue 是阻塞的,如果 listener 崩溃或没运行,子进程会卡住
import logging
from logging.handlers import QueueHandler, QueueListener
from multiprocessing import Process, Queue

def worker(q): logger = logging.getLogger() logger.setLevel(logging.INFO) logger.addHandler(QueueHandler(q)) # 只发不写 logger.info("from worker %d", Process.pid)

if name == "main": q = Queue() handler = logging.FileHandler("app.log") listener = QueueListener(q, handler) listener.start()

p = Process(target=worker, args=(q,))
p.start()
p.join()

listener.stop()  # 关键:必须显式 stop

调试时别忽略 spawn vs fork 的影响

Windows 默认用 spawn 启动子进程(重新导入主模块),而 Linux/macOS 默认 fork(内存拷贝)。这直接影响日志配置时机:

ecshop
ecshop

本版本全面兼容php5.6+,并且修复了许多官方程序的低级代码bug。在apache 2.4.17+php5.6.15环境下测试通过,人格保证无毒无木马,仅仅是一名ecshop热爱者心血来潮之作。ecshop编译更新日志:1、加入最新官方补丁。2、修改数据库连接底层为mysqli, 现在完美无缺了。3、再次对所有代码进行细节修复。4、adminers更新至1.1.2, 在线管理数据库的神器。5、测

下载

立即学习Python免费学习笔记(深入)”;

  • spawn 下,子进程不会执行 if __name__ == "__main__": 块外的代码,所以 logger 初始化必须放在 worker 函数内
  • fork 下,子进程可能意外继承父进程已打开的 FileHandler 文件句柄,导致 OSError: [Errno 9]
  • 统一做法:在 worker 开头加 logging.getLogger().handlers.clear(),再重建 handler

真正麻烦的是混合场景——比如用 concurrent.futures.ProcessPoolExecutor,底层可能切换启动方法,日志行为会悄悄变化。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

794

2023.08.22

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

929

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1136

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

814

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

456

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2355

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

827

2023.08.10

windows boot manager
windows boot manager

windows boot manager无法开机的解决方法:1、系统文件损坏,使用Windows安装光盘或USB启动盘进入恢复环境,选择修复计算机,然后选择自动修复;2、引导顺序错误,进入恢复环境,选择命令提示符,输入命令"bootrec /fixboot"和"bootrec /fixmbr",然后重新启动计算机;3、硬件问题,使用硬盘检测工具进行扫描和修复;4、重装操作系统。本专题还提供其他解决

1710

2023.08.28

java连接字符串方法汇总
java连接字符串方法汇总

本专题整合了java连接字符串教程合集,阅读专题下面的文章了解更多详细操作。

2

2026.02.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 8.5万人学习

Git 教程
Git 教程

共21课时 | 3.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号