0

0

Python 内存泄漏的定位与解决

冷漠man

冷漠man

发布时间:2026-02-23 20:24:11

|

486人浏览过

|

来源于php中文网

原创

用 tracemalloc 可快速定位 python 内存增长源头:需尽早 start(),在稳定复现路径前后 take_snapshot(),再 compare_to() 查增量代码行;注意其不跟踪 c 扩展内存。

python 内存泄漏的定位与解决

tracemalloc 快速定位内存增长源头

Python 程序跑着跑着变慢、RSS 内存持续上涨,大概率不是 GC 失效,而是对象被意外持有。别急着翻 gc.get_objects(),先用标准库的 tracemalloc——它开销小、精度够、自带调用栈追踪。

关键不是“开了就看”,而是得在**稳定复现路径前启动、在增长后快照比对**:

  • tracemalloc.start() 要尽早调用,最好在主模块导入后第一行(避免漏掉初始化阶段的分配)
  • 触发疑似泄漏的操作后,用 tracemalloc.take_snapshot() 拍两份快照,再用 snapshot1.compare_to(snapshot2, 'lineno') 查增量最大的 10 行
  • 注意默认只跟踪 Python 分配,C 扩展(如 NumPy 数组底层内存)不计入;若怀疑 C 层泄漏,得换 valgrindmemray

gc.garbage 里真有活对象?别信,先确认循环引用是否被打破

看到 gc.garbage 非空,不代表一定泄漏——它只是 GC 暂时无法回收的循环引用集合。很多情况下,这些对象后续会被正常清理,或者根本没逃过 finalizer。

真正要盯的是:这些对象是否在业务逻辑结束后仍长期驻留?检查步骤很直接:

立即学习Python免费学习笔记(深入)”;

Codearts代码智能体
Codearts代码智能体

华为云Codearts平台推出的AI编码智能体

下载
  • 手动触发 gc.collect() 后再查 gc.garbage,如果长度不变且对象类型固定(比如全是某个自定义类实例),才值得深挖
  • gc.get_referrers(obj) 查谁还拿着它,重点看是不是被全局 dict、缓存、信号回调、线程局部存储(threading.local)或 logging handler 意外强引用
  • 常见陷阱:functools.lru_cache 缓存未设 maxsizeweakref.WeakKeyDictionary 错写成普通 dict、用类变量存实例引用

异步任务(asyncio)里忘了 await 或漏了 cancel() 就会吃内存

协程对象本身不占多少内存,但一旦被创建却没被调度或取消,它关联的帧对象(frame)、局部变量、上下文就会一直挂着——尤其在长周期服务中,这种“幽灵 task”越积越多。

排查和防御都得从事件循环入手:

  • asyncio.all_tasks(loop) 列出所有存活 task,过滤掉 done()Falsecancelled()False 的,它们就是可疑分子
  • 启动 task 时务必用 asyncio.create_task() 而非直接调用协程函数;取消时用 task.cancel() + await task,别只 cancel 不 await
  • 日志打点要小心:logging.info(f"start {obj}") 中的 obj 若含大字段或闭包,可能让整个帧无法释放

第三方库的缓存策略常是隐藏泄漏源,尤其 ORM 和 HTTP 客户端

Django ORM 的 QuerySet、SQLAlchemy 的 session、requests 的连接池、aiohttp 的 ClientSession——它们内部都有缓存或连接保持机制,用错一次,内存就悄悄涨一点。

不能全靠文档,得看实际行为:

  • Django 中避免在循环里反复调用 qs.filter(...) 却不执行(如不加 list()len()),因为每个 filter 都生成新 QuerySet,而 QuerySet 会缓存 SQL 和结果元信息
  • SQLAlchemy 的 session.query(...).all() 返回的 list 里对象仍被 session 强引用,不用时显式调用 session.expunge_all() 或用 session.close()
  • aiohttp 的 ClientSession 必须配合 async with 使用,手写 session = ClientSession(); await session.get(...) 而不 close,连接和相关缓冲区就一直占着

最麻烦的其实是“看起来没问题”的组合:比如用 lru_cache 包裹一个返回 pandas DataFrame 的函数,DataFrame 本身引用了大量 numpy 数组,缓存键又没控制好粒度——这时候 tracemalloc 显示的往往是 pandas.core.frame.DataFrame,但根因在缓存策略上。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

1026

2023.10.12

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

335

2023.10.27

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

379

2024.02.23

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

1822

2024.03.06

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

377

2024.03.06

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

1394

2024.04.07

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

585

2024.04.29

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

437

2024.04.29

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

1127

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号