0

0

Python 缓存导致的内存泄漏问题

冷漠man

冷漠man

发布时间:2026-02-15 16:44:59

|

554人浏览过

|

来源于php中文网

原创

@lru_cache默认maxsize=none导致内存持续增长,须显式设限;实例方法缓存含self易致冗余;参数须可哈希;不支持异步函数;缓存泄漏需检查引用链。

python 缓存导致的内存泄漏问题

lru_cache 不清空会持续占内存

Python 的 @lru_cache 默认缓存无限增长,一旦函数被高频调用且参数组合多,缓存对象不会自动释放,最终拖垮进程内存。这不是“缓存没命中”的问题,而是缓存本身成了内存黑洞。

常见错误现象:MemoryError 突然出现、ps aux 显示 Python 进程 RSS 持续上涨、用 tracemalloc 定位到大量 functools._lru_cache_wrapper 实例。

  • 必须显式设 maxsize,比如 @lru_cache(maxsize=128),不写等于 maxsize=None(即无上限)
  • 若逻辑上允许缓存复用但又怕累积,优先用小固定值(如 32 或 64),而非依赖“默认够用”
  • 调试时可用 your_func.cache_info() 查看当前命中/未命中/最大容量,别等 OOM 才想起查

类方法加 lru_cache 忘了 self 导致缓存错乱

@lru_cache 作用在实例方法上时,self 是缓存键的一部分 —— 但多数人没意识到:不同实例调用同一方法,哪怕参数完全一样,也会各自缓存一份。这既浪费内存,又可能掩盖状态不一致问题。

使用场景:工具类中封装了开销大的计算逻辑,想复用结果,但误把方法当纯函数用了。

立即学习Python免费学习笔记(深入)”;

AISEO
AISEO

AI创作对SEO友好的文案和文章

下载
  • 如果方法不依赖实例状态(即没读 self.xxx),改用静态方法 + @staticmethod + @lru_cache
  • 如果必须是实例方法且需跨实例共享缓存,手动把缓存移到类变量或模块级字典里,别依赖装饰器自动行为
  • 切记:缓存键是 (self, *args, **kwargs) 全量元组,selfid() 不同就绝不复用

缓存对象含不可哈希内容直接报错

只要参数里有 dictlistset 或自定义类(没实现 __hash__),@lru_cache 一调用就抛 TypeError: unhashable type。这不是配置问题,是底层用字典存缓存,键必须可哈希。

性能影响:有人试图把 json.dumps(args) 当键绕过,但序列化本身开销大,反而抵消缓存收益。

  • 检查所有入参类型,尤其注意隐式传入的 **kwargs —— 即便你没显写,调用方可能塞了 dict
  • 若必须缓存含非哈希结构的数据,提前转换为可哈希形式,例如用 tuple(sorted(kwargs.items())) 代替原 kwargs
  • 更稳妥的做法:在函数入口做参数归一化,把 list 转 tuple、dict 转 frozenset(tuple(sorted(d.items()))),再进缓存逻辑

异步函数不能直接套 lru_cache

@lru_cache 只支持同步函数,对 async def 直接装饰会静默失效 —— 表面不报错,实际每次调用都走新路径,缓存形同虚设。这是最隐蔽的“以为缓存了,其实没缓存”陷阱。

错误现象:压测时 QPS 上不去、CPU 持续高、日志显示重复执行耗时逻辑,但 cache_info() 始终是 CacheInfo(hits=0, ...)

  • 别给 async def@lru_cache,它根本不会生效
  • 需要异步缓存,用 aiocacheasync_lru 这类专为协程设计的库
  • 若只是想“先同步缓存再 await”,把耗时计算部分拆成独立同步函数并缓存,再在 async 函数里调它
缓存泄漏真正的麻烦不在“怎么加”,而在“谁在持引用”——比如缓存了某个大对象的引用,而该对象又间接引用了更多资源,这时光清缓存不够,得确认整个引用链是否断裂。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

441

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

544

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

318

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

81

2025.09.10

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

76

2026.02.13

微博网页版主页入口与登录指南_官方网页端快速访问方法
微博网页版主页入口与登录指南_官方网页端快速访问方法

本专题系统整理微博网页版官方入口及网页端登录方式,涵盖首页直达地址、账号登录流程与常见访问问题说明,帮助用户快速找到微博官网主页,实现便捷、安全的网页端登录与内容浏览体验。

49

2026.02.13

Flutter跨平台开发与状态管理实战
Flutter跨平台开发与状态管理实战

本专题围绕Flutter框架展开,系统讲解跨平台UI构建原理与状态管理方案。内容涵盖Widget生命周期、路由管理、Provider与Bloc状态管理模式、网络请求封装及性能优化技巧。通过实战项目演示,帮助开发者构建流畅、可维护的跨平台移动应用。

21

2026.02.13

TypeScript工程化开发与Vite构建优化实践
TypeScript工程化开发与Vite构建优化实践

本专题面向前端开发者,深入讲解 TypeScript 类型系统与大型项目结构设计方法,并结合 Vite 构建工具优化前端工程化流程。内容包括模块化设计、类型声明管理、代码分割、热更新原理以及构建性能调优。通过完整项目示例,帮助开发者提升代码可维护性与开发效率。

10

2026.02.13

Redis高可用架构与分布式缓存实战
Redis高可用架构与分布式缓存实战

本专题围绕 Redis 在高并发系统中的应用展开,系统讲解主从复制、哨兵机制、Cluster 集群模式及数据分片原理。内容涵盖缓存穿透与雪崩解决方案、分布式锁实现、热点数据优化及持久化策略。通过真实业务场景演示,帮助开发者构建高可用、可扩展的分布式缓存系统。

14

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.3万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号