0

0

如何用Java实现一个简单的LRU内存缓存框架_底层数据结构设计与过期淘汰

P粉602998670

P粉602998670

发布时间:2026-03-11 16:08:32

|

546人浏览过

|

来源于php中文网

原创

因为linkedhashmap不支持自动淘汰、过期时间和线程安全,需重写removeeldestentry并结合容量与过期双重判断,且底层不能换concurrenthashmap,get时须用system.nanotime()惰性校验过期并原子移除。

如何用java实现一个简单的lru内存缓存框架_底层数据结构设计与过期淘汰

为什么不用 LinkedHashMap 直接继承就完事?

因为默认的 LinkedHashMap 只支持访问顺序(accessOrder = true)或插入顺序,但不自动触发淘汰——你得自己在 put 之后判断 size 并手动 removeEldestEntry。更关键的是:它不支持过期时间,也没有线程安全机制。

常见错误现象:ConcurrentModificationException 在多线程读写时频繁抛出;缓存项“永远不淘汰”,哪怕设置了 TTL;removeEldestEntry 返回 true 后,被删的 entry 没有回调通知,无法清理关联资源。

  • 必须重写 removeEldestEntry,且返回逻辑要结合容量 + 过期双重判断
  • 如果用 java.util.concurrent.ConcurrentHashMap 替代底层存储,会丢失访问顺序——LinkedHashMap 的双向链表特性不能被并发哈希表替代
  • 过期检查不能只靠写入时戳,得在 get 时惰性校验,否则长期不访问的脏数据会滞留

get 时怎么安全检查过期并剔除?

不能只比对 System.currentTimeMillis() 和写入时间戳,因为系统时钟可能回拨(NTP 同步、虚拟机休眠),导致大量误淘汰。要用 System.nanoTime() 记录相对过期时间,再配合一个基准偏移量做转换。

使用场景:缓存项带 expireAfterWrite = 60_000L(毫秒),但应用部署在时钟不稳的容器中。

立即学习Java免费学习笔记(深入)”;

星月写作
星月写作

专为网络小说、 剧本创作者打造的AI增效工具

下载
  • get 方法里先取节点,再用 System.nanoTime() - node.accessNanos > node.expireNanos 判断是否过期
  • 过期后必须调用 remove 并返回 null,不能只返回旧值
  • 注意:remove 操作需同步链表和哈希表两处结构,否则出现“查不到但链表里还连着”的脏状态

淘汰策略和容量控制怎么不拖慢 put

LRU 的核心开销在链表节点移动(moveToHead)和尾部驱逐(removeTail)。如果每次 put 都检查容量并遍历链表找最老项,O(n) 复杂度直接废掉性能。

性能影响:10 万条缓存下,未优化的 put 平均耗时从 50ns 涨到 8μs 以上。

  • 把容量上限检查放在 afterNodeInsertion 回调里,由 LinkedHashMap 自动触发,避免手动扫描
  • 驱逐动作必须原子:先从链表断开节点,再从哈希表 remove,顺序反了会导致内存泄漏
  • 不要在驱逐时执行用户自定义的 onEvict 回调——它可能阻塞,应异步投递到线程池

为什么 WeakReferenceSoftReference 不适合做 LRU 缓存主体?

GC 触发时机不可控,JVM 可能在内存充足时就回收 SoftReference,也可能在 OOM 前都不动它。而 LRU 是确定性淘汰策略,依赖精确的访问序和容量阈值。

兼容性影响:OpenJDK 17+ 对 SoftReference 的保留策略已变更,默认更激进回收;GraalVM Native Image 中弱引用行为与 HotSpot 完全不同。

  • WeakReference 一 GC 就丢,根本撑不到 LRU 淘汰逻辑执行
  • 若用弱引用来包装 value,需额外维护强引用防止提前回收——这又回到原始问题:谁来管这个强引用的生命周期?
  • 真正该用弱引用的地方只有 key(比如缓存 classloader 敏感对象),但 key 弱化后,get 时需重建 key 哈希,成本更高

最易被忽略的一点:缓存项的 hashCodeequals 必须稳定。如果 value 是可变对象,后续 get 时因字段变化导致哈希错位,就会查不到——这不是淘汰问题,是设计缺陷。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

254

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

1089

2024.03.01

treenode的用法
treenode的用法

​在计算机编程领域,TreeNode是一种常见的数据结构,通常用于构建树形结构。在不同的编程语言中,TreeNode可能有不同的实现方式和用法,通常用于表示树的节点信息。更多关于treenode相关问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

548

2023.12.01

C++ 高效算法与数据结构
C++ 高效算法与数据结构

本专题讲解 C++ 中常用算法与数据结构的实现与优化,涵盖排序算法(快速排序、归并排序)、查找算法、图算法、动态规划、贪心算法等,并结合实际案例分析如何选择最优算法来提高程序效率。通过深入理解数据结构(链表、树、堆、哈希表等),帮助开发者提升 在复杂应用中的算法设计与性能优化能力。

30

2025.12.22

深入理解算法:高效算法与数据结构专题
深入理解算法:高效算法与数据结构专题

本专题专注于算法与数据结构的核心概念,适合想深入理解并提升编程能力的开发者。专题内容包括常见数据结构的实现与应用,如数组、链表、栈、队列、哈希表、树、图等;以及高效的排序算法、搜索算法、动态规划等经典算法。通过详细的讲解与复杂度分析,帮助开发者不仅能熟练运用这些基础知识,还能在实际编程中优化性能,提高代码的执行效率。本专题适合准备面试的开发者,也适合希望提高算法思维的编程爱好者。

44

2026.01.06

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

377

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

31

2026.01.21

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Kotlin 教程
Kotlin 教程

共23课时 | 4.3万人学习

C# 教程
C# 教程

共94课时 | 11.1万人学习

Java 教程
Java 教程

共578课时 | 80.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号