0

0

如何使用Golang实现并发LRU缓存_双向链表与锁的结合

P粉602998670

P粉602998670

发布时间:2026-02-25 15:55:02

|

574人浏览过

|

来源于php中文网

原创

不能直接用 sync.map 做 lru,因其无访问序、不支持 o(1) 节点移动,且超限淘汰需遍历,高并发下性能差;正确做法是用 sync.rwmutex 保护的 map + container/list 组合,以 map 长度为淘汰依据,并配 onevict 回调释放大对象资源。

如何使用golang实现并发lru缓存_双向链表与锁的结合

为什么不能直接用 sync.Map 做 LRU

因为 sync.Map 不保证访问顺序,也没法在容量超限时自动淘汰最久未用的项。LRU 的核心是「按访问时间排序 + 快速移动节点到头部」,而 sync.Map 是哈希分片结构,没有链表序,也不支持 O(1) 的节点位置更新。

常见错误现象:sync.Map 配合时间戳做淘汰 → 查找最旧项要遍历全部 key,高并发下锁竞争剧烈,且无法保证“最近访问”语义(比如 Get 后没更新时间戳,或更新不及时)。

  • 真正需要的是带访问时序感知的结构:双向链表 + 哈希映射
  • 必须把「节点移动到头」和「哈希查找」都控制在 O(1),否则并发下性能断崖下跌
  • 不要试图给 sync.Map 加锁后手动维护链表 —— 锁粒度难控制,极易死锁或漏更新

如何安全地把 list.Element 和 map 结合使用

Go 标准库 container/list*list.Element 本身不带 key,必须靠 map[string]*list.Element 建立反查。但这里有个关键陷阱:map 存的是指针,而 list.Remove() 后该指针仍存在,若后续误用会 panic 或读到脏数据。

实操建议:

立即学习go语言免费学习笔记(深入)”;

  • 每次 list.Remove() 后,立刻从 map 中 delete 对应 key,避免悬挂指针
  • 所有对链表的操作(MoveToFrontRemovePushFront)必须和 map 更新放在同一把锁下 —— 推荐用 sync.RWMutex,读多写少场景下比 sync.Mutex 更友好
  • 不要把 *list.Element 暴露给调用方;封装成私有结构体字段,防止外部误调 Next()/Prev()

示例片段(非完整实现):

PopShort.AI
PopShort.AI

PopShort是一个AI短剧生成平台

下载
type entry struct {
    key   string
    value interface{}
}
...
e := l.PushFront(&entry{key: k, value: v})
m[k] = e // map 更新必须紧跟 PushFront

读写锁怎么分粒度才不拖慢并发性能

全局一把 sync.Mutex 看似简单,但 Get 和 Put 会互相阻塞,吞吐量上不去。可拆成「读锁保护 map 查找 + 小范围写锁保护链表操作」,但要注意:链表操作本身可能触发淘汰,淘汰又要删 map,所以 map 和链表更新必须原子。

更稳妥的做法是两把锁配合:

  • sync.RWMutex 保护 map 读写(Get 查、Put 写、Del 删)
  • 链表操作(MoveToFrontRemovePushFront)本身无锁 —— 因为 container/list 不是并发安全的,必须由上层锁兜底
  • 淘汰逻辑(当 len(map) > cap 时)必须在写锁内完成:先删链表尾、再删 map 对应 key,顺序不能反

性能影响:如果锁粒度太粗(比如整个 Get 流程持写锁),QPS 会随 goroutine 数增加而下降;实测中,读写分离后 16 核机器上 QPS 可提升 3–5 倍。

为什么淘汰策略里不能只看链表长度

链表长度 == map 长度,看似等价,但并发下可能出现「map 已删 key,链表节点还没 Remove」的窗口期,导致 len(list) > len(map),单纯用 l.Len() > c.capacity 判断会漏淘汰或重复淘汰。

正确做法永远以 map 长度为准:

  • 淘汰触发条件是 len(m) > c.capacity,不是 l.Len() > c.capacity
  • 每次 Put 新 key 前检查,淘汰完再插入;每次 Delete 后也检查(防止主动删导致容量空余)
  • 注意:list.Remove() 不会自动释放内存,但 Go GC 会回收,无需手动置 nil —— 但 map delete 必须做,否则 key 泄漏

容易被忽略的一点:如果缓存值本身很大(比如 []byte),淘汰时仅删除 map 和链表引用还不够,最好加个回调钩子(如 onEvict func(key string, value interface{})),让使用者能显式释放资源。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

207

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

242

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

350

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

212

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

405

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

365

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

200

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

1111

2025.06.17

batoto漫画官网入口与网页版访问指南
batoto漫画官网入口与网页版访问指南

本专题系统整理batoto漫画官方网站最新可用入口,涵盖最新官网地址、网页版登录页面及防走失访问方式说明,帮助用户快速找到batoto漫画官方平台,稳定在线阅读各类漫画内容。

65

2026.02.25

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 5.5万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号