0

0

用 Go 实现一个高性能的 LRU 缓存

冷漠man

冷漠man

发布时间:2026-01-29 12:53:34

|

269人浏览过

|

来源于php中文网

原创

不用 container/list 实现 LRU,因其 MoveToFront 触发频繁堆分配和接口装箱,GC 压力大;应使用泛型化自定义结构体节点,避免逃逸与间接跳转,配合 sync.RWMutex 保护并发安全。

用 go 实现一个高性能的 lru 缓存

为什么不用标准库container/list 直接拼 LRU?

很多人一上来就用 container/list 存 key-value,再配个 map[string]*list.Element 做索引——逻辑没错,但实际压测会发现:每次 MoveToFront 都触发链表节点重链接,GC 压力大,且 *list.Element 是堆分配对象,高频访问时小对象逃逸明显。更关键的是,list.Element.Valueinterface{},存结构体或指针都会发生接口装箱,带来额外内存和间接跳转开销。

实操建议:

  • 改用自定义双向链表节点结构体(非指针类型),避免接口装箱和堆分配
  • 把 key 和 value 都内联进节点,减少指针跳转层级
  • unsafe.Pointer 或固定大小数组管理节点池(可选),但多数场景下直接复用节点内存池已足够

sync.Map 能不能直接当 LRU 的哈希层用?

不能。虽然 sync.Map 并发安全、免锁读多写少,但它不提供「按访问顺序遍历」或「淘汰最久未用节点」的能力。你无法知道哪个 entry 是最老的,也没法在 Get 时自动更新位置。强行在 sync.Map 外套一层链表,又得自己处理并发下的链表操作竞态(比如两个 goroutine 同时 Get 同一个 key,都要 MoveToFront)。

实操建议:

  • sync.RWMutex 保护整个 LRU 实例,粒度粗但逻辑清晰;高并发下可考虑分片(shard)+ 每个 shard 独立锁
  • Get 和 Put 都需先加读锁(或写锁),更新链表位置必须原子完成,否则链表可能断裂
  • 淘汰逻辑(evict)必须在 Put 写锁持有期间完成,避免中间状态被其他 goroutine 观察到

如何让节点结构体零逃逸、缓存友好?

核心是两点:值语义 + 字段紧凑排列。Go 编译器对上小结构体优化很好,只要整个节点能被证明不会逃逸,就能避免 GC 开销和内存碎片。

示例节点定义:

type entry struct {
    key   string
    value interface{}
    next  *entry
    prev  *entry
}

注意:key stringvalue interface{} 仍会导致部分逃逸(尤其 value 是大结构体时)。更优做法是泛型化 + 类型约束:

51shop 网上商城系统
51shop 网上商城系统

51shop 由 PHP 语言开发, 使用快速的 MySQL 数据库保存数据 ,为中小型网站实现网上电子商务提供一个完美的解决方案.一、用户模块1. 用户注册:用户信息包括:用户ID、用户名、用户密码、性别、邮箱、省份、城市、 联系电话等信息,用户注册后不能立即使用,需由管理员激活账号,才可使用(此功能管理员可设置)2. 登录功能3. 资料修改:用户可修改除账号以后的所有资料4. 忘记密码:要求用

下载
type LRUCache[K comparable, V any] struct {
    mu       sync.RWMutex
    capacity int
    size     int
    head     *entry[K, V]
    tail     *entry[K, V]
    cache    map[K]*entry[K, V]
}

type entry[K comparable, V any] struct {
    key   K
    value V
    next  *entry[K, V]
    prev  *entry[K, V]
}

这样 value V 是具体类型,编译期确定大小,无接口开销;若 V 是小类型(如 int64[16]byte),整个 entry 很可能全程栈分配。

Put 时淘汰策略怎么写才不漏、不崩?

常见错误是先删 map 再删链表,或反过来——如果中间 panic(比如 value 序列化失败),链表和 map 状态就不同步了。还有的实现把淘汰逻辑放在 goroutine 里异步做,导致缓存瞬间超限。

正确做法是:所有变更(插入新节点、删除旧节点、更新 map、调整链表指针)必须在同一个写锁临界区内原子完成。

实操要点:

  • 淘汰前先检查 size > capacity,只在真正超限时触发
  • tail 开始删,删完立刻从 cache 中 delete 对应 key,再 tail = tail.prev,最后置 tail.next = nil
  • 被删节点的 prev/next 指针要显式置为 nil,避免悬垂指针被误用
  • 如果 value 是需要显式释放的资源(如 []byte 缓冲区),在这里做 value = V{} 或调用回收函数

LRU 最容易被忽略的不是算法,而是边界:空 cache 的 head/tail 初始化、单节点时的前后指针自环、并发 Get/Put 交叉时链表断裂检测——这些地方不加断言或测试覆盖,上线后只会在高负载下偶发 panic 或数据错乱。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

182

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

229

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

343

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

209

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

394

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

220

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

193

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

418

2025.06.17

java入门学习合集
java入门学习合集

本专题整合了java入门学习指南、初学者项目实战、入门到精通等等内容,阅读专题下面的文章了解更多详细学习方法。

1

2026.01.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 4.3万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号