0

0

C++如何实现带TTL(生存时间)的本地高速缓存?(缓存失效机制)

冰火之心

冰火之心

发布时间:2026-03-04 11:16:01

|

307人浏览过

|

来源于php中文网

原创

直接用 std::unordered_map + 后台线程定时清理会导致迭代器失效、数据竞争、清理延迟不可控;ttl 需时间戳但 map 不存元信息,必须封装结构;读需实时判断过期,不能依赖后台扫描;std::chrono::steady_clock::now() 是唯一可靠时基。

c++如何实现带ttl(生存时间)的本地高速缓存?(缓存失效机制)

std::unordered_map + 定时清理会出什么问题?

直接往 std::unordered_map 里塞键值对再配个后台线程遍历删过期项,看似简单,实际在高并发读写下极易出错:迭代器失效、数据竞争、清理延迟不可控。更麻烦的是,TTL 判断必须依赖写入时间戳,但 std::unordered_map 不存元信息,得自己包一层结构——这已经不是“加个 map”能解决的事了。

  • 每次读都要检查 expire_time 字段,不能靠后台单次扫描代替实时判断
  • 写操作需原子更新时间戳,std::chrono::steady_clock::now() 是唯一可靠时基(不用 system_clock,它可能被系统调时拖垮 TTL)
  • 后台清理线程若只做“尽力而为”的扫描,必须接受“过期项仍可能被读到”的事实——这是 TTL 缓存的正常行为,不是 bug

LRU + TTL 混合策略怎么避免双重开销?

纯 LRU 不管时间,纯 TTL 不管容量,两者叠加容易让每次 get() 都要查时间戳+挪链表位置,性能雪崩。关键在分离关注点:TTL 控制“是否可读”,LRU 控制“要不要淘汰”,且淘汰动作只发生在写入或显式清理时,不污染读路径。

  • 读操作只做两件事:查 expire_time > now(),命中则把节点移到 LRU 表头(无锁前提下可用 std::shared_mutex 读锁保护)
  • 写操作才触发完整流程:插入/更新值 + 时间戳 + LRU 位置;若缓存满,按 LRU 链尾开始逐个检查 TTL,跳过未过期项,直到腾出空间
  • 别用 std::listunordered_map 存迭代器——迭代器失效风险高;改用带索引的双向链表节点(如自定义 CacheNode 结构体,含前后指针和 key 副本)

多线程下 std::shared_mutexstd::mutex 怎么选?

读多写少是本地缓存典型场景,std::shared_mutex 能显著提升并发读吞吐,但它在部分旧版 libstdc++(如 GCC 8 之前)不支持,Windows 上 VS2015 起才有。一旦目标环境不确定,宁可统一用 std::mutex,别为理论性能引入兼容性雷。

WPS灵犀
WPS灵犀

WPS灵犀是WPS推出的一款AI智能办公和学习助手

下载
  • std::shared_mutex 时,get()lock_shared()set() 和清理用 lock();注意它不支持递归,重复 lock_shared() 会导致死锁
  • 如果选用 std::mutex,别在 get() 里做耗时操作(比如日志、网络回调),否则所有读被串行化
  • 清理线程的锁粒度要细:不要整个缓存加锁再遍历,而是对每个待检查节点单独加锁(或用无锁队列暂存待删 key,由工作线程异步处理)

为什么 std::chrono::millisecondstime_t 更适合 TTL 存储?

time_t 是秒级整数,精度不够,且依赖系统时钟;而 TTL 往往是毫秒甚至微秒级(比如 300ms 的 API 响应缓存),用 time_t 存会导致大量“刚过期就命中”或“提前失效”。std::chrono::steady_clock::time_point 是唯一正解——它不随系统时间调整跳变,差值计算稳定。

立即学习C++免费学习笔记(深入)”;

  • 存储时用 steady_clock::now() + std::chrono::milliseconds(ttl_ms),不是 system_clock::now()
  • 比较时直接用 if (expire_time ,别转成 long 再算,避免溢出和精度丢失
  • 如果接口必须接收 int ttl_seconds,立刻转成 std::chrono::seconds 再累加,别在内部用 time(nullptr) 算绝对时间

真正难的从来不是“怎么存过期时间”,而是当多个线程同时触发写入、读取、后台清理时,如何让 expire_time 的更新、检查、删除三者不互相干扰。很多实现卡在“测试单线程全过,一压测就丢数据”——那大概率是时间戳更新没和主数据写入绑在同一个原子操作里。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

839

2023.08.22

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

428

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

201

2025.07.04

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

910

2023.08.02

int占多少字节
int占多少字节

int占4个字节,意味着一个int变量可以存储范围在-2,147,483,648到2,147,483,647之间的整数值,在某些情况下也可能是2个字节或8个字节,int是一种常用的数据类型,用于表示整数,需要根据具体情况选择合适的数据类型,以确保程序的正确性和性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

600

2024.08.29

c++怎么把double转成int
c++怎么把double转成int

本专题整合了 c++ double相关教程,阅读专题下面的文章了解更多详细内容。

294

2025.08.29

C++中int的含义
C++中int的含义

本专题整合了C++中int相关内容,阅读专题下面的文章了解更多详细内容。

212

2025.08.29

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1774

2023.10.19

AI安装教程大全
AI安装教程大全

2026最全AI工具安装教程专题:包含各版本AI绘图、AI视频、智能办公软件的本地化部署手册。全篇零基础友好,附带最新模型下载地址、一键安装脚本及常见报错修复方案。每日更新,收藏这一篇就够了,让AI安装不再报错!

0

2026.03.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 10.6万人学习

C 教程
C 教程

共75课时 | 5.1万人学习

C++教程
C++教程

共115课时 | 20.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号