0

0

如何实现一个简单的限流算法_基于Semaphore或原子计数器的实战

P粉602998670

P粉602998670

发布时间:2026-02-14 13:11:02

|

644人浏览过

|

来源于php中文网

原创

semaphore常被误用为“伪限流”因其仅控制并发数而非单位时间请求数,不自动释放许可且无时间窗口感知,易因未配对调用acquire/release导致许可泄漏、线程阻塞或qps失控。

如何实现一个简单的限流算法_基于semaphore或原子计数器的实战

Semaphore 做限流,为什么常被误用成“伪限流”

因为 Semaphore 控制的是并发数,不是单位时间请求数——它不自动释放许可,也不感知时间窗口。你 acquire() 一次,就占一个坑,直到你显式 release() 或者发生异常没兜住,这个坑就一直空不回来。

常见错误现象:Semaphore 的许可数明明设了 10,但压测发现 QPS 超过 10,甚至到几百;或者服务跑半天后突然卡死,日志里满屏 InterruptedException 或线程阻塞在 acquire()

  • 必须在 try-finally 里配对调用 acquire()release(),漏掉 release() 就等于内存泄漏(许可泄漏)
  • 别用 acquireUninterruptibly() 掩盖中断问题,它会让线程彻底失去响应能力
  • 如果业务逻辑可能超时,得用带超时的 tryAcquire(long timeout, TimeUnit unit),否则阻塞线程池会耗尽
  • Semaphore 适合保护下游资源(如 DB 连接池、HTTP 客户端连接),不适合做 API 层的“每秒最多 100 次”这种滑动窗口限流

原子计数器 + 时间窗口:手写最简滑动窗口限流的致命细节

AtomicLong 记当前窗口内请求数,配合时间戳判断是否跨窗——听起来简单,但实际极易出错。核心问题不在计数,而在“窗口怎么切”。

常见错误现象:限流阈值忽高忽低,比如设了每秒 5 次,结果某秒放行 8 次,下秒又只让过 2 次;或者高并发下计数器突增,远超预期。

  • 别用 System.currentTimeMillis() 做窗口键——它精度低(毫秒级)、可能回拨,会导致窗口错乱;改用 System.nanoTime() 算相对偏移,再映射到秒级桶
  • 窗口不能靠“清零”实现,要靠“桶滚动”。例如每秒一个桶,用 long windowId = System.nanoTime() / 1_000_000_000 当前窗口 ID,用 ConcurrentHashMap<long atomiclong></long> 存桶,但必须定期清理过期桶(否则 OOM)
  • incrementAndGet() 后立刻检查是否超限,但要注意:超限后不能直接拒绝——得先确认这个请求确实属于该窗口(避免因时钟漂移或重试导致误判)
  • 单机可用,但集群下完全失效;想跨节点限流,得上 Redis + Lua(如 INCREXPIRE),否则各节点各自为政

Redis + Lua 实现原子限流:为什么非得用 Lua 脚本

因为 INCREXPIRE 两步操作不具备原子性。如果先 INCREXPIRE,中间进程崩溃或网络断开,key 就永久存在,限流彻底失效。

Lovable
Lovable

AI辅助编程工具

下载

使用场景:微服务网关层、API 门面、需要集群统一视图的限流点。

  • Lua 脚本必须把 key、maxCount、expireSec 作为参数传入,不要硬编码;脚本里用 redis.call('INCR', KEYS[1]),再用 redis.call('EXPIRE', KEYS[1], ARGV[2]) 确保原子
  • 注意 Redis 的 EXPIRE 对已存在的 key 不会重置 TTL,所以首次 INCR 后必须确保 EXPIRE 成功;更稳妥是用 SET key value EX seconds NX 初始化,但需拆成多步,反而难保原子
  • 返回值建议设计为:-1=超限,0=初始化成功,>0=当前计数;客户端根据返回值决定放行或拒绝,别依赖状态码或异常
  • 别用 redisTemplate.execute() 直接传字符串脚本——容易注入;Spring Boot 2.6+ 推荐用 DefaultRedisScript 预编译 + 参数绑定

Semaphore 还是原子计数器?看你的瓶颈在哪

这不是个“哪个更好”的问题,而是“你在防什么”的问题。限流目标错了,算法再漂亮也白搭。

性能影响明显:高并发下 AtomicLong.incrementAndGet()Semaphore.tryAcquire() 更轻量,但前者不阻塞,后者能天然削峰;而 Redis 方案延迟固定在 1–2ms,但吞吐受网络和 Redis 性能制约。

  • 保护本地资源(如文件句柄、计算线程池)→ 用 Semaphore,重点管住并发数
  • 控制单机 API 频率(如用户每分钟发 10 条消息)→ 用原子计数器 + 时间窗口,重点管住时间维度
  • 全局策略(如全站每秒最多 1 万次搜索)→ 必须用 Redis + Lua,否则节点间无法协同
  • 别在 Controller 层直接 new Semaphore(10)——生命周期错位,每次请求都新建对象,限流形同虚设

真正难的从来不是写几行限流代码,而是说清楚“到底要挡住什么流量、挡住之后怎么反馈、挡不住时谁来兜底”。这些不定义清楚,算法只是纸面装饰。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
spring框架介绍
spring框架介绍

本专题整合了spring框架相关内容,想了解更多详细内容,请阅读专题下面的文章。

131

2025.08.06

Java Spring Security 与认证授权
Java Spring Security 与认证授权

本专题系统讲解 Java Spring Security 框架在认证与授权中的应用,涵盖用户身份验证、权限控制、JWT与OAuth2实现、跨站请求伪造(CSRF)防护、会话管理与安全漏洞防范。通过实际项目案例,帮助学习者掌握如何 使用 Spring Security 实现高安全性认证与授权机制,提升 Web 应用的安全性与用户数据保护。

80

2026.01.26

spring boot框架优点
spring boot框架优点

spring boot框架的优点有简化配置、快速开发、内嵌服务器、微服务支持、自动化测试和生态系统支持。本专题为大家提供spring boot相关的文章、下载、课程内容,供大家免费下载体验。

137

2023.09.05

spring框架有哪些
spring框架有哪些

spring框架有Spring Core、Spring MVC、Spring Data、Spring Security、Spring AOP和Spring Boot。详细介绍:1、Spring Core,通过将对象的创建和依赖关系的管理交给容器来实现,从而降低了组件之间的耦合度;2、Spring MVC,提供基于模型-视图-控制器的架构,用于开发灵活和可扩展的Web应用程序等。

402

2023.10.12

Java Spring Boot开发
Java Spring Boot开发

本专题围绕 Java 主流开发框架 Spring Boot 展开,系统讲解依赖注入、配置管理、数据访问、RESTful API、微服务架构与安全认证等核心知识,并通过电商平台、博客系统与企业管理系统等项目实战,帮助学员掌握使用 Spring Boot 快速开发高效、稳定的企业级应用。

70

2025.08.19

Java Spring Boot 4更新教程_Java Spring Boot 4有哪些新特性
Java Spring Boot 4更新教程_Java Spring Boot 4有哪些新特性

Spring Boot 是一个基于 Spring 框架的 Java 开发框架,它通过 约定优于配置的原则,大幅简化了 Spring 应用的初始搭建、配置和开发过程,让开发者可以快速构建独立的、生产级别的 Spring 应用,无需繁琐的样板配置,通常集成嵌入式服务器(如 Tomcat),提供“开箱即用”的体验,是构建微服务和 Web 应用的流行工具。

101

2025.12.22

Java Spring Boot 微服务实战
Java Spring Boot 微服务实战

本专题深入讲解 Java Spring Boot 在微服务架构中的应用,内容涵盖服务注册与发现、REST API开发、配置中心、负载均衡、熔断与限流、日志与监控。通过实际项目案例(如电商订单系统),帮助开发者掌握 从单体应用迁移到高可用微服务系统的完整流程与实战能力。

241

2025.12.24

Spring Boot企业级开发与MyBatis Plus实战
Spring Boot企业级开发与MyBatis Plus实战

本专题面向 Java 后端开发者,系统讲解如何基于 Spring Boot 与 MyBatis Plus 构建高效、规范的企业级应用。内容涵盖项目架构设计、数据访问层封装、通用 CRUD 实现、分页与条件查询、代码生成器以及常见性能优化方案。通过完整实战案例,帮助开发者提升后端开发效率,减少重复代码,快速交付稳定可维护的业务系统。

12

2026.02.11

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

23

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号