0

0

c# 接口限流的实现 c# 令牌桶算法和漏桶算法

星降

星降

发布时间:2026-02-02 11:33:23

|

395人浏览过

|

来源于php中文网

原创

直接用 Microsoft.Extensions.RateLimiting 是因它已内置线程安全、分布式支持的令牌桶实现,手写易遗漏竞态处理、时间精度和突发流量逻辑;核心参数需结合接口响应时间设定,如 PermitLimit 对应最大并发数,TokensPerPeriod 与 ReplenishmentPeriod 共同决定平均吞吐,QueueLimit 应根据超时容忍度合理设置。

c# 接口限流的实现 c# 令牌桶算法和漏桶算法

为什么直接用 Microsoft.Extensions.RateLimiting 而不是手写令牌桶

ASP.NET Core 7+ 内置的限流中间件已默认采用令牌桶(TokenBucketRateLimiter)实现,且做了线程安全、跨请求共享、支持分布式(配合 IDistributedCache)等关键优化。手写容易漏掉:Interlocked 竞态处理、滑动窗口时间精度、突发流量下的令牌预分配逻辑。除非你明确需要自定义填充策略(比如按 CPU 使用率动态调速),否则不建议从零实现。

TokenBucketRateLimiter 的核心配置参数怎么设才合理

关键参数不是“桶大小”和“填充速率”两个数字,而是它们与业务响应时间的耦合关系。例如:接口平均耗时 200ms,但允许最多 5 个并发请求瞬间打进来,那么 PermitLimit 至少为 5;若希望每秒最多放行 10 次,则 QueueProcessingOrder 设为 FifoQueueLimit 建议不超 5(避免排队过长导致超时),ReplenishmentPeriod 设为 TimeSpan.FromSeconds(1)TokensPerPeriod 设为 10。

  • PermitLimit:桶容量,决定最大并发请求数,不是 QPS —— 它限制的是“同时能抢到令牌的请求数”
  • TokensPerPeriodReplenishmentPeriod 共同决定平均吞吐,但不保证每秒精确放行——令牌是随时间匀速填充的,不是定时触发
  • 若接口 P99 响应时间达 2s,QueueLimit 设太高会导致后续请求在队列里等满 30s 才被拒绝,应设为 Math.Min(5, (int)(30 / avgResponseSeconds))

漏桶算法在 C# 里其实很少单独用

漏桶强调恒定输出速率,天然适合做“削峰填谷”,但 .NET 生态中几乎没有开箱即用的漏桶限流器。Microsoft.Extensions.RateLimiting 不提供漏桶实现,第三方库如 AspNetCoreRateLimit 也只支持滑动窗口或固定窗口。真要模拟漏桶,得自己维护一个按固定间隔出队的 ConcurrentQueue + Timer,但会引入时钟漂移、GC 暂停导致漏速不准等问题。实际项目中,更常见的是用消息队列(如 RabbitMQ 的 x-max-length + x-overflow=reject-publish)在网关层做漏桶语义。

PPT.AI
PPT.AI

AI PPT制作工具

下载

分布式场景下令牌桶怎么保持一致性

单机 TokenBucketRateLimiter 默认用内存存储,集群部署时必须切换为分布式模式。关键不是换存储,而是选对序列化方式:IDistributedCache 存的是 TokenBucketState 结构体,含 AvailableTokensLastReplenishedUtc 等字段。Redis 是首选,但要注意:StackExchange.RedisStringGetAsync + StringSetAsync 必须用 Lua 脚本保证原子性,否则多个实例可能同时读到旧值并各自填充,导致超发。官方限流器已内置该脚本,只需确认你用的是 RedisRateLimiter(.NET 8+)或配置了 AddDistributedRateLimiter 并注入 RedisCache 实例。

services.AddRateLimiter(options =>
{
    options.AddPolicy("api", context =>
        context.Request.RouteValues["controller"]?.ToString() == "Api"
            ? new TokenBucketRateLimiterOptions
            {
                PermitLimit = 10,
                TokensPerPeriod = 10,
                ReplenishmentPeriod = TimeSpan.FromSeconds(1),
                QueueLimit = 3
            }
            : new FixedWindowRateLimiterOptions { PermitLimit = 100, Window = TimeSpan.FromMinutes(1) });
});

真正难的不是配参数,而是理解“令牌桶”本质是个带状态的时间函数——它把请求速率映射成一个可加减的整数,而这个整数在分布式环境下必须靠强一致存储兜底。多数人卡在 Redis 连接超时没重试、缓存键没加前缀导致多服务冲突、或者误把 QueueLimit 当作总请求数限制。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
rabbitmq和kafka有什么区别
rabbitmq和kafka有什么区别

rabbitmq和kafka的区别:1、语言与平台;2、消息传递模型;3、可靠性;4、性能与吞吐量;5、集群与负载均衡;6、消费模型;7、用途与场景;8、社区与生态系统;9、监控与管理;10、其他特性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

203

2024.02.23

Java 消息队列与异步架构实战
Java 消息队列与异步架构实战

本专题系统讲解 Java 在消息队列与异步系统架构中的核心应用,涵盖消息队列基本原理、Kafka 与 RabbitMQ 的使用场景对比、生产者与消费者模型、消息可靠性与顺序性保障、重复消费与幂等处理,以及在高并发系统中的异步解耦设计。通过实战案例,帮助学习者掌握 使用 Java 构建高吞吐、高可靠异步消息系统的完整思路。

13

2026.01.28

什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

352

2023.08.11

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

236

2023.10.07

什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

178

2024.05.11

Golang 中间件开发与微服务架构
Golang 中间件开发与微服务架构

本专题系统讲解 Golang 在微服务架构中的中间件开发,包括日志处理、限流与熔断、认证与授权、服务监控、API 网关设计等常见中间件功能的实现。通过实战项目,帮助开发者理解如何使用 Go 编写高效、可扩展的中间件组件,并在微服务环境中进行灵活部署与管理。

217

2025.12.18

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

282

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

192

2025.07.04

AO3官网入口与中文阅读设置 AO3网页版使用与访问
AO3官网入口与中文阅读设置 AO3网页版使用与访问

本专题围绕 Archive of Our Own(AO3)官网入口展开,系统整理 AO3 最新可用官网地址、网页版访问方式、正确打开链接的方法,并详细讲解 AO3 中文界面设置、阅读语言切换及基础使用流程,帮助用户稳定访问 AO3 官网,高效完成中文阅读与作品浏览。

5

2026.02.02

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
进程与SOCKET
进程与SOCKET

共6课时 | 0.4万人学习

Redis+MySQL数据库面试教程
Redis+MySQL数据库面试教程

共72课时 | 6.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号