0

0

如何使用Golang实现Web API限流_Golang Web流量控制技巧

P粉602998670

P粉602998670

发布时间:2026-02-08 12:38:02

|

826人浏览过

|

来源于php中文网

原创

time.Ticker 不适合精确限流,因其仅按时间触发而忽略请求到达节奏,导致突发流量漏放;应改用 rate.Limiter 实现每 IP 独立、带突发容忍的实时判断,并在分布式场景下结合 Redis 粗粒度窗口与本地细粒度控制。

如何使用golang实现web api限流_golang web流量控制技巧

为什么 time.Ticker 不适合做精确限流

直接用 time.Ticker 控制每秒请求数,看似简单,但会漏掉突发流量的拦截——它只管“时间到了没”,不管“这秒已经来了多少个请求”。比如设定 QPS=10,但第 1 秒前 100ms 就涌入 12 个请求,time.Ticker 会在 1s 后才触发下一次检查,中间这 12 个请求全被放行,实际已超限。

真正可控的方式是:每个请求进来时立刻判断是否该拒绝。推荐用滑动窗口或令牌桶,而 Go 生态里最轻量、无依赖的方案是基于 golang.org/x/time/raterate.Limiter

rate.Limiter 实现 per-IP 精确限流

默认的 rate.Limiter 是全局共享的,要实现按客户端 IP 限流,必须为每个 IP 维护独立实例。不能直接 map[string]*rate.Limiter 并长期持有——IP 太多会内存泄漏;也不能每次请求都新建——性能差且失去限流意义。

实用做法是用带过期的缓存(如 sync.Map + 时间戳标记)或更稳妥的 LRU 缓存(如 github.com/hashicorp/golang-lru/v2)。下面是一个基于 sync.Map 的简明实现:

立即学习go语言免费学习笔记(深入)”;

var ipLimiters sync.Map // map[string]*rate.Limiter

func getLimiter(ip string) *rate.Limiter {
    if lim, ok := ipLimiters.Load(ip); ok {
        return lim.(*rate.Limiter)
    }
    // 每 IP 最大 10 QPS,允许最多 5 个请求瞬时突增(burst=5)
    lim := rate.NewLimiter(10, 5)
    ipLimiters.Store(ip, lim)
    return lim
}

func limitMiddleware(next http.Handler) http.Handler {
    return http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
        ip := getClientIP(r)
        lim := getLimiter(ip)
        if !lim.Allow() {
            http.Error(w, "Too Many Requests", http.StatusTooManyRequests)
            return
        }
        next.ServeHTTP(w, r)
    })
}
  • rate.NewLimiter(10, 5) 表示平均 10 QPS,最多允许 5 个请求“欠账”(即突发时可先透支)
  • lim.Allow() 是非阻塞判断,返回 true 表示放行,false 表示应拒绝
  • getClientIP 需从 X-Forwarded-Forr.RemoteAddr 安全提取,注意代理场景下的伪造风险

当需要分布式限流时,别硬刚 Redis Lua

单机 rate.Limiter 在多实例部署下完全失效——每个节点各自计数,总流量轻松翻倍超限。此时必须引入中心化存储。但直接在每次请求里跑 Redis Lua 脚本(如 INCR + EXPIRE 组合)容易因网络延迟或 Redis 拥塞拖慢整个 API。

更平衡的做法是:用 Redis 做粗粒度窗口(如 1 分钟窗口),再配合本地 rate.Limiter 做细粒度平滑(如每秒内均匀放行)。这样既降低 Redis 压力,又避免突刺打穿阈值。

SciMaster
SciMaster

全球首个通用型科研AI智能体

下载

关键点:

  • Redis key 设计建议含服务名+路径+IP,例如 api:login:192.168.1.100:20240520T14(按小时分片)
  • 避免用 INCR 后再 EXPIRE —— 这两步不原子,可能 key 永久存在。改用 SET key 1 EX 3600 NX 初始化,再用 Lua 做原子自增+过期判断
  • 如果业务能接受分钟级误差,直接用 Redis 的 INCR + EXPIRE(带 NX 参数)足够,不必上复杂脚本

测试限流逻辑时,别只靠 curl -v 手点

手动发请求看不出限流是否生效,尤其滑动窗口类逻辑。必须用并发压测验证行为一致性。

一个最小可用的验证脚本(Go 写):

func TestRateLimit(t *testing.T) {
    // 启动测试服务,注册 limitMiddleware
    ts := httptest.NewServer(limitMiddleware(http.HandlerFunc(func(w http.ResponseWriter, r *http.Request) {
        w.WriteHeader(http.StatusOK)
    })))
    defer ts.Close()

    var wg sync.WaitGroup
    success, fail := int64(0), int64(0)

    for i := 0; i < 20; i++ { // 并发 20 协程
        wg.Add(1)
        go func() {
            defer wg.Done()
            resp, _ := http.Get(ts.URL)
            if resp.StatusCode == http.StatusOK {
                atomic.AddInt64(&success, 1)
            } else if resp.StatusCode == http.StatusTooManyRequests {
                atomic.AddInt64(&fail, 1)
            }
        }()
    }
    wg.Wait()

    // 假设 limiter 是 10 QPS,20 请求在瞬间发出,预期 fail ≥ 10
    if fail < 10 {
        t.Errorf("expected at least 10 failures, got %d", fail)
    }
}

真实环境中,还要关注 rate.LimiterWait 方法(会阻塞)和 Reserve(可提前预判并 Sleep)的区别——API 场景几乎总是用 AllowReserve,避免阻塞 goroutine。

最后提醒:限流阈值不是拍脑袋定的。上线前务必用真实链路压测,观察下游 DB、缓存、第三方接口的水位,否则限流可能把压力转移到更脆弱的环节。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

184

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

232

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

344

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

211

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

399

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

282

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

196

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

681

2025.06.17

Golang处理数据库错误教程合集
Golang处理数据库错误教程合集

本专题整合了Golang数据库错误处理方法、技巧、管理策略相关内容,阅读专题下面的文章了解更多详细内容。

61

2026.02.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
进程与SOCKET
进程与SOCKET

共6课时 | 0.4万人学习

Redis+MySQL数据库面试教程
Redis+MySQL数据库面试教程

共72课时 | 6.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号