0

0

Python 客户端限流的实现方式

舞姬之光

舞姬之光

发布时间:2026-02-15 15:56:02

|

562人浏览过

|

来源于php中文网

原创

time.sleep()限流仅适用于单线程脚本,多线程下各线程独立休眠导致qps失控;ratelimit库默认线程本地计数,需配合锁和全局计数器;异步环境应使用asyncio.semaphore与后台补令牌任务;生产环境多实例必须用redis+lua原子操作,避免超卖。

python 客户端限流的实现方式

time.sleep() 做简单限流,为什么常出问题

它确实能卡住请求节奏,但只适合单进程、无并发的脚本。一旦加了多线程或多进程,time.sleep() 只阻塞当前线程,其他线程照发不误,实际 QPS 完全失控。

常见错误现象:requests.get() 在循环里配了 time.sleep(1),结果压测发现每秒发出 5–6 个请求——因为开了 5 个线程,每个都睡自己的 1 秒,互不感知。

  • 适用场景:调试用的单次脚本、CLI 工具的简单重试延时
  • 千万别用在 ThreadPoolExecutorasyncio 环境里
  • 没有状态共享,无法统计“过去 10 秒发了多少个”,也就谈不上滑动窗口

ratelimit 库的 @sleep_and_retry + @limits 组合怎么配才不翻车

这个组合看似开箱即用,但默认是基于线程本地计数器的,多线程下会各自维护一套计数,导致总请求数超标。

必须显式传入 key_func 和共享存储(比如用 threading.Lock + 全局 dict),否则在 concurrent.futures 场景下大概率超限。

立即学习Python免费学习笔记(深入)”;

Shoping购物网源码
Shoping购物网源码

该系统采用多层模式开发,这个网站主要展示女装的经营,更易于网站的扩展和后期的维护,同时也根据常用的SQL注入手段做出相应的防御以提高网站的安全性,本网站实现了购物车,产品订单管理,产品展示,等等,后台实现了动态权限的管理,客户管理,订单管理以及商品管理等等,前台页面设计精致,后台便于操作等。实现了无限子类的添加,实现了动态权限的管理,支持一下一个人做的辛苦

下载
  • 正确写法示例:
    from ratelimit import limits, sleep_and_retry
    import threading
    
    _counter = {"count": 0, "last_reset": 0}
    _lock = threading.Lock()
    
    def key_func(*args, **kwargs):
        return "global"
    
    @sleep_and_retry
    @limits(calls=10, period=60, key_func=key_func)
    def call_api():
        with _lock:
            _counter["count"] += 1
  • 注意 period 单位是秒,不是毫秒;calls 是整数,不支持小数(比如 0.2 次/秒得换算法)
  • 该库不兼容 asyncio,异步客户端必须换方案

异步 HTTP 客户端(aiohttp)怎么实现令牌桶

异步环境不能靠锁和全局变量硬扛,得用 asyncio.Semaphore 配合时间戳做令牌生成逻辑。核心是每次请求前检查“当前令牌数 ≥ 1”,不够就按缺额等待。

容易踩的坑:直接用 asyncio.sleep() 等待会导致整个 event loop 延迟,应改用 await asyncio.wait_for(sem.acquire(), timeout=...) 配合定期 refill 任务。

  • 推荐结构:启动一个后台 asyncio.create_task(refill_loop()),每 100ms 补 1 个令牌(根据速率换算)
  • sem = asyncio.Semaphore(0) 初始化为 0,首次 acquire 必然挂起,等 refill 启动后才放行
  • 别把 refill 逻辑写进请求函数里——高频调用会导致时间戳判断失准和重复补发

生产环境该选 redis-py 还是内存计数器

单机服务且不惧重启丢数据,用 threading.localfunctools.lru_cache 配时间窗口最快;但只要涉及多实例、滚动发布或需要精确削峰,就必须上 Redis。

Redis 方案不是简单 INCR + EXPIRE 就完事——Lua 脚本才是原子关键。漏掉这步,高并发下 GET + INCR + SETEX 三步分离会引发超卖。

  • 必须用 Lua 做原子操作,例如:
    local current = redis.call("INCR", KEYS[1])
    if current == 1 then
      redis.call("EXPIRE", KEYS[1], ARGV[1])
    end
    return current
  • 客户端要处理 ConnectionErrorTimeoutError:降级为内存限流 or 直接放过,别让限流组件拖垮主链路
  • Redis 的 TIMEOUT 设置建议比窗口周期长 10%,避免刚好过期时新请求被误判

真正难的从来不是“怎么写个限流器”,而是“怎么让它的行为在故障、扩容、时钟跳变时不背叛你的 SLA”。这些边界条件,往往在压测之后才浮出来。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
全局变量怎么定义
全局变量怎么定义

本专题整合了全局变量相关内容,阅读专题下面的文章了解更多详细内容。

85

2025.09.18

python 全局变量
python 全局变量

本专题整合了python中全局变量定义相关教程,阅读专题下面的文章了解更多详细内容。

101

2025.09.18

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

673

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

345

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

24

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

24

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

95

2026.02.06

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

450

2023.08.14

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

139

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.3万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号