0

0

requests 如何实现带随机延时的重试避免被限流

舞夢輝影

舞夢輝影

发布时间:2026-01-27 19:35:49

|

955人浏览过

|

来源于php中文网

原创

requests重试必须加随机延时,因固定间隔易被识别为爬虫导致封禁;需通过自定义JitteredRetry类在sleep中注入抖动,配合合理次数、状态码过滤及动态延时策略实现隐蔽高效重试。

requests 如何实现带随机延时的重试避免被限流

requests 重试时为什么必须加随机延时

固定间隔重试(比如每次等 1 秒)容易被服务端识别为爬虫模式,尤其在批量请求同一接口时,IP 或账号可能被临时封禁。requests 默认不带重试逻辑,靠 urllib3 底层的 Retry 类实现,但它默认重试延迟是固定的(指数退避但无抖动),必须手动注入随机性才能有效绕过基础限流策略。

用 urllib3.Retry + random 混合构造抖动重试

核心是在每次重试前插入一个随机等待时间,不能只靠 backoff_factor。推荐在 Retrysleep 行为里劫持或封装一层:

  • 继承 urllib3.util.retry.Retry,重写 sleep 方法,在调用父类 sleep 前加 time.sleep(random.uniform(0.5, 2.0))
  • 或者更轻量:用 requests.adapters.HTTPAdaptermax_retries 接收自定义 Retry 实例,该实例的 backoff_factor 设为较小值(如 0.3),再配合外部随机 delay
  • 注意:不要在 Retryallowed_methods 中漏掉 'POST'(默认只重试 GET/HEAD),否则表单提交类请求不会重试

示例关键片段:

import time
import random
from urllib3.util.retry import Retry
from requests.adapters import HTTPAdapter
from requests import Session

class JitteredRetry(Retry): def sleep(self, response=None): if self.backoff_factor > 0: base_sleep = self.get_backoff_time() jitter = random.uniform(0.5, 1.5) # ±50% 抖动 total_sleep = base_sleep * jitter time.sleep(max(0.3, total_sleep)) # 至少睡 300ms

session = Session() adapter = HTTPAdapter(max_retries=JitteredRetry( total=3, backoff_factor=0.5, allowed_methods=frozenset(['GET', 'POST', 'PUT', 'DELETE']) )) session.mount('https://', adapter) session.mount('http://', adapter)

避免重试放大问题的三个硬约束

随机延时不是万能解药,没控制好反而加剧服务端压力或触发更严惩罚:

  • 总重试次数别超 3–4 次 —— 多数限流是按窗口计数,反复刷会直接进黑名单
  • 单次最大延时建议 ≤ 3 秒,否则用户等待过长,且长延时在高并发下易堆积请求队列
  • 对 429(Too Many Requests)、403、503 等状态码显式重试,但跳过 400、401、404 —— 这些是客户端错误,重试无效
  • 如果目标接口有 X-RateLimit-RemainingRetry-After 响应头,优先读它而不是依赖随机延时

requests.Session 里混入 request-level 延时更灵活

全局重试策略太粗,有时只想对某个特定请求加抖动。这时可在发请求前手动 sleep,绕过 Retry 机制:

PicLumen
PicLumen

专业的AI图像生成和图像处理工具

下载
  • random.expovariate(lambd) 生成符合泊松过程的随机间隔,比均匀分布更接近真实用户行为
  • 对敏感接口,可结合上一次响应头里的 dateserver 时间戳做动态 delay 计算
  • 务必把 time.sleep() 放在 session.request() 调用之前,而非之后 —— 否则失败后才睡,起不到“错峰”作用

例如:

import random
import time
from requests import Session

session = Session()

模拟用户自然间隔:均值 1.2 秒,但有波动

delay = random.expovariate(1.0 / 1.2) time.sleep(delay) resp = session.get('https://www.php.cn/link/46b315dd44d174daf5617e22b3ac94ca')

真正难的是平衡成功率和隐蔽性:延时太短,重试无效;太长,效率崩盘;完全随机又可能撞上服务端的滑动窗口峰值。实际中建议先抓包看目标接口的限流周期(比如 60 秒内最多 10 次),再按窗口均摊请求+抖动。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
session失效的原因
session失效的原因

session失效的原因有会话超时、会话数量限制、会话完整性检查、服务器重启、浏览器或设备问题等等。详细介绍:1、会话超时:服务器为Session设置了一个默认的超时时间,当用户在一段时间内没有与服务器交互时,Session将自动失效;2、会话数量限制:服务器为每个用户的Session数量设置了一个限制,当用户创建的Session数量超过这个限制时,最新的会覆盖最早的等等。

315

2023.10.17

session失效解决方法
session失效解决方法

session失效通常是由于 session 的生存时间过期或者服务器关闭导致的。其解决办法:1、延长session的生存时间;2、使用持久化存储;3、使用cookie;4、异步更新session;5、使用会话管理中间件。

748

2023.10.18

cookie与session的区别
cookie与session的区别

本专题整合了cookie与session的区别和使用方法等相关内容,阅读专题下面的文章了解更详细的内容。

91

2025.08.19

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1076

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

169

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1348

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

16

2026.01.19

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

395

2023.07.18

Python 自然语言处理(NLP)基础与实战
Python 自然语言处理(NLP)基础与实战

本专题系统讲解 Python 在自然语言处理(NLP)领域的基础方法与实战应用,涵盖文本预处理(分词、去停用词)、词性标注、命名实体识别、关键词提取、情感分析,以及常用 NLP 库(NLTK、spaCy)的核心用法。通过真实文本案例,帮助学习者掌握 使用 Python 进行文本分析与语言数据处理的完整流程,适用于内容分析、舆情监测与智能文本应用场景。

10

2026.01.27

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Laravel 5.8 中文文档手册
Laravel 5.8 中文文档手册

共74课时 | 87.8万人学习

SESSION实现登录与验证
SESSION实现登录与验证

共10课时 | 9.7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号