0

0

Python爬虫代理API怎么写_搭建简易代理池接口提供IP

P粉602998670

P粉602998670

发布时间:2026-03-16 12:45:13

|

651人浏览过

|

来源于php中文网

原创

requests带代理需严格按{"http": "协议://地址", "https": "协议://地址"}格式传proxies字典,HTTP/HTTPS键必须同时指定且协议一致;带认证时URL需编码特殊字符;Flask/FastAPI代理池接口应返回随机可用代理JSON,启动及调用前均需HEAD轻量校验连通性、状态码、响应内容与Via头;自建代理池维护成本高,需细粒度日志追踪失效原因。

python爬虫代理api怎么写_搭建简易代理池接口提供ip

requests 怎么带代理发请求

Python 爬虫用代理,核心就是把 proxies 字典传给 requests.get()requests.post()。不写对格式,直接报错或静默失效。

常见错误是只写 IP 不写协议,比如 {"http": "123.45.67.89:8080"} —— 这会让 HTTPS 请求走默认直连,HTTP 也可能被中间设备重定向后暴露真实 IP。

  • 必须区分 httphttps 键:即使代理支持 HTTPS,requests 默认也不会自动把 HTTPS 流量转给 http:// 代理(除非代理明确声明支持 CONNECT)
  • 如果代理是 HTTP 类型(最常见),https 键也得填一样的地址,否则 HTTPS 请求不走代理
  • 带认证的代理要写成 "http://user:pass@123.45.67.89:8080",URL 编码特殊字符(如 @:)容易漏掉

正确示例:

proxies = {
    "http": "http://user:pass%40123@123.45.67.89:8080",
    "https": "http://user:pass%40123@123.45.67.89:8080"
}
requests.get("https://httpbin.org/ip", proxies=proxies)

Flask/FastAPI 怎么暴露一个简单代理池接口

所谓“代理池接口”,本质就是一个返回随机可用代理的 HTTP 接口,不是转发流量的网关。别一上来就写异步转发,那是反向代理的事,和爬虫用的代理池无关。

最容易踩的坑是:把代理 IP 存内存列表就完事,结果没做可用性验证,返回的全是超时或 403 的代理,调用方直接卡死。

立即学习Python免费学习笔记(深入)”;

  • 启动时至少做一次预检:用 requests.head("https://httpbin.org", timeout=3) 批量筛掉不可用代理
  • 接口返回前再轻量校验(比如加个 timeout=1 的 HEAD 请求),避免长时间堆积失效 IP
  • 别用全局 list 存代理——并发高时读写竞争,FastAPI 的 BackgroundTasks 或 Flask 的线程安全队列更稳妥
  • 返回格式建议统一为 JSON:{"http": "http://...", "https": "http://..."},别省略 https 字段

代理池怎么判断 IP 是否还活着

代理失效不是非黑即白,而是分层退化:能连上但响应慢、返回 407 要认证、返回 403 但 headers 里有 X-Proxy-Status: blocked……只靠 status_code == 200 会漏判。

课游记AI
课游记AI

AI原生学习产品

下载

真正有效的健康检查得组合多个信号:

  • 连接时间 > 3s 就标记为“待观察”,连续两次超时就踢出
  • 响应 body 包含 "Your IP address is"(来自 httpbin)才算通过;如果返回的是登录页 HTML 或空 body,说明被拦截了
  • 检查 response.headers.get("via") 是否存在,没有可能根本没走代理(本地直连伪装)
  • 别用 GET 检查——有些代理对 GET 放行但 POST 拦截,HEAD 更轻量且语义合适

示例校验逻辑:

try:
    r = requests.head("https://httpbin.org", proxies=p, timeout=2)
    ok = (r.status_code == 200 and "Your IP address" in r.text)
except Exception:
    ok = False

为什么自己搭代理池比直接买 API 更容易翻车

自建代理池最大的隐性成本不是代码,是维护节奏:IP 失效速度远快于你轮询的频率,而商用 API 背后是持续运营的 IP 库和自动替换策略。

如果你只是临时跑个脚本,或者目标网站反爬弱,真没必要自建——几行 proxies 配置 + 轮询几个免费代理站,比搭接口省心十倍。

一旦决定自建,最常被忽略的是日志粒度:不记录每次代理返回的 r.elapsedr.status_coder.headers,你就永远不知道是代理挂了,还是目标站加了新规则,还是自己代码拼错了 URL。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python Flask框架
Python Flask框架

本专题专注于 Python 轻量级 Web 框架 Flask 的学习与实战,内容涵盖路由与视图、模板渲染、表单处理、数据库集成、用户认证以及RESTful API 开发。通过博客系统、任务管理工具与微服务接口等项目实战,帮助学员掌握 Flask 在快速构建小型到中型 Web 应用中的核心技能。

106

2025.08.25

Python Flask Web框架与API开发
Python Flask Web框架与API开发

本专题系统介绍 Python Flask Web框架的基础与进阶应用,包括Flask路由、请求与响应、模板渲染、表单处理、安全性加固、数据库集成(SQLAlchemy)、以及使用Flask构建 RESTful API 服务。通过多个实战项目,帮助学习者掌握使用 Flask 开发高效、可扩展的 Web 应用与 API。

81

2025.12.15

json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

457

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

549

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

337

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

83

2025.09.10

Python FastAPI异步API开发_Python怎么用FastAPI构建异步API
Python FastAPI异步API开发_Python怎么用FastAPI构建异步API

Python FastAPI 异步开发利用 async/await 关键字,通过定义异步视图函数、使用异步数据库库 (如 databases)、异步 HTTP 客户端 (如 httpx),并结合后台任务队列(如 Celery)和异步依赖项,实现高效的 I/O 密集型 API,显著提升吞吐量和响应速度,尤其适用于处理数据库查询、网络请求等耗时操作,无需阻塞主线程。

28

2025.12.22

Python 微服务架构与 FastAPI 框架
Python 微服务架构与 FastAPI 框架

本专题系统讲解 Python 微服务架构设计与 FastAPI 框架应用,涵盖 FastAPI 的快速开发、路由与依赖注入、数据模型验证、API 文档自动生成、OAuth2 与 JWT 身份验证、异步支持、部署与扩展等。通过实际案例,帮助学习者掌握 使用 FastAPI 构建高效、可扩展的微服务应用,提高服务响应速度与系统可维护性。

253

2026.02.06

C++多线程并发控制与线程安全设计实践
C++多线程并发控制与线程安全设计实践

本专题围绕 C++ 在高性能系统开发中的并发控制技术展开,系统讲解多线程编程模型与线程安全设计方法。内容包括互斥锁、读写锁、条件变量、原子操作以及线程池实现机制,同时结合实际案例分析并发竞争、死锁避免与性能优化策略。通过实践讲解,帮助开发者掌握构建稳定高效并发系统的关键技术。

2

2026.03.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号