0

0

Python requests.get 响应编码不一致问题的根源与解决方案

心靈之曲

心靈之曲

发布时间:2026-01-21 21:32:24

|

869人浏览过

|

来源于php中文网

原创

Python requests.get 响应编码不一致问题的根源与解决方案

python requests.get 响应编码不一致问题的根源与解决方案:`requests.get()` 返回乱码或编码不一致,常因服务器启用 brotli(br)压缩但 `requests` 默认未解压所致;需安装 `brotli` 或 `brotlicffi` 并确保 `accept-encoding` 头兼容,才能正确解码 utf-8 内容。

在使用 requests 库抓取网页时,你可能会遇到 response.text 输出忽而可读、忽而显示乱码(如大量符号或非 ASCII 字符)的现象,即使 response.encoding 显示为 'utf-8',内容仍不可用。这并非字符编码声明错误,而是响应体实际被压缩但未被正确解压导致的典型问题。

关键线索藏在响应头中:

print(page.headers.get('Content-Encoding'))  # 输出: 'br'

'br' 表示服务器使用了 Brotli 压缩算法——一种比 Gzip 更高效、现代的压缩方式。而 requests(截至 v2.31.0+)默认不支持 Brotli 解压,除非显式安装兼容解压库。

✅ 正确做法如下:

立即学习Python免费学习笔记(深入)”;

Giiso写作机器人
Giiso写作机器人

Giiso写作机器人,让写作更简单

下载
  1. 安装 Brotli 支持(任选其一):

    pip install brotli
    # 或(推荐用于 C 扩展性能)
    pip install brotlicffi
  2. 设置合理的 Accept-Encoding 请求头(显式声明支持 gzip,并避免强制要求 br,因 requests 自动协商时若未装 Brotli 库,可能仍收到 br 响应却无法处理):

    import requests
    
    HEADERS = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/121.0.0.0 Safari/537.36',
        'Accept-Language': 'en-US,en;q=0.9',
        'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
        'Accept-Encoding': 'gzip, deflate',  # ✅ 明确排除 'br',避免不可控压缩
    }
    
    page = requests.get('https://www.powerball.com/', headers=HEADERS)
    print("Encoding:", page.encoding)  # 通常自动推断为 utf-8
    print("Text preview:", page.text[:200])

⚠️ 注意事项:

  • 即使安装了 brotli,若 Accept-Encoding 中包含 'br',requests 会尝试自动解压;但某些旧版本或环境可能存在兼容性问题,稳妥起见建议主动排除 'br'
  • 不要依赖 page.text 的原始输出判断编码是否正确——应优先检查 page.content(原始字节)是否能用 page.encoding 正确解码:
    try:
        decoded = page.content.decode(page.encoding or 'utf-8')
        print("Decoded successfully")
    except UnicodeDecodeError:
        print("Decoding failed — likely compression or encoding mismatch")
  • 若仍出现异常,可强制指定编码(仅限确认页面真实编码为 UTF-8 时):
    page.encoding = 'utf-8'
    print(page.text)

总结:requests 的编码“不稳定”表象背后,本质是传输层压缩未被识别或解压失败。解决核心在于——安装 Brotli 支持库 + 合理约束 Accept-Encoding 头。二者结合,即可稳定获取正确解码的 UTF-8 文本,彻底告别随机乱码。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

769

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

661

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

764

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

659

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1325

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

549

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

579

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

730

2023.08.11

AO3中文版入口地址大全
AO3中文版入口地址大全

本专题整合了AO3中文版入口地址大全,阅读专题下面的的文章了解更多详细内容。

1

2026.01.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 10.9万人学习

Django 教程
Django 教程

共28课时 | 3.3万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号