
python requests.get 响应编码不一致问题的根源与解决方案:`requests.get()` 返回乱码或编码不一致,常因服务器启用 brotli(br)压缩但 `requests` 默认未解压所致;需安装 `brotli` 或 `brotlicffi` 并确保 `accept-encoding` 头兼容,才能正确解码 utf-8 内容。
在使用 requests 库抓取网页时,你可能会遇到 response.text 输出忽而可读、忽而显示乱码(如大量符号或非 ASCII 字符)的现象,即使 response.encoding 显示为 'utf-8',内容仍不可用。这并非字符编码声明错误,而是响应体实际被压缩但未被正确解压导致的典型问题。
关键线索藏在响应头中:
print(page.headers.get('Content-Encoding')) # 输出: 'br''br' 表示服务器使用了 Brotli 压缩算法——一种比 Gzip 更高效、现代的压缩方式。而 requests(截至 v2.31.0+)默认不支持 Brotli 解压,除非显式安装兼容解压库。
✅ 正确做法如下:
立即学习“Python免费学习笔记(深入)”;
-
安装 Brotli 支持(任选其一):
pip install brotli # 或(推荐用于 C 扩展性能) pip install brotlicffi
-
设置合理的 Accept-Encoding 请求头(显式声明支持 gzip,并避免强制要求 br,因 requests 自动协商时若未装 Brotli 库,可能仍收到 br 响应却无法处理):
import requests HEADERS = { 'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/121.0.0.0 Safari/537.36', 'Accept-Language': 'en-US,en;q=0.9', 'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8', 'Accept-Encoding': 'gzip, deflate', # ✅ 明确排除 'br',避免不可控压缩 } page = requests.get('https://www.powerball.com/', headers=HEADERS) print("Encoding:", page.encoding) # 通常自动推断为 utf-8 print("Text preview:", page.text[:200])
⚠️ 注意事项:
- 即使安装了 brotli,若 Accept-Encoding 中包含 'br',requests 会尝试自动解压;但某些旧版本或环境可能存在兼容性问题,稳妥起见建议主动排除 'br'。
- 不要依赖 page.text 的原始输出判断编码是否正确——应优先检查 page.content(原始字节)是否能用 page.encoding 正确解码:
try: decoded = page.content.decode(page.encoding or 'utf-8') print("Decoded successfully") except UnicodeDecodeError: print("Decoding failed — likely compression or encoding mismatch") - 若仍出现异常,可强制指定编码(仅限确认页面真实编码为 UTF-8 时):
page.encoding = 'utf-8' print(page.text)
总结:requests 的编码“不稳定”表象背后,本质是传输层压缩未被识别或解压失败。解决核心在于——安装 Brotli 支持库 + 合理约束 Accept-Encoding 头。二者结合,即可稳定获取正确解码的 UTF-8 文本,彻底告别随机乱码。










