Python requests.get 响应编码不一致问题的根源与解决方案

python requests.get 响应编码不一致问题的根源与解决方案：`requests.get()` 返回乱码或编码不一致，常因服务器启用 brotli（br）压缩但 `requests` 默认未解压所致；需安装 `brotli` 或 `brotlicffi` 并确保 `accept-encoding` 头兼容，才能正确解码 utf-8 内容。

在使用 requests 库抓取网页时，你可能会遇到 response.text 输出忽而可读、忽而显示乱码（如大量符号或非 ASCII 字符）的现象，即使 response.encoding 显示为 'utf-8'，内容仍不可用。这并非字符编码声明错误，而是响应体实际被压缩但未被正确解压导致的典型问题。

关键线索藏在响应头中：

print(page.headers.get('Content-Encoding'))  # 输出: 'br'

'br' 表示服务器使用了 Brotli 压缩算法——一种比 Gzip 更高效、现代的压缩方式。而 requests（截至 v2.31.0+）默认不支持 Brotli 解压，除非显式安装兼容解压库。

✅ 正确做法如下：

立即学习“Python免费学习笔记（深入）”；

Khroma

AI调色盘生成工具

下载

1. 安装 Brotli 支持（任选其一）：

   pip install brotli
   # 或（推荐用于 C 扩展性能）
   pip install brotlicffi

2. 设置合理的 Accept-Encoding 请求头（显式声明支持 gzip，并避免强制要求 br，因 requests 自动协商时若未装 Brotli 库，可能仍收到 br 响应却无法处理）：

   import requests
   
   HEADERS = {
       'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/121.0.0.0 Safari/537.36',
       'Accept-Language': 'en-US,en;q=0.9',
       'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
       'Accept-Encoding': 'gzip, deflate',  # ✅ 明确排除 'br'，避免不可控压缩
   }
   
   page = requests.get('https://www.powerball.com/', headers=HEADERS)
   print("Encoding:", page.encoding)  # 通常自动推断为 utf-8
   print("Text preview:", page.text[:200])

⚠️ 注意事项：

• 即使安装了 brotli，若 Accept-Encoding 中包含 'br'，requests 会尝试自动解压；但某些旧版本或环境可能存在兼容性问题，稳妥起见建议主动排除 'br'。
• 不要依赖 page.text 的原始输出判断编码是否正确——应优先检查 page.content（原始字节）是否能用 page.encoding 正确解码：

  try:
      decoded = page.content.decode(page.encoding or 'utf-8')
      print("Decoded successfully")
  except UnicodeDecodeError:
      print("Decoding failed — likely compression or encoding mismatch")

• 若仍出现异常，可强制指定编码（仅限确认页面真实编码为 UTF-8 时）：

  page.encoding = 'utf-8'
  print(page.text)

总结：requests 的编码“不稳定”表象背后，本质是传输层压缩未被识别或解压失败。解决核心在于——安装 Brotli 支持库 + 合理约束 Accept-Encoding 头。二者结合，即可稳定获取正确解码的 UTF-8 文本，彻底告别随机乱码。