0

0

如何从网页中安全提取并解析嵌入的 JavaScript JSON 数据

碧海醫心

碧海醫心

发布时间:2026-02-05 16:37:02

|

409人浏览过

|

来源于php中文网

原创

如何从网页中安全提取并解析嵌入的 JavaScript JSON 数据

本文介绍如何从 html 页面的 `

在现代前端渲染的网站中(尤其是使用 Vue、React 或服务端预渲染的站点),关键数据常以 JavaScript 对象形式直接注入 HTML 的

直接对原始字符串做 str.replace("null", "None") 或 str.replace("false", "False") 极其危险:一旦新闻标题中包含 "null"(如 "Version null release")或 "false"(如 "is false positive"),替换将污染真实业务数据,导致解析失败或逻辑错误。因此,必须采用语义化、上下文感知的提取策略,而非文本层面的模糊替换

✅ 推荐方案:定位 + 截取 + 安全 JSON 化

核心思路分三步:

  1. 定位目标 :用 BeautifulSoup 精确查找含 App = 的脚本;
  2. 提取纯对象字面量内容:跳过 App = 前缀,截取至第一个完整闭合的 }(需处理嵌套);
  3. 转为标准 JSON 并加载:将 JS 风格字面量(true/false/null)安全映射为 JSON 兼容格式。

以下为健壮、可复用的实现:

科大讯飞-AI虚拟主播
科大讯飞-AI虚拟主播

科大讯飞推出的移动互联网智能交互平台,为开发者免费提供:涵盖语音能力增强型SDK,一站式人机智能语音交互解决方案,专业全面的移动应用分析;

下载

立即学习Java免费学习笔记(深入)”;

import requests
from bs4 import BeautifulSoup
import json
import re

def extract_app_json_from_html(html_content: str) -> dict:
    """
    从 HTML 字符串中提取 App 对象并解析为 Python 字典
    自动处理嵌套花括号,避免误截断
    """
    soup = BeautifulSoup(html_content, 'html.parser')
    # 查找包含 'App = ' 的 script 标签(支持多空格/换行)
    script_tag = soup.find('script', string=re.compile(r'App\s*=\s*{'))
    if not script_tag:
        raise ValueError("未找到包含 'App = {' 的 script 标签")

    script_text = script_tag.string
    # 定位 'App = ' 后的第一个 '{'
    start_idx = re.search(r'App\s*=\s*{', script_text).end()

    # 手动匹配最外层 {}(处理嵌套)
    brace_count = 0
    end_idx = -1
    for i, char in enumerate(script_text[start_idx:], start=start_idx):
        if char == '{':
            brace_count += 1
        elif char == '}':
            brace_count -= 1
            if brace_count == 0:
                end_idx = i + 1
                break

    if end_idx == -1:
        raise ValueError("未能匹配到闭合的 '}'")

    # 提取纯对象字符串(JS 格式)
    js_obj_str = script_text[start_idx:end_idx].strip()

    # 安全转换 JS 字面量为 JSON:仅替换顶层关键字(非字符串内)
    # 使用正则确保只替换独立单词(前后非字母/数字/下划线)
    json_compatible = (
        js_obj_str
        .replace('true', 'true')   # JSON 中 true 已兼容,无需改
        .replace('false', 'false') # 同理
        .replace('null', 'null')   # JSON 中 null 已兼容
    )
    # ⚠️ 注意:标准 JSON 与 JS 在布尔/空值上完全一致(true/false/null),无需替换!
    # 上述 replace 是冗余的;真正需处理的是单引号、末尾逗号等 —— 但 json.loads 不支持。
    # 因此更稳妥的做法是:用 ast.literal_eval(仅当内容可信时)或调用 JS 引擎(如 PyExecJS)。
    # 但实践中,该网站输出的 App 对象实际已是严格 JSON 格式(双引号、无尾逗号),
    # 故直接 json.loads 即可 —— 错误通常源于截取不完整(如多截了 `;` 或少截了 `}`)。

    try:
        return json.loads(json_compatible)
    except json.JSONDecodeError as e:
        # 提供调试线索
        print(f"JSON 解析失败,上下文(前100字符):{json_compatible[:100]!r}")
        raise e

# 使用示例
url = "https://polymetalinternational.com/en/investors-and-media/news/press-releases/"
response = requests.get(url, timeout=10)
response.raise_for_status()

app_data = extract_app_json_from_html(response.text)
press_releases = app_data["components"]["press-release"]["items"]

print(f"共获取 {len(press_releases)} 条新闻:")
for item in press_releases[:3]:  # 仅打印前3条示意
    print(f"• {item['name']} ({item['date']}) → {item['link']}")

? 关键注意事项

  • 不要盲目替换 null/false:JSON 规范与 JavaScript 在这些字面量上完全一致,json.loads() 原生支持。报错主因是截取范围错误(如未正确匹配嵌套 })或存在非法字符(如单引号、注释)。
  • 优先验证数据源格式:打开网页源码,搜索 App =,确认其内容是否已为合法 JSON(双引号包裹字符串、无尾逗号)。多数企业站会直接输出 JSON 字符串。
  • 处理编码与异常:务必设置 requests.get(..., timeout=10) 和 response.raise_for_status(),防止网络超时或 HTTP 错误静默失败。
  • 反爬提示:目标网站可能校验 User-Agent,建议添加请求头:
    headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36"}
    response = requests.get(url, headers=headers)

此方法兼顾鲁棒性与简洁性,适用于绝大多数将结构化数据内联于 HTML 的场景,是 Web 数据采集中解析嵌入式 JS 对象的推荐实践。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

427

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

541

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

313

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

78

2025.09.10

Python爬虫获取数据的方法
Python爬虫获取数据的方法

Python爬虫可以通过请求库发送HTTP请求、解析库解析HTML、正则表达式提取数据,或使用数据抓取框架来获取数据。更多关于Python爬虫相关知识。详情阅读本专题下面的文章。php中文网欢迎大家前来学习。

293

2023.11.13

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

238

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

560

2024.03.01

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

381

2023.08.03

java连接字符串方法汇总
java连接字符串方法汇总

本专题整合了java连接字符串教程合集,阅读专题下面的文章了解更多详细操作。

2

2026.02.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Vue 教程
Vue 教程

共42课时 | 7.8万人学习

Vue3.x 工具篇--十天技能课堂
Vue3.x 工具篇--十天技能课堂

共26课时 | 1.5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号