0

0

Puppeteer 数据抓取:正确选择嵌套结构中的目标元素

聖光之護

聖光之護

发布时间:2026-03-08 12:47:02

|

678人浏览过

|

来源于php中文网

原创

本文详解如何在 Puppeteer 中精准定位 HTML 嵌套结构内的目标节点(如按钮内第二层 div 中的 ),避免因误选父容器导致 querySelector 返回 null,并提供基于 CSS 类与 DOM 顺序两种稳健的提取方案。

本文详解如何在 puppeteer 中精准定位 html 嵌套结构内的目标节点(如按钮内第二层 div 中的 `

`),避免因误选父容器导致 `queryselector` 返回 `null`,并提供基于 css 类与 dom 顺序两种稳健的提取方案。

在使用 Puppeteer 进行网页数据抓取时,一个常见却易被忽视的错误是:错误地将中间容器(如 .css-1tkalz1)当作作用域根节点,而实际目标元素位于其兄弟节点中。从你提供的 HTML 结构可见,每个 button.css-4od5c4 是完整数据项的逻辑根容器——它同时包含地址/城市所在的 .css-1tkalz1 和库存数量所在的 .css-177ui4i。若在 item.querySelector(...) 中将 item 设为 .css-1tkalz1 元素,则 .css-177ui4i 根本不在其子树内,自然无法匹配,最终返回 null,导致 amount 恒为 'no value'。

✅ 正确做法是:以最外层语义化容器(即 .css-4od5c4 button)为作用域起点,在其范围内分别查询各字段。以下是优化后的 Puppeteer 代码示例:

Q.AI视频生成工具
Q.AI视频生成工具

支持一分钟生成专业级短视频,多种生成方式,AI视频脚本,在线云编辑,画面自由替换,热门配音媲美真人音色,更多强大功能尽在QAI

下载
await page.waitForSelector('.css-4od5c4');

const storesData = await page.$$eval('.css-4od5c4', buttons => {
  return buttons.map(button => {
    // 在每个 button 内部独立查找,避免跨容器误判
    const getAddress = sel => button.querySelector(sel)?.textContent?.trim() ?? 'no value';

    return {
      address: getAddress('.css-1tkalz1 .css-iqfm9l'),   // 第一个 p(地址)
      city:    getAddress('.css-1tkalz1 .css-1cwtvfm'),   // 第二个 p(城市)
      amount:  getAddress('.css-177ui4i .css-iqfm9l')     // 第二个 div 内的 p(数量)
    };
  });
});

console.log(storesData);
// 输出示例:
// [
//   { address: 'Sisjön', city: 'Askim', amount: '3 st' },
//   { address: 'random address...', city: 'some city...', amount: '3 st' }
// ]

? 关键改进说明

  • 使用 page.$$eval(selector, fn) 直接在浏览器上下文中批量处理所有匹配的 button 元素,无需手动 Array.from(document.querySelectorAll(...));
  • 每个 button 作为独立作用域,确保 .css-177ui4i 可被正确访问;
  • 利用可选链操作符 ?. 和空值合并 ?? 防御性处理缺失节点,提升鲁棒性。

⚠️ 注意事项与进阶建议

  • 避免依赖动态类名:你观察到的 css-xxxxxx 类名极可能是 CSS-in-JS(如 Emotion)生成的哈希类,不具备稳定性。生产环境中建议优先寻找语义化属性(如 data-testid="store-amount")、文本特征(如 :has(p:contains("3 st")),需 Chromium ≥119)或结构位置。
  • 备选方案:按 DOM 顺序提取:当类名不可靠时,可基于

    标签的全局顺序定位:

    const content = await page.$$eval('.css-4od5c4', buttons =>
      buttons.map(button => {
        const ps = [...button.querySelectorAll('p')].map(p => p.textContent.trim());
        return {
          address: ps[0] ?? 'no value',  // 第一个 p
          city:    ps[1] ?? 'no value',  // 第二个 p
          amount:  ps[3] ?? 'no value'   // 第四个 p(跳过 .css-7omsg3 内的 "Välj butik")
        };
      })
    );

  • 调试技巧:在 page.evaluate 中临时插入 console.log(button.outerHTML) 或使用 page.hover('.css-4od5c4') 配合 DevTools 可视化验证作用域范围。

总结而言,Puppeteer 抓取失败往往不是 selector 写错,而是作用域选择失当。始终以语义完整的“数据单元”(如

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

252

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

1049

2024.03.01

js正则表达式
js正则表达式

php中文网为大家提供各种js正则表达式语法大全以及各种js正则表达式使用的方法,还有更多js正则表达式的相关文章、相关下载、相关课程,供大家免费下载体验。

530

2023.06.20

js获取当前时间
js获取当前时间

JS全称JavaScript,是一种具有函数优先的轻量级,解释型或即时编译型的编程语言;它是一种属于网络的高级脚本语言,主要用于Web,常用来为网页添加各式各样的动态功能。js怎么获取当前时间呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

554

2023.07.28

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

738

2023.08.03

js是什么意思
js是什么意思

JS是JavaScript的缩写,它是一种广泛应用于网页开发的脚本语言。JavaScript是一种解释性的、基于对象和事件驱动的编程语言,通常用于为网页增加交互性和动态性。它可以在网页上实现复杂的功能和效果,如表单验证、页面元素操作、动画效果、数据交互等。

6065

2023.08.17

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

492

2023.09.01

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

219

2023.09.04

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

23

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号