0

0

Puppeteer 数据抓取中正确选择嵌套元素的关键技巧

碧海醫心

碧海醫心

发布时间:2026-03-08 11:54:13

|

729人浏览过

|

来源于php中文网

原创

Puppeteer 数据抓取中正确选择嵌套元素的关键技巧

本文详解如何在 puppeteer 中精准定位 html 中深层嵌套的文本节点(如按钮内多个 div 下的 p 标签),重点解决因误判父容器层级导致的 selector 失效问题,并提供基于类名和 dom 位置的两种稳健方案。

本文详解如何在 puppeteer 中精准定位 html 中深层嵌套的文本节点(如按钮内多个 div 下的 p 标签),重点解决因误判父容器层级导致的 selector 失效问题,并提供基于类名和 dom 位置的两种稳健方案。

在使用 Puppeteer 进行结构化数据抓取时,一个常见却易被忽视的错误是:将子元素的查询范围错误地限定在局部 div 内,而实际目标节点位于同级但不同分支的兄弟容器中。正如示例 HTML 所示,每个

✅ 正确做法是:。以下是优化后的完整实现:

await page.waitForSelector('.css-4od5c4');

const storesData = await page.$$eval('.css-4od5c4', buttons => 
  buttons.map(button => {
    const getText = selector => {
      const el = button.querySelector(selector);
      return el ? el.textContent.trim() : 'no value';
    };

    return {
      address: getText('.css-iqfm9l.enp2lf70'), // 第一个 p(地址)
      city: getText('.css-1cwtvfm.enp2lf70'),   // 第二个 p(城市)
      amount: getText('.css-177ui4i .css-iqfm9l.enp2lf70') // 第二个 div 下的 p
    };
  })
);

console.log(storesData);
// 输出:
// [
//   { address: 'Sisjön', city: 'Askim', amount: '3 st' },
//   { address: 'random address...', city: 'some city...', amount: '3 st' }
// ]

? 关键解析

Veed AI Voice Generator
Veed AI Voice Generator

Veed推出的AI语音生成器

下载
  • page.$$eval(selector, fn) 直接在浏览器上下文中执行,传入所有匹配 .css-4od5c4 的
  • 每个 button 是独立作用域,button.querySelector(...) 可安全跨越其任意后代(包括 .css-1tkalz1 和 .css-177ui4i);
  • 避免了原代码中 Array.from(document.querySelectorAll(...)) + evaluate() 的冗余嵌套与作用域混淆。

? 进阶建议:提升健壮性
当 CSS 类名动态生成或存在不确定性时,可结合 DOM 结构位置进行兜底:

const storesData = await page.$$eval('.css-4od5c4', buttons =>
  buttons.map(button => {
    const ps = [...button.querySelectorAll('p')].map(p => p.textContent.trim());
    return {
      address: ps[0] ?? 'no value',
      city: ps[1] ?? 'no value',
      amount: ps[3] ?? 'no value' // 注意:Välj butik 是第 2 个 p,库存是第 4 个(索引 3)
    };
  })
);

⚠️ 注意事项

  • ❌ 不要依赖 setTimeout 模拟等待——它不可靠且违反 Puppeteer 最佳实践;应使用 waitForSelector 或 waitForFunction 等显式等待机制;
  • ✅ 优先使用 $$eval / $eval 替代 evaluate + querySelectorAll,减少跨上下文序列化开销;
  • ? 若页面存在大量重复结构,建议配合 data-testid 或语义化属性(如 role="store-item")重构 HTML,从根本上降低 selector 维护成本。

掌握“以最外层稳定容器为锚点、在单一作用域内全量查询”的思维模式,能显著提升 Puppeteer 抓取的准确性与可维护性。

相关标签:

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
class在c语言中的意思
class在c语言中的意思

在C语言中,"class" 是一个关键字,用于定义一个类。想了解更多class的相关内容,可以阅读本专题下面的文章。

809

2024.01.03

python中class的含义
python中class的含义

本专题整合了python中class的相关内容,阅读专题下面的文章了解更多详细内容。

28

2025.12.06

DOM是什么意思
DOM是什么意思

dom的英文全称是documentobjectmodel,表示文件对象模型,是w3c组织推荐的处理可扩展置标语言的标准编程接口;dom是html文档的内存中对象表示,它提供了使用javascript与网页交互的方式。想了解更多的相关内容,可以阅读本专题下面的文章。

4246

2024.08.14

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

23

2026.03.06

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

68

2026.03.05

PHP高性能API设计与Laravel服务架构实践
PHP高性能API设计与Laravel服务架构实践

本专题围绕 PHP 在现代 Web 后端开发中的高性能实践展开,重点讲解基于 Laravel 框架构建可扩展 API 服务的核心方法。内容涵盖路由与中间件机制、服务容器与依赖注入、接口版本管理、缓存策略设计以及队列异步处理方案。同时结合高并发场景,深入分析性能瓶颈定位与优化思路,帮助开发者构建稳定、高效、易维护的 PHP 后端服务体系。

162

2026.03.04

AI安装教程大全
AI安装教程大全

2026最全AI工具安装教程专题:包含各版本AI绘图、AI视频、智能办公软件的本地化部署手册。全篇零基础友好,附带最新模型下载地址、一键安装脚本及常见报错修复方案。每日更新,收藏这一篇就够了,让AI安装不再报错!

84

2026.03.04

Swift iOS架构设计与MVVM模式实战
Swift iOS架构设计与MVVM模式实战

本专题聚焦 Swift 在 iOS 应用架构设计中的实践,系统讲解 MVVM 模式的核心思想、数据绑定机制、模块拆分策略以及组件化开发方法。内容涵盖网络层封装、状态管理、依赖注入与性能优化技巧。通过完整项目案例,帮助开发者构建结构清晰、可维护性强的 iOS 应用架构体系。

113

2026.03.03

C++高性能网络编程与Reactor模型实践
C++高性能网络编程与Reactor模型实践

本专题围绕 C++ 在高性能网络服务开发中的应用展开,深入讲解 Socket 编程、多路复用机制、Reactor 模型设计原理以及线程池协作策略。内容涵盖 epoll 实现机制、内存管理优化、连接管理策略与高并发场景下的性能调优方法。通过构建高并发网络服务器实战案例,帮助开发者掌握 C++ 在底层系统与网络通信领域的核心技术。

29

2026.03.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号