0

0

Puppeteer爬取图片SRC属性:选择器失效与属性获取的深度解析

心靈之曲

心靈之曲

发布时间:2025-11-25 19:06:02

|

256人浏览过

|

来源于php中文网

原创

puppeteer爬取图片src属性:选择器失效与属性获取的深度解析

本文深入探讨使用Puppeteer抓取网页图片`src`属性时,选择器失效和属性获取不当的常见问题。通过具体案例,详细阐述如何优化CSS选择器,并强调在何种情况下应优先使用`el.getAttribute('src')`而非`el.src`。文章提供了一套健壮的Puppeteer代码实践,帮助开发者有效解决此类爬取难题,提升数据抓取的准确性和稳定性。

在进行网页数据抓取时,Puppeteer因其强大的浏览器自动化能力而广受欢迎。然而,开发者在使用Puppeteer抓取特定元素,特别是图片元素的src属性时,常会遇到选择器无法生效或获取到的属性值不正确的问题。这些问题往往不会直接抛出错误,而是导致静默失败或返回空值,给调试带来挑战。本教程将针对这一常见痛点,提供详细的分析和解决方案。

问题剖析:图片SRC抓取为何屡屡失败?

假设我们的目标是抓取imgflip.com这类图片生成网站上的主图片src属性。开发者通常会尝试使用如下所示的代码结构:

const puppeteer = require('puppeteer');

(async () => {
    const browser = await puppeteer.launch({ headless: false });
    const page = await browser.newPage();
    await page.goto('https://imgflip.com/memegenerator/Drake-Hotline-Bling');

    // 尝试使用选择器抓取图片SRC,但可能失败
    const imageUrl = await page.$eval('img[alt="meme generator image preview"]', el => el.src);
    console.log('Image URL:', imageUrl);

    await browser.close();
})();

在实际操作中,尽管'img[alt="meme generator image preview"]'看起来是一个合理的CSS选择器,并且在浏览器开发者工具中能够选中目标元素,但在Puppeteer中执行page.$eval()时,却可能无法成功获取到src属性,或者返回空值。这通常源于以下两个核心原因:

  1. CSS选择器不准确或不够鲁棒: 页面DOM结构可能比预想的更复杂,或者元素的类名、属性值可能动态变化,导致硬编码的选择器失效。
  2. 属性获取方式不当: 直接使用el.src获取图片URL在某些情况下可能不可靠,尤其当图片是懒加载、动态生成,或者src属性在HTML中是相对路径时。

核心解决方案

针对上述问题,我们需要从优化CSS选择器和正确获取元素属性两方面入手。

Veggie AI
Veggie AI

Veggie AI 是一款利用AI技术生成可控视频的在线工具

下载

1. 优化CSS选择器

在目标网页中,除了alt属性外,图片元素通常还具有其他更具识别性的类名或属性。例如,通过检查DOM,我们可能会发现目标图片具有一个以mm-img开头的类名。这时,我们可以利用更灵活的CSS选择器:

  • 精确类名选择器: 如果类名是固定的,可以直接使用'img.mm-img'。
  • 属性值前缀匹配选择器: 如果类名可能包含变体(如mm-img-123),可以使用CSS属性选择器中的前缀匹配符^=。例如,'img[class^=mm-img]'会匹配所有class属性值以mm-img开头的Puppeteer爬取图片SRC属性:选择器失效与属性获取的深度解析标签。这种方法更具鲁棒性,能适应一定程度的DOM变化。

示例:

/* 匹配class包含mm-img的图片 */
img.mm-img { /* ... */ }

/* 匹配class以mm-img开头的图片 */
img[class^=mm-img] { /* ... */ }

2. 正确获取元素属性:getAttribute('src')的必要性

在JavaScript中,DOM元素的src属性(例如el.src)通常会返回图片的绝对URL,这是浏览器解析并加载图片后形成的。然而,el.getAttribute('src')则会返回HTML标签中原始的src属性值,它可能是相对路径,也可能在某些情况下(如懒加载)暂时为空或指向一个

相关专题

更多
js获取数组长度的方法
js获取数组长度的方法

在js中,可以利用array对象的length属性来获取数组长度,该属性可设置或返回数组中元素的数目,只需要使用“array.length”语句即可返回表示数组对象的元素个数的数值,也就是长度值。php中文网还提供JavaScript数组的相关下载、相关课程等内容,供大家免费下载使用。

557

2023.06.20

js刷新当前页面
js刷新当前页面

js刷新当前页面的方法:1、reload方法,该方法强迫浏览器刷新当前页面,语法为“location.reload([bForceGet]) ”;2、replace方法,该方法通过指定URL替换当前缓存在历史里(客户端)的项目,因此当使用replace方法之后,不能通过“前进”和“后退”来访问已经被替换的URL,语法为“location.replace(URL) ”。php中文网为大家带来了js刷新当前页面的相关知识、以及相关文章等内容

374

2023.07.04

js四舍五入
js四舍五入

js四舍五入的方法:1、tofixed方法,可把 Number 四舍五入为指定小数位数的数字;2、round() 方法,可把一个数字舍入为最接近的整数。php中文网为大家带来了js四舍五入的相关知识、以及相关文章等内容

754

2023.07.04

js删除节点的方法
js删除节点的方法

js删除节点的方法有:1、removeChild()方法,用于从父节点中移除指定的子节点,它需要两个参数,第一个参数是要删除的子节点,第二个参数是父节点;2、parentNode.removeChild()方法,可以直接通过父节点调用来删除子节点;3、remove()方法,可以直接删除节点,而无需指定父节点;4、innerHTML属性,用于删除节点的内容。

478

2023.09.01

JavaScript转义字符
JavaScript转义字符

JavaScript中的转义字符是反斜杠和引号,可以在字符串中表示特殊字符或改变字符的含义。本专题为大家提供转义字符相关的文章、下载、课程内容,供大家免费下载体验。

434

2023.09.04

js生成随机数的方法
js生成随机数的方法

js生成随机数的方法有:1、使用random函数生成0-1之间的随机数;2、使用random函数和特定范围来生成随机整数;3、使用random函数和round函数生成0-99之间的随机整数;4、使用random函数和其他函数生成更复杂的随机数;5、使用random函数和其他函数生成范围内的随机小数;6、使用random函数和其他函数生成范围内的随机整数或小数。

1031

2023.09.04

如何启用JavaScript
如何启用JavaScript

JavaScript启用方法有内联脚本、内部脚本、外部脚本和异步加载。详细介绍:1、内联脚本是将JavaScript代码直接嵌入到HTML标签中;2、内部脚本是将JavaScript代码放置在HTML文件的`<script>`标签中;3、外部脚本是将JavaScript代码放置在一个独立的文件;4、外部脚本是将JavaScript代码放置在一个独立的文件。

658

2023.09.12

Js中Symbol类详解
Js中Symbol类详解

javascript中的Symbol数据类型是一种基本数据类型,用于表示独一无二的值。Symbol的特点:1、独一无二,每个Symbol值都是唯一的,不会与其他任何值相等;2、不可变性,Symbol值一旦创建,就不能修改或者重新赋值;3、隐藏性,Symbol值不会被隐式转换为其他类型;4、无法枚举,Symbol值作为对象的属性名时,默认是不可枚举的。

553

2023.09.20

excel表格操作技巧大全 表格制作excel教程
excel表格操作技巧大全 表格制作excel教程

Excel表格操作的核心技巧在于 熟练使用快捷键、数据处理函数及视图工具,如Ctrl+C/V(复制粘贴)、Alt+=(自动求和)、条件格式、数据验证及数据透视表。掌握这些可大幅提升数据分析与办公效率,实现快速录入、查找、筛选和汇总。

0

2026.01.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Sass 教程
Sass 教程

共14课时 | 0.8万人学习

Bootstrap 5教程
Bootstrap 5教程

共46课时 | 2.9万人学习

CSS教程
CSS教程

共754课时 | 21.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号