0

0

PHP能爬取动态网页吗_PHP爬取JavaScript动态页面技巧【指南】

蓮花仙者

蓮花仙者

发布时间:2026-02-10 13:11:19

|

292人浏览过

|

来源于php中文网

原创

PHP无法直接获取JS渲染内容,因其HTTP客户端无渲染引擎;需用Headless Chrome(Puppeteer)、Selenium或抓取API/SSR来解决。

php能爬取动态网页吗_php爬取javascript动态页面技巧【指南】

PHP 本身不能直接执行 JavaScript,所以用 file_get_contents()cURL 拿到的只是初始 HTML,那些由 JS 渲染出来的内容(比如 React/Vue 加载的数据、滚动加载的列表、点击展开的详情)默认是空的。

为什么 PHP 直接请求拿不到动态内容

浏览器加载页面时会下载并执行 JS,再修改 DOM;而 PHP 的 HTTP 客户端只是“下载器”,不带渲染引擎。你看到的“空白”或“loading…”占位符,就是原始 HTML 里没被 JS 处理前的样子。

  • 常见错误现象:file_get_contents('https://example.com') 返回的内容里包含
    ,但实际页面中这个区域已被 Vue 填充了数据
  • 真实场景:电商商品页的 SKU 列表、新闻站的无限滚动评论、后台管理界面的权限菜单
  • 关键区别:静态页面返回即完整;动态页面返回的是“壳”,JS 才是“填充工”

用 Headless Chrome 配合 PHP 调用 Puppeteer(推荐方案)

本质是让 PHP 启动一个无界面 Chrome 实例,等 JS 执行完再取最终 DOM。比服务端渲染更通用,兼容绝大多数前端框架。

  • 需要 Node.js 环境和 puppeteer 包,PHP 只负责调用命令行或 API
  • 示例调用方式:exec('node scrape.js https://example.com', $output);,其中 scrape.jspage.waitForSelector('.item-list') 等待目标元素出现
  • 注意超时设置:动态页面加载慢,page.goto(url, { waitUntil: 'networkidle0' })'domcontentloaded' 更稳妥
  • 性能影响:每次启动浏览器开销大,不适合高频小请求;建议用长连接或池化管理(如 Chrome DevTools Protocol + chrome-remote-interface

检查目标站点是否提供 API 或 SSR 支持

很多所谓“动态页面”背后其实有隐藏 API,比硬啃 JS 更高效可靠。

Hika AI
Hika AI

Hika AI是一个免费的AI智能搜索引擎

下载

立即学习PHP免费学习笔记(深入)”;

  • 打开浏览器开发者工具 → Network 标签 → 刷新页面 → 筛选 XHRFetch,找返回 JSON 的请求(比如 /api/v1/products?category=12
  • 有些站点启用了服务端渲染(SSR),比如 Next.js/Nuxt 默认输出首屏 HTML,此时 cURL 就能拿到完整内容
  • 验证方法:禁用浏览器 JS 后刷新,如果关键内容仍可见,说明是 SSR 或静态 API;如果只剩骨架,则必须走浏览器自动化
  • 绕过反爬:API 请求往往带 X-Requested-With: XMLHttpRequest,PHP 中用 curl_setopt($ch, CURLOPT_HTTPHEADER, [...]) 补全即可

用 Selenium + WebDriver(适合复杂交互)

当页面需要登录、滑动验证、鼠标悬停触发菜单等操作时,Puppeteer 可能不够灵活,Selenium 提供更贴近真实用户行为的控制能力。

  • PHP 需安装 facebook/webdriver Composer 包,并运行 chromedriver 服务
  • 关键代码片段:$driver->wait(10)->until(WebDriverExpectedCondition::presenceOfElementLocated(WebDriverBy::cssSelector('.price')))
  • 容易踩的坑:ChromeDriver 版本必须与本地 Chrome 版本严格匹配,否则报 session not created
  • 兼容性提示:Selenium 启动的浏览器默认带图形界面,服务器部署时要加 --headless --no-sandbox --disable-dev-shm-usage

真正卡住的往往不是“能不能”,而是没分清哪些内容是 JS 渲染的、哪些只是前端懒加载但实际藏在 HTML 注释或内联 JSON 里。先看 Network 和 Disable JavaScript,再决定要不要上浏览器自动化——多数时候,少写几行 JS 调用,比多起一个 Chrome 进程更省事。

相关文章

PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
composer是什么插件
composer是什么插件

Composer是一个PHP的依赖管理工具,它可以帮助开发者在PHP项目中管理和安装依赖的库文件。Composer通过一个中央化的存储库来管理所有的依赖库文件,这个存储库包含了各种可用的依赖库的信息和版本信息。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

158

2023.12.25

json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

435

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

543

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

317

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

79

2025.09.10

chrome什么意思
chrome什么意思

chrome是浏览器的意思,由Google开发的网络浏览器,它在2008年首次发布,并迅速成为全球最受欢迎的浏览器之一。本专题为大家提供chrome相关的文章、下载、课程内容,供大家免费下载体验。

922

2023.08.11

chrome无法加载插件怎么办
chrome无法加载插件怎么办

chrome无法加载插件可以通过检查插件是否已正确安装、禁用和启用插件、清除插件缓存、更新浏览器和插件、检查网络连接和尝试在隐身模式下加载插件方法解决。更多关于chrome相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

775

2023.11.06

chrome什么意思
chrome什么意思

chrome是浏览器的意思,由Google开发的网络浏览器,它在2008年首次发布,并迅速成为全球最受欢迎的浏览器之一。本专题为大家提供chrome相关的文章、下载、课程内容,供大家免费下载体验。

922

2023.08.11

包子漫画网页版入口与全集阅读指南_正版免费漫画快速访问方法
包子漫画网页版入口与全集阅读指南_正版免费漫画快速访问方法

本专题汇总了包子漫画官网和网页版入口,提供最新章节抢先看方法、正版免费阅读指南,以及稳定访问方式,帮助用户快速直达包子漫画页面,无广告畅享全集漫画内容。

1

2026.02.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PHP课程
PHP课程

共137课时 | 11.4万人学习

JavaScript ES5基础线上课程教学
JavaScript ES5基础线上课程教学

共6课时 | 11.2万人学习

PHP新手语法线上课程教学
PHP新手语法线上课程教学

共13课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号