0

0

PHP搜索引擎抓取404怎么办_PHP抓取404引导法【参考】

絕刀狂花

絕刀狂花

发布时间:2026-01-20 16:39:09

|

899人浏览过

|

来源于php中文网

原创

先确认真实HTTP状态码,再伪造User-Agent等请求头;若仍404,需检查是否JS渲染、WAF拦截或API接口,而非强行用PHP渲染页面。

php搜索引擎抓取404怎么办_php抓取404引导法【参考】

PHP用file_get_contents抓取返回404怎么办

不是目标页面真不存在,而是file_get_contents默认不发送User-Agent,多数搜索引擎或反爬站点会直接返回404或302跳转。它本质是HTTP客户端行为,不是“搜索引擎抓取”,别被标题误导。

  • 检查响应状态:先用get_headers($url)确认真实HTTP状态码,别只看file_get_contents是否返回空字符串
  • 必须伪造请求头:
    $opts = [
        'http' => [
            'method' => 'GET',
            'header' => "User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36\r\n"
        ]
    ];
    $context = stream_context_create($opts);
    $content = file_get_contents($url, false, $context);
  • 若仍404,说明目标站做了Referer校验、Cookie校验或JS渲染——file_get_contents无法处理这些,得换方案

cURL抓取时收到404但浏览器能打开

常见于目标页依赖JavaScript动态加载内容,或服务端根据AcceptAccept-Language等头判断客户端类型。cURL默认头极简,容易被识别为非浏览器流量。

  • 补全关键请求头:
    $ch = curl_init($url);
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
    curl_setopt($ch, CURLOPT_HTTPHEADER, [
        'User-Agent: Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36',
        'Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
        'Accept-Language: en-US,en;q=0.5',
        'Accept-Encoding: gzip, deflate',
        'Connection: keep-alive',
    ]);
    $content = curl_exec($ch);
  • 开启CURLOPT_FOLLOWLOCATION,避免因301/302跳转未跟随导致误判404
  • curl_getinfo($ch, CURLINFO_HTTP_CODE)确认真实状态码,别依赖$content === false

PHP抓取需绕过前端渲染(如React/Vue SPA)

如果目标页HTML里只有

,而内容靠JS异步拉取,PHP原生HTTP函数完全无效——它们不执行JS,只拿原始HTML。

甲骨文AI协同平台
甲骨文AI协同平台

专门用于甲骨文研究的革命性平台

下载
  • 不要硬扛:PHP不适合做无头浏览器,强行用exec('node scraper.js')调用Puppeteer既慢又难维护
  • 优先查API:打开浏览器开发者工具→Network→XHR/Fetch,找真实数据接口,直接用PHP请求那个JSON地址
  • 若必须渲染,用专用服务:比如部署一个Headless Chrome实例,通过HTTP API(如Chrome DevTools Protocol封装服务)提交URL获取渲染后HTML,PHP只负责发请求收结果

404不是错误,而是信号

当PHP抓取持续返回404,第一反应不该是“怎么让代码不报错”,而是验证:这个URL是否本就该404?有没有权限限制?是不是临时下线?有没有robots.txt禁止抓取?

立即学习PHP免费学习笔记(深入)”;

  • file_get_contents和cURL只是工具,不能替代对目标站点规则的理解
  • 加日志记录完整请求URL、时间、curl_getinfo返回的http_coderedirect_urlsize_download
  • 很多所谓“404问题”,其实是目标站启用了Cloudflare等WAF,返回的是HTML格式的拦截页,HTTP状态码却是200——这时要检查响应体是否含"Checking if the site connection is secure"这类特征字符串

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

2698

2023.09.01

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

1665

2023.10.11

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

1527

2023.10.11

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

974

2023.10.23

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

1443

2023.10.23

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

1235

2023.11.03

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1509

2023.11.09

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1306

2023.11.13

Java JVM 原理与性能调优实战
Java JVM 原理与性能调优实战

本专题系统讲解 Java 虚拟机(JVM)的核心工作原理与性能调优方法,包括 JVM 内存结构、对象创建与回收流程、垃圾回收器(Serial、CMS、G1、ZGC)对比分析、常见内存泄漏与性能瓶颈排查,以及 JVM 参数调优与监控工具(jstat、jmap、jvisualvm)的实战使用。通过真实案例,帮助学习者掌握 Java 应用在生产环境中的性能分析与优化能力。

19

2026.01.20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PHP课程
PHP课程

共137课时 | 8.9万人学习

JavaScript ES5基础线上课程教学
JavaScript ES5基础线上课程教学

共6课时 | 8.6万人学习

PHP新手语法线上课程教学
PHP新手语法线上课程教学

共13课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号