PHP如何实现爬取网页的功能-php教程-PHP中文网

本篇文章给大家分享的是关于php如何实现爬取网页的功能，内容很不错，有需要的朋友可以参考一下，希望可以帮助到大家。

主要流程就是获取整个网页，然后正则匹配（关键的）。

PHP抓取页面的主要方法,有几种方法是网上前辈的经验，现在还没有用到的，先存下来以后试试。

1.file()函数

2.file_get_contents()函数

立即学习“PHP免费学习笔记（深入）”；

3.fopen()->fread()->fclose()模式

4.curl方式（本人主要用这个）

5.fsockopen()函数 socket模式

6.插件(如：http://sourceforge.net/projects/snoopy/)

7.file()函数



							
								
								
									HTML5效果非常全面的模态窗口弹出层插件
									JS特效就是网页中实现的特殊效果或者特殊的功能的一种技术，是用网页脚本(javascript)来编写制作动态特殊效果，比如图片切换，渐变等等，它为网页活跃了网页的气氛，有时候会起到一定的亲切力。务（控制台应用程序、桌面应用程序、WEB应用程序等）
								
								下载 
							
						
2.使用file_get_contents方法实现，比较简单。
使用file_get_contents和fopen必须空间开启allow_url_fopen。方法：编辑php.ini，设置 allow_url_fopen = On，allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
$url="[http://news.sina.com.cn/c/nd/2016-10-23/doc-ifxwztru6951143.shtml](http://news.sina.com.cn/c/nd/2016-10-23/doc-ifxwztru6951143.shtml)";
$html=file_get_contents($url);
//如果出现中文乱码使用下面代码`
//$getcontent = iconv("gb2312", "utf-8",$html);
echo"".$html."";

3.fopen()->fread()->fclose()模式 ，目前还没用过，看到了就先记下了

4.使用curl实现（本人一般使用这个）。
使用curl必须空间开启curl。方法：windows下修改php.ini，将extension=php_curl.dll前面的分号去掉，而且需 要拷贝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下；Linux下要安装curl扩展。
(.*?)<\/script>/',$res,$arr_all);//这个网页中数据通过js包过来，所以直接抓js就可以
preg_match_all('/"id"\:"(.*?)",/',$arr_all[1][1],$arr1);//从js块中匹配要的数据
$list = array_unique($arr1[1]);//（可省）保证不重复
//以下则是同理，循环则可
for($i=0;$i<=6;$i=$i+2){
  $detail_url = 'ht*****em/'.$list[$i];
  $detail_res = curl_get_contents($detail_url);
  preg_match_all('/