使用PHP如何爬取网页-php教程-PHP中文网

在php中爬取网页数据的主要流程就是先获取整个网页数据，然后正则匹配（关键的）所需要的网页数据。

PHP读取页面的主要方法,有几种方法获取页面数据的示例是网上前辈的经验，现在还没有用到的，先存下来以后试试。

1.file()函数

2.file_get_contents()函数

3.fopen()->fread()->fclose()模式

立即学习“PHP免费学习笔记（深入）”；

4.curl方式（本人主要用这个）

5.fsockopen()函数 socket模式

6.插件(如：http://sourceforge.net/projects/snoopy/)

7.file()函数



							
								
								
									TWE-Commerce
									一个功能强大的B2B与B2C的购物平台，除了原本OSC功能外，增加更新的功能： 一、 取消了register_globals必须开启的限制 二、 將HTML程式碼与PHP程式碼完全分离，採用了smarty 樣板引擎 三、 每支档案includes所需函数与资料库连结，使的网页显示速度明显提升 四、 检视、购买商品群组权限设定 五、 十八岁以下禁购机制 六、 折价券购物抵扣机制 七、 礼券购物机制 
								
								下载 
							
						
2.使用file_get_contents方法实现，比较简单。
使用file_get_contents和fopen必须空间开启allow_url_fopen。方法：编辑php.ini，设置 allow_url_fopen = On，allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
$url="[http://news.sina.com.cn/c/nd/2016-10-23/doc-ifxwztru6951143.shtml](http://news.sina.com.cn/c/nd/2016-10-23/doc-ifxwztru6951143.shtml)";
$html=file_get_contents($url);
//如果出现中文乱码使用下面代码`
//$getcontent = iconv("gb2312", "utf-8",$html);
echo"".$html."";


3.fopen()->fread()->fclose()模式 ，目前还没用过，看到了就先记下了


4.使用curl实现（本人一般使用这个）。
使用curl必须空间开启curl。方法：windows下修改php.ini，将extension=php_curl.dll前面的分号去掉，而且需 要拷贝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下；Linux下要安装curl扩展。
(.*?)<\/script>/',$res,$arr_all);//这个网页中数据通过js包过来，所以直接抓js就可以
preg_match_all('/"id"\:"(.*?)",/',$arr_all[1][1],$arr1);//从js块中匹配要的数据
$list = array_unique($arr1[1]);//（可省）保证不重复
//以下则是同理，循环则可
for($i=0;$i<=6;$i=$i+2){
  $detail_url = 'ht*****em/'.$list[$i];
  $detail_res = curl_get_contents($detail_url);
  preg_match_all('/