简要咨询咨询QQ网站导航网站搜索手机站点联系我们设为首页加入收藏 

php实现递归抓取网页类实例

来源:易贤网   阅读:767 次  日期:2015-04-07 15:04:37

温馨提示:易贤网小编为您整理了“php实现递归抓取网页类实例”,方便广大网友查阅!

具体如下:

<?php

class crawler{

private $_depth=5;

private $_urls=array();

function extract_links($url)

{

if(!$this->_started){

$this->_started=1;

$curr_depth=0;

}else{

$curr_depth++;

}

if($curr_depth<$this->_depth)

{

$data=file_get_contents($url);

if(preg_match_all('/((?:http|https)://(?:www.)*(?:[a-zA-Z0-9_-]{1,15}.+[a-zA-Z0-9_]{1,}){1,}(?:[a-zA-Z0-9_/.-?&:%,!;]*))/',$data,$urls12))

{

foreach($urls12[0] as $k=>$v){

$check=get_headers($v,1);

if(strstr($v,$url) && $check[0]=='HTTP/1.1 200 OK' && !array_search($v,$this->_urls) && $curr_depth<$this->_depth){

$this->_urls[]=$v;

$this->extract_links($v);

}

}

}

}

return $this->_urls;

}

}

?>

更多信息请查看IT技术专栏

更多信息请查看网络编程
点此处就本文及相关问题在本站进行非正式的简要咨询(便捷快速)】     【点此处查询各地各类考试咨询QQ号码及交流群
上一篇:php解析字符串里所有URL地址的方法
下一篇:php获取网页里所有图片并存入数组的方法
易贤网手机网站地址:php实现递归抓取网页类实例
由于各方面情况的不断调整与变化,易贤网提供的所有考试信息和咨询回复仅供参考,敬请考生以权威部门公布的正式信息和咨询为准!