php爬虫抓取信息及反爬虫相关

58爬虫了百姓,赶集和58互爬,最后各种信息相同,都是爬虫后的数据库调用,潜规则啊,几家独大还暗中各种攻击,赶驴网的幽默事例我不想多评价。这个时代是砸.钱*养.钱的时代,各种姚晨杨幂葛优,各种地铁公车广告,各种卫视广告,铺天盖地~~~ 来谈php爬虫抓取信息~~ php爬虫首推Curl函数了,先来认识下它。 0x01.curl扩展的安装: 1.确保php子文件夹ext里面有phpcurl.dll(一般都有的,一般配置时候会设置环境变量的) 2.将php.ini里面的;extension=phpcurl.dll反注释为extension=php_curl.dll 3.重启apache完了。 4.如果还不行,把php5/libeay32.dll,ssleay32.dll复制到系统目录windows/下,这2个dll的描述是OpenSSL Shared Library。

否则会出现 Fatal error: Call to undefined function curl_init() in XX:\XX\XX\XX.php on line 3? 这样未定义,找不到库的错误,大家懂的。

0x02.先来熟悉下curl再去采集抓取,信息时代,大爆炸,爬虫个信息不是难事。顺便测试登陆,COOKIE。 PHP中的CURL函数库(Client URL Library Function)是个强大的库。

curlclose — 关闭一个curl会话 curlcopyhandle — 拷贝一个curl连接资源的所有内容和参数 curlerrno — 返回一个包含当前会话错误信息的数字编号 curlerror — 返回一个包含当前会话错误信息的字符串 curlexec — 执行一个curl会话 curlgetinfo — 获取一个curl连接资源句柄的信息 curlinit — 初始化一个curl会话 curlmultiaddhandle — 向curl批处理会话中添加单独的curl句柄资源 curlmulticlose — 关闭一个批处理句柄资源 curlmultiexec — 解析一个curl批处理句柄 curlmultigetcontent — 返回获取的输出的文本流 curlmultiinforead — 获取当前解析的curl的相关传输信息 curlmultiinit — 初始化一个curl批处理句柄资源 curlmultiremovehandle — 移除curl批处理句柄资源中的某个句柄资源 curlmultiselect — Get all the sockets associated with the cURL extension, which can then be "selected" curlsetoptarray — 以数组的形式为一个curl设置会话参数 curlsetopt — 为一个curl设置会话参数 curl_version — 获取curl相关的版本信息

curlinit()函数的作用初始化一个curl会话,curlinit()函数唯一的一个参数是可选的,表示一个url地址。 curlexec()函数的作用是执行一个curl会话,唯一的参数是curlinit()函数返回的句柄。 curlclose()函数的作用是关闭一个curl会话,唯一的参数是curlinit()函数返回的句柄。

简单实例: init($url);//初始curl会话 $fp = fopen("homepage.txt", "w");//这里是把抓取的网页内容写入一个txt文件,下面会告诉你操作数据库。 curlsetopt($ch, CURLOPTFILE, $fp);//为一个curl设置会话参数 curlsetopt($ch, CURLOPTHEADER, 0);//设置header curlexec($ch);//执行curl会话 curl_close($ch);//关闭curl会话 fclose($fp); ?>

0x03.关于CURL_SETOPT()函数的设置

bool curl_setopt (int ch, string option, mixed value)

curl_setopt()函数将为一个CURL会话设置选项。option参数是你想要的设置,value是这个选项给定的值。

下列选项的值将被作为长整形使用(在option参数中指定):

  • CURLOPT_INFILESIZE: 当你上传一个文件到远程站点,这个选项告诉PHP你上传文件的大小。
  • CURLOPT_VERBOSE: 如果你想CURL报告每一件意外的事情,设置这个选项为一个非零值。
  • CURLOPT_HEADER: 如果你想把一个头包含在输出中,设置这个选项为一个非零值。
  • CURLOPT_NOPROGRESS: 如果你不会PHP为CURL传输显示一个进程条,设置这个选项为一个非零值。注意:PHP自动设置这个选项为非零值,你应该仅仅为了调试的目的来改变这个选项。
  • CURLOPT_NOBODY: 如果你不想在输出中包含body部分,设置这个选项为一个非零值。
  • CURLOPT_FAILONERROR: 如果你想让PHP在发生错误(HTTP代码返回大于等于300)时,不显示,设置这个选项为一人非零值。默认行为是返回一个正常页,忽略代码。
  • CURLOPT_UPLOAD: 如果你想让PHP为上传做准备,设置这个选项为一个非零值。
  • CURLOPT_POST: 如果你想PHP去做一个正规的HTTP POST,设置这个选项为一个非零值。这个POST是普通的 application/x-www-from-urlencoded 类型,多数被HTML表单使用。
  • CURLOPT_FTPLISTONLY: 设置这个选项为非零值,PHP将列出FTP的目录名列表。
  • CURLOPT_FTPAPPEND: 设置这个选项为一个非零值,PHP将应用远程文件代替覆盖它。
  • CURLOPT_NETRC: 设置这个选项为一个非零值,PHP将在你的 ~./netrc 文件中查找你要建立连接的远程站点的用户名及密码。
  • CURLOPT_FOLLOWLOCATION: 设置这个选项为一个非零值(象 “Location: “)的头,服务器会把它当做HTTP头的一部分发送(注意这是递归的,PHP将发送形如 “Location: “的头)。
  • CURLOPTPUT: 设置这个选项为一个非零值去用HTTP上传一个文件。要上传这个文件必须设置CURLOPTINFILE和CURLOPT_INFILESIZE选项.
  • CURLOPT_MUTE: 设置这个选项为一个非零值,PHP对于CURL函数将完全沉默。
  • CURLOPT_TIMEOUT: 设置一个长整形数,作为最大延续多少秒。
  • CURLOPTLOWSPEED_LIMIT: 设置一个长整形数,控制传送多少字节。
  • CURLOPTLOWSPEEDTIME: 设置一个长整形数,控制多少秒传送CURLOPTLOWSPEEDLIMIT规定的字节数。
  • CURLOPTRESUMEFROM: 传递一个包含字节偏移地址的长整形参数,(你想转移到的开始表单)。
  • CURLOPT_SSLVERSION: 传递一个包含SSL版本的长参数。默认PHP将被它自己努力的确定,在更多的安全中你必须手工设置。
  • CURLOPTTIMECONDITION: 传递一个长参数,指定怎么处理CURLOPTTIMEVALUE参数。你可以设置这个参数为TIMECONDIFMODSINCE 或 TIMECONDISUNMODSINCE。这仅用于HTTP。
  • CURLOPTTIMEVALUE: 传递一个从1970-1-1开始到现在的秒数。这个时间将被CURLOPTTIMEVALUE选项作为指定值使用,或被默认TIMECOND_IFMODSINCE使用。

下列选项的值将被作为字符串:

  • CURLOPTURL: 这是你想用PHP取回的URL地址。你也可以在用curlinit()函数初始化时设置这个选项。
  • CURLOPT_USERPWD: 传递一个形如[username]:[password]风格的字符串,作用PHP去连接。
  • CURLOPT_PROXYUSERPWD: 传递一个形如[username]:[password] 格式的字符串去连接HTTP代理。
  • CURLOPT_RANGE: 传递一个你想指定的范围。它应该是”X-Y”格式,X或Y是被除外的。HTTP传送同样支持几个间隔,用逗句来分隔(X-Y,N-M)。
  • CURLOPT_POSTFIELDS: 传递一个作为HTTP “POST”操作的所有数据的字符串。
  • CURLOPT_REFERER: 在HTTP请求中包含一个”referer”头的字符串。
  • CURLOPT_USERAGENT: 在HTTP请求中包含一个”user-agent”头的字符串。
  • CURLOPT_FTPPORT: 传递一个包含被ftp “POST”指令使用的IP地址。这个POST指令告诉远程服务器去连接我们指定的IP地址。这个字符串可以是一个IP地址,一个主机名,一个网络界面名 (在UNIX下),或是‘-’(使用系统默认IP地址)。
  • CURLOPT_COOKIE: 传递一个包含HTTP cookie的头连接。
  • CURLOPT_SSLCERT: 传递一个包含PEM格式证书的字符串。
  • CURLOPTSSLCERTPASSWD: 传递一个包含使用CURLOPTSSLCERT证书必需的密码。
  • CURLOPT_COOKIEFILE: 传递一个包含cookie数据的文件的名字的字符串。这个cookie文件可以是Netscape格式,或是堆存在文件中的HTTP风格的头。
  • CURLOPT_CUSTOMREQUEST: 当进行HTTP请求时,传递一个字符被GET或HEAD使用。为进行DELETE或其它操作是有益的,更Pass a string to be used instead of GET or HEAD when doing an HTTP request. This is useful for doing or another, more obscure, HTTP request. 注意: 在确认你的服务器支持命令先不要去这样做。下列的选项要求一个文件描述(通过使用fopen()函数获得):
  • CURLOPT_FILE: 这个文件将是你放置传送的输出文件,默认是STDOUT.
  • CURLOPT_INFILE: 这个文件是你传送过来的输入文件。
  • CURLOPT_WRITEHEADER: 这个文件写有你输出的头部分。
  • CURLOPT_STDERR: 这个文件写有错误而不是stderr。用来获取需要登录的页面的例子,当前做法是每次或许都登录一次,有需要的人再做改进了.

PHP实现最简单爬虫原型(话说原作者的正则注释反了,出现错误哈哈)

代码如下 <?php

function getUrlContent($url){ $handle = fopen($url, "r"); if($handle){ $content = streamget_contents($handle,1024*1024); return $content; }else{ return false; }
}

function filterUrl($webcontent){ $regtaga = "/<[a|A].?href=[\'\"]{0,1}([^>\'\"\ ]).?>/"; //$result = pregmatchall($regtaga,$webcontent,$matchresult); $result = pregmatchall("/]?name=[\'\"]?description[\'\"]?[^>]*?>/is",$webcontent,$matchresult); if($result){ return $match_result[1]; } }

function reviseUrl($baseurl,$urllist){ $urlinfo = parseurl($baseurl); $baseurl = $urlinfo["scheme"].'://'; if($urlinfo["user"]&&$urlinfo["pass"]){ $baseurl .= $urlinfo["user"].":".$urlinfo["pass"]."@"; } $baseurl .= $urlinfo["host"]; if($urlinfo["port"]){ $baseurl .= ":".$urlinfo["port"]; } $baseurl .= $urlinfo["path"]; printr($baseurl); if(isarray($urllist)){ foreach ($urllist as $urlitem) { if(pregmatch('/^http/',$urlitem)){ //已经是完整的url $result[] = $urlitem; }else { //不完整的url $realurl = $baseurl.'/'.$urlitem; $result[] = $real_url; } } return $result; }else { return; } }

function crawler($url){ $content = getUrlContent($url); if($content){ $urllist = reviseUrl($url,filterUrl($content)); if($urllist){ return $urllist; }else { return ; } }else{ return ; } }

function main(){ $currenturl = "http://hao123.com/";//初始url $fpputs = fopen("url.txt","ab");//记录url列表 $fpgets = fopen("url.txt","r");//保存url列表 do{ $resulturlarr = crawler($currenturl); if($resulturlarr){ foreach ($resulturlarr as $url) { fputs($fpputs,$url."/r/n"); } } }while ($currenturl = fgets($fp_gets,1024));//不断获得url

} main(); ?>

代码如下 <?php class CurlComponent{ var $headers; var $useragent; var $compression; var $cookiefile; var $proxy;

functionsetvalue($cookies=TRUE,$cookie='cookies.txt',$compression='gzip',$proxy='') { $this->headers[] = "Accept: image/gif, image/x-bitmap, image/jpeg, image/pjpeg"; $this->headers[] = "Connection: Keep-Alive"; $this->headers[] = "Content-type: application/x-www-form-urlencoded"; $this->useragent = "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 1.0.3705; .NET CLR 1.1.4322; Media Center PC 4.0)"; $this->compression=$compression; $this->proxy=$proxy; $this->cookies=$cookies; if ($this->cookies == TRUE) $this->cookie($cookie); }

function cookie($cookiefile) { if (fileexists($cookiefile)) { $this->cookiefile=$cookiefile; } else { @fopen($cookiefile,'w')or$this->error("The cookie file could not be opened. Make sure this directory has the correct permissions"); $this->cookiefile=$cookiefile; @fclose($cookie_file); } }

function get($url,$refer='') { $process =curlinit($url); curlsetopt($process,CURLOPTREFERER, $refer); curlsetopt($process,CURLOPTHTTPHEADER, $this->headers); curlsetopt($process,CURLOPTUSERAGENT, $this->useragent); if ($this->cookies == TRUE)curlsetopt($process,CURLOPTCOOKIEFILE, $this->cookiefile); if ($this->cookies == TRUE)curlsetopt($process,CURLOPTCOOKIEJAR, $this->cookiefile); curlsetopt($process,CURLOPTENCODING, $this->compression); curlsetopt($process,CURLOPTTIMEOUT, 30000); if ($this->proxy)curlsetopt($cUrl,CURLOPTPROXY, 'proxyip:proxyport'); curlsetopt($process,CURLOPTRETURNTRANSFER, 1); $return =curlexec($process); curlclose($process); return $return; }

function post($url,$data,$refer) { $process =curlinit($url); curlsetopt($process,CURLOPTREFERER, $refer); curlsetopt($process,CURLOPTHTTPHEADER, $this->headers); curlsetopt($process,CURLOPTUSERAGENT, $this->useragent); if ($this->cookies == TRUE)curlsetopt($process,CURLOPTCOOKIEFILE, $this->cookiefile); if ($this->cookies == TRUE)curlsetopt($process,CURLOPTCOOKIEJAR, $this->cookiefile); curlsetopt($process,CURLOPTENCODING, $this->compression); curlsetopt($process,CURLOPTTIMEOUT, 30000); if ($this->proxy)curlsetopt($cUrl,CURLOPTPROXY, 'proxyip:proxyport'); curlsetopt($process,CURLOPTPOSTFIELDS, $data); curlsetopt($process,CURLOPTRETURNTRANSFER, 1); curlsetopt($process,CURLOPTFOLLOWLOCATION, 1); curlsetopt($process,CURLOPTPOST, 1); $return =curlexec($process); curlclose($process); return $return; }

function error($error) { echo "

cURL Error
$error
"; die; }

}

?>

0x04.POST数据 代码如下 ﹤?php $phoneNumber = '13812345678'; $message = 'This message was generated by curl and php'; $curlPost = 'pNUMBER=' . urlencode($phoneNumber) . '&MESSAGE=' . urlencode($message) . '&SUBMIT=Send'; $ch = curlinit(); curlsetopt($ch, CURLOPTURL, 'http://www.lxvoip.com/sendSMS.php'); curlsetopt($ch, CURLOPTHEADER, 1); curlsetopt($ch, CURLOPTRETURNTRANSFER, 1); curlsetopt($ch, CURLOPTPOST, 1); curlsetopt($ch, CURLOPTPOSTFIELDS, $curlPost); $data = curlexec(); curl_close($ch); ?﹥

0x05.模拟登录 Curl 模拟登录 discuz 程序,适合DZ7.0,将username改成你的用户名,userpass改成你的密码就可以了. 代码如下 <?php

!extension_loaded('curl') && die('The curl extension is not loaded.');

$discuzurl = 'http://www.lxvoip.com';//论坛地址 $loginurl = $discuzurl .'/logging.php?action=login';//登录页地址 $geturl = $discuz_url .'/my.php?item=threads'; //我的帖子

$postfields = array(); //以下两项不需要修改 $postfields['loginfield'] = 'username';
$postfields['loginsubmit'] = 'true'; //用户名和密码,必须填写 $postfields['username'] = 'lxvoip';
$postfields['password'] = '88888888'; //安全提问 $postfields['questionid'] = 0;
$postfields['answer'] = ''; //@todo验证码 $postfields['seccodeverify'] = '';

//获取表单FORMHASH
$ch = curlinit($loginurl);
curlsetopt($ch, CURLOPTHEADER, 0);
curlsetopt($ch, CURLOPTRETURNTRANSFER, 1);
$contents = curlexec($ch); curlclose($ch);
preg_match('//i', $contents,$matches);
if(!empty($matches)) {
$formhash = $matches[1];
} else {
die('Not found the forumhash.');
}

//POST数据,获取COOKIE
$cookiefile = dirname(FILE) . '/cookie.txt'; //$cookiefile = tempnam('/tmp');
$ch = curlinit($loginurl);
curlsetopt($ch, CURLOPTHEADER, 0);
curlsetopt($ch, CURLOPTRETURNTRANSFER, 1);
curlsetopt($ch, CURLOPTPOST, 1);
curlsetopt($ch, CURLOPTPOSTFIELDS, $postfields); curlsetopt($ch, CURLOPTCOOKIEJAR, $cookiefile);
curlexec($ch); curlclose($ch);

//带着上面得到的COOKIE获取需要登录后才能查看的页面内容
$ch = curlinit($geturl);
curlsetopt($ch, CURLOPTHEADER, 0);
curlsetopt($ch, CURLOPTRETURNTRANSFER, 0);
curlsetopt($ch, CURLOPTCOOKIEFILE, $cookiefile); $contents = curlexec($ch);
curl_close($ch);

var_dump($contents);
?> 再看几个模拟登录的例子:

代码如下 <?php

errorreporting(EALL);

$login_url = '192.168.18.25/test/php-curl-login.php';//模拟登录地址

$cookie_url='192.168.18.25/test/php-curl-cookie.php'; //模拟发帖

$postfields = array(); $postfields['username'] = 'phpcto'; $postfields['password'] = 'phpcto123'; $cookiefile =tempnam('./temp','cookie'); ob_start(); echo '

';

$ch = curlinit($loginurl); curlsetopt($ch, CURLOPTHEADER, 0);// 返回页面内容
curlsetopt($ch, CURLOPTRETURNTRANSFER, 0); //获取的信息以文件流的形式返回
curlsetopt($ch, CURLOPTPOST, 1);// 提交post数据 curlsetopt($ch, CURLOPTPOSTFIELDS, $postfields); curlsetopt($ch, CURLOPTCOOKIEJAR, $cookiefile);// 保存cookie curlexec($ch); // 执行 curlclose($ch);// 关闭 echo '


';

$ch2=curlinit($cookieurl); curlsetopt($ch2, CURLOPTCOOKIEFILE, $cookiefile); // 使用cookie curlexec($ch2); curl_close($ch2); echo '


';

echo '

'; obendflush();

代码如下 php 使用curl模拟登录discuz以及模拟发帖 <?php $discuzurl = 'http://127.0.0.1/discuz/';//论坛地址 $loginurl = $discuzurl .'logging.php?action=login';//登录页地址 $postfields = array(); //以下两项不需要修改 $postfields['loginfield'] = 'username'; $postfields['loginsubmit'] = 'true'; //用户名和密码,必须填写 $postfields['username'] = 'tianxin'; $postfields['password'] = '111111'; //安全提问 $postfields['questionid'] = 0; $postfields['answer'] = ''; //@todo验证码 $post_fields['seccodeverify'] = '';

//获取表单FORMHASH $ch = curlinit($loginurl); curlsetopt($ch, CURLOPTHEADER, 0); curlsetopt($ch, CURLOPTRETURNTRANSFER, 1); $contents = curlexec($ch); curlclose($ch); preg_match('//i', $contents, $matches); if(!empty($matches)) { $formhash = $matches[1]; } else { die('Not found the forumhash.'); }

//POST数据,获取COOKIE,cookie文件放在网站的temp目录下 $cookie_file = tempnam('./temp','cookie');

$ch = curlinit($loginurl); curlsetopt($ch, CURLOPTHEADER, 0); curlsetopt($ch, CURLOPTRETURNTRANSFER, 1); curlsetopt($ch, CURLOPTPOST, 1); curlsetopt($ch, CURLOPTPOSTFIELDS, $postfields); curlsetopt($ch, CURLOPTCOOKIEJAR, $cookiefile); curlexec($ch); curlclose($ch);

//取到了关键的cookie文件就可以带着cookie文件去模拟发帖,fid为论坛的栏目ID $sendurl = $discuzurl."post.php?action=newthread&fid=2";

$ch = curlinit($sendurl); curlsetopt($ch, CURLOPTHEADER, 0); curlsetopt($ch, CURLOPTRETURNTRANSFER, 1); curlsetopt($ch, CURLOPTCOOKIEFILE, $cookiefile); $contents = curlexec($ch); curl_close($ch);

//这里的hash码和登陆窗口的hash码的正则不太一样,这里的hidden多了一个id属性 preg_match('//i', $contents, $matches); if(!empty($matches)) { $formhash = $matches[1]; } else { die('Not found the forumhash.'); }

$postdata = array(); //帖子标题 $postdata['subject'] = 'test2'; //帖子内容 $postdata['message'] = 'test2'; $postdata['topicsubmit'] = "yes"; $postdata['extra'] = ''; //帖子标签 $postdata['tags'] = 'test'; //帖子的hash码,这个非常关键!假如缺少这个hash码,discuz会警告你来路的页面不正确 $post_data['formhash']=$formhash;

$ch = curlinit($sendurl); curlsetopt($ch, CURLOPTREFERER, $sendurl); //伪装REFERER curlsetopt($ch, CURLOPTHEADER, 0); curlsetopt($ch, CURLOPTRETURNTRANSFER, 0); curlsetopt($ch, CURLOPTCOOKIEFILE, $cookiefile); curlsetopt($ch, CURLOPTPOST, 1); curlsetopt($ch, CURLOPTPOSTFIELDS, $postdata); $contents = curlexec($ch); curl_close($ch);

//清理cookie文件 unlink($cookie_file);

?>

代码如下 <?php
$cookiefile = dirname(FILE)."/cookie".md5(basename(FILE)).".txt"; // 设置Cookie文件保存路径及文件名

function vlogin($url,$data){ // 模拟登录获取Cookie函数
$curl = curlinit(); // 启动一个CURL会话 curlsetopt($curl, CURLOPTURL, $url); // 要访问的地址 curlsetopt($curl, CURLOPTSSLVERIFYPEER, 0); // 对认证证书来源的检查
curlsetopt($curl, CURLOPTSSLVERIFYHOST, 1); // 从证书中检查SSL加密算法是否存在 curlsetopt($curl, CURLOPTUSERAGENT, $SERVER['HTTPUSERAGENT']); // 模拟用户使用的浏览器
curlsetopt($curl, CURLOPTFOLLOWLOCATION, 1); // 使用自动跳转
curlsetopt($curl, CURLOPTAUTOREFERER, 1); // 自动设置Referer
curlsetopt($curl, CURLOPTPOST, 1); // 发送一个常规的Post请求
curlsetopt($curl, CURLOPTPOSTFIELDS, $data); // Post 提交的数据包
curlsetopt($curl, CURLOPTCOOKIEJAR, $GLOBALS['cookiefile']); // 存放 Cookie信息的文件名称 curlsetopt($curl, CURLOPTCOOKIEFILE, $GLOBALS['cookiefile']); // 读取上面所储存的Cookie信息
curlsetopt($curl, CURLOPTTIMEOUT, 30); // 设置超时限制防止死循环
curlsetopt($curl, CURLOPTHEADER, 0); // 显示返回的Header区域内容
curlsetopt($curl, CURLOPTRETURNTRANSFER, 1); // 获取的信息以文件流的形式返回
$tmpInfo = curlexec($curl); // 执行操作 if (curlerrno($curl)) {
echo 'Errno'.curlerror($curl); } curlclose($curl); // 关闭 CURL会话
return $tmpInfo; // 返回数据
}

function vget($url){ // 模拟获取内容函数
$curl = curlinit(); // 启动一个CURL会话 curlsetopt($curl, CURLOPTURL, $url); // 要访问的地址 curlsetopt($curl, CURLOPTSSLVERIFYPEER, 0); // 对认证证书来源的检查
curlsetopt($curl, CURLOPTSSLVERIFYHOST, 1); // 从证书中检查SSL加密算法是否存在 curlsetopt($curl, CURLOPTUSERAGENT, $SERVER['HTTPUSERAGENT']); // 模拟用户使用的浏览器
curlsetopt($curl, CURLOPTFOLLOWLOCATION, 1); // 使用自动跳转
curlsetopt($curl, CURLOPTAUTOREFERER, 1); // 自动设置Referer
curlsetopt($curl, CURLOPTHTTPGET, 1); // 发送一个常规的Post请求
curlsetopt($curl, CURLOPTCOOKIEFILE, $GLOBALS['cookiefile']); // 读取上面所储存的Cookie信息 curlsetopt($curl, CURLOPTTIMEOUT, 30); // 设置超时限制防止死循环 curlsetopt($curl, CURLOPTHEADER, 0); // 显示返回的Header区域内容 curlsetopt($curl, CURLOPTRETURNTRANSFER, 1); // 获取的信息以文件流的形式返回 $tmpInfo = curlexec($curl); // 执行操作
if (curlerrno($curl)) { echo 'Errno'.curlerror($curl);
}
curl_close($curl); // 关闭 CURL会话
return $tmpInfo; // 返回数据
}

function vpost($url,$data){ // 模拟提交数据函数
$curl = curlinit(); // 启动一个CURL会话 curlsetopt($curl, CURLOPTURL, $url); // 要访问的地址 curlsetopt($curl, CURLOPTSSLVERIFYPEER, 0); // 对认证证书来源的检查
curlsetopt($curl, CURLOPTSSLVERIFYHOST, 1); // 从证书中检查SSL加密算法是否存在 curlsetopt($curl, CURLOPTUSERAGENT, $SERVER['HTTPUSERAGENT']); // 模拟用户使用的浏览器
curlsetopt($curl, CURLOPTFOLLOWLOCATION, 1); // 使用自动跳转
curlsetopt($curl, CURLOPTAUTOREFERER, 1); // 自动设置Referer
curlsetopt($curl, CURLOPTPOST, 1); // 发送一个常规的Post请求
curlsetopt($curl, CURLOPTPOSTFIELDS, $data); // Post 提交的数据包
curlsetopt($curl, CURLOPTCOOKIEFILE, $GLOBALS['cookiefile']); // 读取上面所储存的Cookie信息 curlsetopt($curl, CURLOPTTIMEOUT, 30); // 设置超时限制防止死循环 curlsetopt($curl, CURLOPTHEADER, 0); // 显示返回的Header区域内容 curlsetopt($curl, CURLOPTRETURNTRANSFER, 1); // 获取的信息以文件流的形式返回 $tmpInfo = curlexec($curl); // 执行操作
if (curlerrno($curl)) { echo 'Errno'.curlerror($curl);
}
curl_close($curl); // 关键 CURL会话
return $tmpInfo; // 返回数据
}

function delcookie($cookiefile){ // 删除 Cookie函数 @unlink($cookiefile); // 执行删除
}

// 使用实例
// vlogin('192.168.18.25/test/login.php','username=yang&password=yangjs123'); // 登录获取 Cookie
//echo vget('192.168.18.25/test/login.php');
echo vpost('192.168.18.25/test/login.php','username=yang&password=yangjs123');
?>

0x06.PHP多线程抓取网页实现代码 代码如下 init(); $ch2 = curlinit(); curlsetopt($ch1, CURLOPTURL, "http://www.XX.com/"); curlsetopt($ch1, CURLOPTHEADER, 0); curlsetopt($ch2, CURLOPTURL, "http://www.00.com/"); curlsetopt($ch2, CURLOPTHEADER, 0); $mh = curlmultiinit(); curlmultiaddhandle($mh,$ch1); curlmultiaddhandle($mh,$ch2); do{ curlmultiexec($mh,$flag); }while($flag > 0); curlmultiremovehandle($mh,$ch1); curlmultiremovehandle($mh,$ch2); curlmulticlose($mh); ?>

0x07.抓取和分析一个文件是非常简单的事。 file函数也可以,不同的网站要写不同的正则表达式来匹配抓取想要的内容。 以下实现php抓取网页title,keywords,description,content,注释掉的数据库操作(即把抓取的内容存到数据库)

代码如下 <?php

header('Content-Type: text/html; charset=gbk'); $url ="http://www.jj59.com/qingganwenzhang/093750.html"; $linesarray=file($url);//read entire web file into array //vardump($linesarray); $linesstring = implode('', $linesarray);//maybe not in a row,so join the array elements with a string $count=count($linesstring); for($i=0;$i<$count;$i++){ if(pregmatch("/(.<em>)<\/title>/is",$lines</em>string,$title)){//标题 $title=$title[0]; } if(preg<em>match("/<meta[^>]</em>?name=[\'\"]?keywords[\'\"]?[^>]<em>?>/is",$lines</em>string,$keywords)){//关键字 $title2=$keywords[0]; } if(preg<em>match("/<meta[^>]</em>?name=[\'\"]?description[\'\"]?[^>]<em>?>/is",$lines</em>string,$description)){//描述 $title3=$description[0]; } if(preg<em>match("/<div class=\"content\"><div id=zt><div id=\"twgg\" class=\"gg\"><\/div>(.</em>)<p>(.<em>)<\/p>(.</em>)<p class=\"bianji\">/is",$lines</em>string,$content)){//描述 $title4=$content[0]; //var<em>dump($title4); } } $title=substr($title,7,-19); $title2=substr($title2,31,-4); $title3=substr($title3,34,-4); //$title4=substr($title4,34,-40); echo "Title:".$title."<br>"; echo "KeyWords:".$title2."<br>"; echo "Description:".$title3."<br>"; echo "Content:".$title4."<br>"; //$query="insert into insun4 values('$i','$title','$title2','$title3','$title4')"; //$result=mysql</em>query($query) or die("查询数据失败");//执行查询 ?></p> <p>代码如下 <?php</p> <p>header('Content-Type: text/html; charset=gbk'); error<em>reporting(E</em>CORE<em>ERROR); $url ="http://yxmhero1989.blog.163.com"; $lines</em>array=file($url);//read entire web file into array //var<em>dump($lines</em>array); $lines<em>string = implode('', $lines</em>array);//maybe not in a row,so join the array elements with a string $count=count($lines<em>string); for($i=0;$i<$count;$i++){ //if(preg</em>match("/<title>(.<em>)<\/title>/is",$lines<em>string,$title)){//标题 if(eregi("<title>(.</em>)",$linesstring,$title)){ $title=$title[0]; } if(pregmatch("/]?name=[\'\"]?keywords[\'\"]?[^>]?>/is",$linesstring,$keywords)){//关键字 $title2=$keywords[0]; } if(pregmatch("/]?name=[\'\"]?description[\'\"]?[^>]?>/is",$linesstring,$description)){//描述 $title3=$description[0]; } } $title=substr($title,7,-19); $title2=substr($title2,31,-3); $title3=substr($title3,34,-5);

echo "Title:".$title."
"; echo "KeyWords:".$title2."
"; echo "Description:".$title3."
";

//$query="insert into insun4 values('$i','$title','$title2','$title3')"; //$result=mysql_query($query) or die("查询数据失败");//执行查询 ?>

结果: Title:Minghacker is Insun - InSun KeyWords:InSun,Minghacker is Insun,网易博客,网易,blog Description:百度(baidu)分词算法分析,对网易博客日志标签功能的期盼,CDbConnection failed to open the DB connection: could not find driver,Warning: date() [function.date]: It is not safe to rely on the system's timezone settings.,浅谈Python web框架,谷歌是如何做代码审查的(Things Everyone Should Do: Code Review),Failed to connect to mailserver at localhost port 25,PHP flock文件锁,针对$SERVER[’PHPSELF’]的跨站脚本攻击,安全跑路指南与安全跑路指南升级版,InSun的网易博客,凡你醉处 你说过 皆非他乡,爱好写词摄影和美女。专注编程和安全。应该可以发好人卡,可能时机没到

0x08.找到了的数据存到数据库,然后CSS+DIV架个前台,在前台用分页调用,代码就不贴了,直接上图片:

你看多简单,前面的几个大站互爬数据添加到数据库,然后前台调用,充实了自己的信息库,减少了手动的工作量,何其乐啊,可是不知道算不算违反?大概恶意竞争才算,所以反爬虫机制必须的~~~

0x09.浅谈反爬虫机制: ①。现在各大搜索网站和行业化以及特别商业化的网站应该都有反爬虫机制,爬虫需要伪造Agent信息,而且每次爬信息都要有一定的时间间隔(即加上随机sleep )。 ②。robots.txt是一存放于网站根目录中的文本文件,用来定义网站上哪些内容可以或不能供网络爬虫存取,Yahoo也在网站上说明如何利用robots.txt以避免网站或特定网页数据不被搜索引擎搜集及索引。 ③。如果是爬虫程序来访,则user-agent会显示Googlebot或MSNBot等搜索引擎爬虫程序名称,每个搜索引擎都有自己的user-agent,以下分别列出国内主要的爬虫程序。 百度baidu.com—-Baiduspider 谷歌google.com—-Googlebot

雅虎yahoo.com—-Yahoo 有道yodao.com—-YodaoBot

搜搜soso.com—-Sosospider/Sosoimagespider 搜狗sogou.com—-sogou 微软msn.com—-msnbot

自写程序,if不是上面就access deny,这样不失流量,也遏制了对手的肆意爬取信息,减少了对公司的损失。 ④。重要的2篇文章 分析了反爬虫策略。 web性能优化(三)反爬虫策略 http://dynamiclu.iteye.com/blog/1044645 互联网网站的反爬虫策略浅析 http://robbin.iteye.com/blog/451014