山那边是海 发表于 2015-2-3 23:41:04

PHP网页编程之snoopy 壮大的PHP收集类利用实例代码

不断巩固,摸透大部分PHP常用函数,并可理解OOP,MYSQL优化,以及模板   下载地址: http://www.jb51.net/codes/33397.html

Snoopy的一些特色:

1抓取网页的内容 fetch
2 抓取网页的文本内容 (去除HTML标签) fetchtext
3抓取网页的链接,表单 fetchlinks fetchform
4 撑持代办署理主机
5撑持根基的用户名/暗码验证
6 撑持设置 user_agent, referer(去路), cookies 和 header content(头文件)
7撑持阅读重视定向,并能掌握重定向深度
8能把网页中的链接扩大成高质量的url(默许)
9提交数据而且获得前往值
10 撑持跟踪HTML框架
11撑持重定向的时分传递cookies
请求php4以上就能够了 因为自己是php一个类 无需扩撑持 办事器不撑持curl时分的最好选择,

类办法:

fetch($URI)
―――C

这是为了抓取网页的内容而利用的办法。
$URI参数是被抓取网页的URL地址。
抓取的了局被存储在 $this->results 中。
假如你正在抓取的是一个框架,Snoopy将会将每一个框架追踪后存入数组中,然后存入 $this->results。

fetchtext($URI)
―――――

本办法相似于fetch(),独一分歧的就是本办法会去除HTML标签和其他的有关数据,只前往网页中的文字内容。

fetchform($URI)
―――――

本办法相似于fetch(),独一分歧的就是本办法会去除HTML标签和其他的有关数据,只前往网页中表单内容(form)。

fetchlinks($URI)
―――――-

本办法相似于fetch(),独一分歧的就是本办法会去除HTML标签和其他的有关数据,只前往网页中链接(link)。
默许情形下,绝对链接将主动补全,转换成完全的URL。

submit($URI,$formvars)
―――――――-

本办法向$URL指定的链接地址发送确认表单。$formvars是一个存储表单参数的数组。

submittext($URI,$formvars)
――――――――C

本办法相似于submit(),独一分歧的就是本办法会去除HTML标签和其他的有关数据,只前往上岸后网页中的文字内容。

submitlinks($URI)
―――――-

本办法相似于submit(),独一分歧的就是本办法会去除HTML标签和其他的有关数据,只前往网页中链接(link)。
默许情形下,绝对链接将主动补全,转换成完全的URL。

类属性: (缺省值在括号里)

$host 毗连的主机
$port 毗连的端口
$proxy_host 利用的代办署理主机,假如有的话
$proxy_port 利用的代办署理主机端口,假如有的话
$agent 用户代办署理假装 (Snoopy v0.1)
$referer 去路信息,假如有的话
$cookies cookies, 假如有的话
$rawheaders 其他的头信息, 假如有的话
$maxredirs 最大重定向次数, 0=不答应 (5)
$offsiteok whether or not to allow redirects off-site. (true)
$expandlinks 是不是将链接都补全为完全地址 (true)
$user 认证用户名, 假如有的话
$pass 认证用户名, 假如有的话
$accept http 承受类型 (image/gif, image/x-xbitmap, image/jpeg, image/pjpeg, */*)
$error 哪里报错, 假如有的话
$response_code 从办事器前往的呼应代码
$headers 从办事器前往的头信息
$maxlength 最长前往数据长度
$read_timeout 读取操作超时 (requires PHP 4 Beta 4+)
设置为0为没有超时
$timed_out 假如一次读取操作超时了,本属性前往 true (requires PHP 4 Beta 4+)
$maxframes 答应追踪的框架最大数目
$status 抓取的http的形态
$temp_dir 网页办事器可以写入的一时文件目次 (/tmp)
$curl_path cURL binary 的目次, 假如没有cURL binary就设置为 false

以下是demo
复制代码 代码以下:
include "Snoopy.class.php";
$snoopy = new Snoopy;
$snoopy->proxy_host = "http://www.jb51.net";
$snoopy->proxy_port = "80";
$snoopy->agent = "(compatible; MSIE 4.01; MSN 2.5; AOL 4.0; Windows 98)";
$snoopy->referer = "http://www.jb51.net";
$snoopy->cookies["SessionID"] = 238472834723489l;
$snoopy->cookies["favoriteColor"] = "RED";
$snoopy->rawheaders["Pragma"] = "no-cache";
$snoopy->maxredirs = 2;
$snoopy->offsiteok = false;
$snoopy->expandlinks = false;
$snoopy->user = "joe";
$snoopy->pass = "bloe";
if($snoopy->fetchtext("http://www.jb51.net"))
{
echo "<PRE>".htmlspecialchars($snoopy->results)."</PRE>\n";
}
else
echo "error fetching document: ".$snoopy->error."\n";

以下是一些代码片断:
1、获得指定url内容
复制代码 代码以下:
<?
$url = "http://www.jb51.net";
include("snoopy.php");
$snoopy = new Snoopy;
$snoopy->fetch($url); //获得一切内容
echo $snoopy->results; //显示了局
//可选以下
$snoopy->fetchtext //获得文本内容(去失落html代码)
$snoopy->fetchlinks //获得链接
$snoopy->fetchform //获得表单
?>

2 表单提交
复制代码 代码以下:
<?php
$formvars["username"] = "admin";
$formvars["pwd"] = "admin";
$action = "http://www.jb51.net";//</a>表单提交地址
$snoopy->submit($action,$formvars);//$formvars为提交的数组
echo $snoopy->results; //获得表单提交后的 前往的了局
//可选以下
$snoopy->submittext; //提交后只前往 去除html的 文本
$snoopy->submitlinks;//提交后只前往 链接
?>

既然已提交的表单 那就能够做良多工作 接上去咱们来假装ip,假装阅读器
3 假装
复制代码 代码以下:
<?php
$formvars["username"] = "admin";
$formvars["pwd"] = "admin";
$action = "http://www.jb51.net";
include "snoopy.php";
$snoopy = new Snoopy;
$snoopy->cookies["PHPSESSID"] = "fc106b1918bd522cc863f36890e6fff7"; //假装sessionid
$snoopy->agent = "(compatible; MSIE 4.01; MSN 2.5; AOL 4.0; Windows 98)"; //假装阅读器
$snoopy->referer = http://www.jb51.net; //假装来历页地址 http_referer
$snoopy->rawheaders["Pragma"] = "no-cache"; //cache 的http头信息
$snoopy->rawheaders["X_FORWARDED_FOR"] = "127.0.0.101"; //假装ip
$snoopy->submit($action,$formvars);
echo $snoopy->results;
?>

本来咱们可以假装session 假装阅读器 ,假装ip, haha 可以做良多工作了。
例如 带验证码,验证ip 投票, 可以一直的投。
ps:这里假装ip ,实际上是假装http头, 所以普通的经由过程 REMOTE_ADDR 获得的ip是假装不了,
反而那些经由过程http头来获得ip的(可以避免代办署理的那种) 就能够本人来制作ip。
关于若何验证码 ,复杂说下:
起首用通俗的阅读器, 检查页面 , 找到验证码所对应的sessionid,
同时记下sessionid和验证码值,
接上去就用snoopy去捏造 。
道理:因为是统一个sessionid 所以获得的验证码和第一次输出的是一样的。
4 有时咱们能够需求捏造更多的器材,snoopy完整为咱们想到了
复制代码 代码以下:
<?php
$snoopy->proxy_host = "http://www.jb51.net";
$snoopy->proxy_port = "8080"; //利用代办署理
$snoopy->maxredirs = 2; //重定向次数
$snoopy->expandlinks = true; //是不是补全链接 在收集的时分常常用到
// 例如链接为 /images/taoav.gif 可改成它的全链接 <a href="http://www.jb51.net/images/taoav.gif">http://www.jb51.net/images/taoav.gif</a>
$snoopy->maxframes = 5 //答应的最大框架数
//注重抓取框架的时分 $snoopy->results 前往的是一个数组
$snoopy->error //前往报错信息
?>
在学习PHP这六个月里,每看到一个优秀的php脚本,就会兴奋的手舞足蹈,嘴里还不停的说:太酷了,太酷了。呵呵,很幼稚吧,但这可能就是兴趣。

若相依 发表于 2015-2-4 05:59:11

要进行开发,搭建环境是首先需要做的事,windows下面我习惯把环境那个安装在C盘下面,因为我配的环境经常出现诡异事件,什么事都没做环境有的时候就不能用啦。

简单生活 发表于 2015-2-4 08:31:18

小鸟是第一次发帖(我习惯潜水的(*^__^*) 嘻嘻……),有错误之处还请大家批评指正,另外,前些日子听人说有高手能用php写驱动程序,真是学无止境,人外有人,天外有天。

再现理想 发表于 2015-2-9 20:13:23

在我安装pear包的时候老是提示,缺少某某文件,才发现 那群extension 的排列是应该有一点的顺序,而我安装的版本的排序不是正常的排序。没办法我只好把那群冒号加了上去,只留下我需要使用的扩展。

山那边是海 发表于 2015-2-27 20:52:58

你很难利用原理去编写自己的代码。对于php来说,系统的学习我认为还是很重要的,当你有一定理解后,你可你针对某种效果研究,我想那时你不会只是复制代码的水平了。

变相怪杰 发表于 2015-3-9 13:21:49

Ps:以上纯属原创,如有雷同,纯属巧合

乐观 发表于 2015-3-16 22:21:22

开发工具也会慢慢的更专业,每个公司的可能不一样,但是zend studio是个大伙都会用的。

爱飞 发表于 2015-3-21 22:46:10

本人接触php时间不长,算是phper中的小菜鸟一只吧。由于刚开始学的时候没有名师指,碰过不少疙瘩,呗很多小问题卡过很久,白白浪费不少宝贵的时间,在次分享一些子的学习的心得。

精灵巫婆 发表于 2015-3-24 09:22:31

爱上php,他也会爱上你。

小妖女 发表于 2015-4-23 03:52:02

微软最近出的新字体“微软雅黑”,虽然是挺漂亮的,不过firefox支持的不是很好,所以能少用还是少用的好。

仓酷云 发表于 2015-4-30 15:49:20

这些中手常用的知识,当你把我说的这些关键字都可以熟练运用的时候,你可以选择自己

谁可相欹 发表于 2015-5-1 20:29:02

其实没啥难的,多练习,练习写程序,真正的实践比看100遍都有用。不过要熟悉引擎

飘飘悠悠 发表于 2015-5-1 22:09:21

这些都是最基本最常用功能,我们这些菜鸟在系统学习后,可以先对这些功能深入研究。

只想知道 发表于 2015-5-5 10:34:43

首先我是坚决反对新手上来就用框架的,因为对底层的东西一点都不了解,造成知识上的真空,会对以后的发展不利。我的观点上手了解下框架就好,代码还是手写。当然啦如果是位别的编程语言的高手的话,这个就另当别论啦。

兰色精灵 发表于 2015-5-6 16:13:06

先学习php和mysql,还有css(html语言很简单)我认为现在的效果比以前的方法好。

若天明 发表于 2015-6-6 14:37:07

个人呢觉得,配wamp 最容易漏的一步就是忘了把$PHP$目录下的libmysql.dll拷贝到windows系统目录的system32目录下,还有重启apache。

小魔女 发表于 2015-6-9 22:09:09

如果你已经到这种程度了,那么你已经可以做我的老师了。其实php也分很多的区域,

蒙在股里 发表于 2015-6-18 14:39:00

在学习的过程中不能怕麻烦,不能有懒惰的思想。学习php首先应该搭建一个lamp环境或者是wamp环境。这是学习php开发的根本。虽然网络上有很多集成的环境,安装很方便,使用起来也很稳定、

活着的死人 发表于 2015-6-19 11:31:56

爱上php,他也会爱上你。

因胸联盟 发表于 2015-6-23 02:04:26

当然这种网站的会员费就几十块钱。
页: [1] 2
查看完整版本: PHP网页编程之snoopy 壮大的PHP收集类利用实例代码