网站小偷程序吊丝版(原理、实现，及几种玩法)

beijixing

大洲的小偷程序非常让人眼馋，无奈本diao丝程序员，一无RMB，二无论坛币，只能望洋兴叹，所幸我有web程序开发的经验，对于这个小偷程序的基本原理能猜到不少，本着自力更生，服务大众的精神，我自己实现了一个简易版，在此开源给大家，希望能赚点论坛币，早日进入email版见见世面。
6 D% K6 s. ?8 a7 R) ?
2 @7 O; B5 X, P# P一、原理
; p' ^. s3 f5 l( u% e" D1.用户访问流程：
, l' U7 Q* M/ j9 U  ~（1）用户访问我们的冒牌站（A.com）
（2）网站后台程序根据用户的query参数（包括get/post/cookie）构造原始网站B.com的url，用后台程序去访问该url，此时可以拿到原始网站的html和header输出。这里有一点需要注意的是原始网站输出的头也不可以忽略，里面的set-cookie信息也可以转发给用户的，这样就可以实现注册和登陆原网站啦。
. G  \4 U, [6 w! H（3）对原始网站的html输出和header输出按某些规则做替换，比如把某些广告去掉啦，把B.com的地址替换成A.com啦，其实这一步是最关键的，也是玩法最多最好玩的部分
9 n6 b7 |( ^" Z9 @（4）将替换后的html和header输出给用户。

2.规则替换的几种玩法：
（1）最简单的当然是字符串和正则表达式了，这就不多说了
! d6 {2 s$ O- \  U, V（2）用html解析库对html的dom节点做操作，然后重新生成html，比如可以把页面中的text node翻译成另一种语言，或者做文章重写，这样比较容易逃过搜索引擎的法眼。
据我所知每种语言都由若干个html库，比如php的有DOM、phpQuery等，java的有htmlcleaner等
（3）在原始html代码的后面加入一些javascript代码，用来隐藏一些页面元素，或加入一些广告代码等
" I1 W$ ^6 {4 g) R. X* q# }
3.关于速度和性能：
（1）提到性能第一个想到的当然是缓存啦，我觉得最适合加缓存的地方就是上文1.1.2中提到的生成原始网站url后，这里可以对原始url做md5编码，访问一次改url后就把它的内容和头存到硬盘上，这样就不用每次都去原网站拉取了。做缓存的另一个好处是不用担心被原网站屏蔽。
3 h6 L4 Z! @( e7 D. Y, f% L
（2）对于css，图片，js等静态文件，其实不用每个文件都让php访问原网站拉取，可以直接返回个302，让浏览器直接去原网站拉取。


% c* |; S5 K6 I$ K% b4 S9 i2 r二、实现
1.程序语言：
5 Y2 N! ?; n1 ?9 H) ?8 B0 ^其实这个东西哪种语言都能搞定，也都不麻烦，我对php比较熟，就选了php。
' V# [! ]8 n( V5 O' _# F6 c2.一些准备工作：
（1）修改apache的rewrite规则，因为我们的程序只有一个文件，我们必须把所有接收到的请求都重定向到这个文件，这里我假设重定向到index.php，在apache的<VirtualHost>中加入这几句,如果是虚拟主机的话就修改.htaccess吧，不过我没试过，所以不知道怎么写re它的write规则
RewriteEngine on
- S1 H5 H$ A" x" E( p3 y6 }$ `& a RewriteCond %{DOCUMENT_ROOT}%{SCRIPT_FILENAME} -s [OR]
RewriteCond %{DOCUMENT_ROOT}%{SCRIPT_FILENAME} -l [OR]
0 u1 [' P9 Q) q, d# m RewriteCond %{DOCUMENT_ROOT}%{SCRIPT_FILENAME} -d
RewriteRule ^.*$ - [NC,L]
RewriteRule ^.*$ /index.php [NC,L]

（2）安装php的http模块
php发http请求的函数库找了好几个，发现http模块是用起来最简单的，不过需要你会linux操作哦，安装方法在这里http://php.net/manual/en/http.install.php
) ^& F9 A% _+ w3 |$ s5 m# G, Y8 qps：如果安装不上或没有vps，请把下面程序的http模块的函数换成phpcurl等http lib

3.index.php的代码：

" q3 T/ ]  X9 [1 O* B
$host = $_SERVER['HTTP_HOST'];
//这里把假站的域名替换成原始网站的，用于生成原始url
$host = str_ireplace('fake.com', "true.com", $host);
$toUrl = sprintf("http://%s%s", $host,$_SERVER['REQUEST_URI']);

$script_name = $_SERVER['SCRIPT_NAME'];
6 B& n- T* e) U7 ?- n$arr = explode(".", $script_name);
# }5 p. p  I: ^- o$ q$endName = $arr[count($arr) - 1];

: O6 j0 ]# Q2 }
% h; N  _8 ]2 F: l" ]4 g" [//这些后缀结尾的url直接返回302
$STATIC_END_NAME = array('css','xml','rss','gif','jpg','jpeg','js','axd','atom',
                'mml','txt','jad','htc',
  i# ~, A2 |( o+ R$ f; J1 N1 J                'png','tif','tiff','wbmp','ico','jng','bmp','svg',
                'jar','war','ear','hqx','doc','pdf','ps','eps','ai',
8 ^+ G5 X  p  L0 ^( [% i                'rtf', 'xls', 'ppt', 'wmlc', 'xhtml', 'cco', 'jardiff',
1 l- z) s4 a; R$ |                'jnlp', 'run', 'pl', 'pm', 'prc', 'pdb', 'rar', 'rpm',
                'sea', 'swf', 'sit', 'tcl', 'tk', 'der', 'der', 'crt',
6 E& h+ ~  s7 j6 ^8 _; M' p                'xpi', 'zip', 'bin', 'exe', 'dll' ,'deb', 'dmg', 'eot',
  e/ Y5 ^+ B- L" B8 L) i: W$ l                'iso', 'img', 'msi', 'msp', 'msm' ,'mid', 'midi', 'kar',
  L& R4 q, W8 K4 [5 \                'mp3', 'ra', '3gpp', '3gp', 'mpeg', 'mpg', 'mov', 'flv',
                'mng', 'asx', 'asf', 'wmv', 'avi');
- z* f9 y" t3 _6 w& ?$ ]
if(in_array($endName ,$STATIC_END_NAME))
{
' Z# Q" y" x/ U7 t: `, G% \        $headerStr = sprintf("Location: %s", $toUrl);
( n6 R; _0 l. z% v( G% F" }        header( $headerStr, true, 302);
        exit;
, P% F& ~+ ]& T; T- {; E; z! o}
; U: ]5 |) ?8 O6 C3 o
//一个简单的cache
3 T# ]* ?5 S; Ufunction GetFromCache( $url)
{
    $current_dir = dirname(__FILE__);
% [( W  g6 v0 L3 X5 Z5 _    $cache_dir = $current_dir . "/cache/";
    if( !is_dir( $cache_dir))
/ s; X) w; N8 i/ v% k+ ?    {

        mkdir($cache_dir);
    }

    $cache_file = $cache_dir . md5($url);
6 |7 y- _: k( P7 w- p* Z  L) u    if(file_exists( $cache_file))
+ ]! M, U/ u; k0 C: b    {
        $html = file_get_contents( $cache_file);
        if($html == false)
1 w6 B* N# y0 c3 a1 g8 o+ g% ~) R        {
            $html = "";
6 F- ~& B( ]5 Q9 J6 g        }
    }else
    {
7 f" E2 r, w0 u1 o: K8 n        //访问原始网站
' A, D, w1 z+ O        $data = http_get($url ,array('redirect' => 5, 'timeout' => 10), $http_info );
        $message = http_parse_message($data);

        $html = trim($message->body);
2 p* H) Q7 B4 ^% h; D( K& D
        file_put_contents( $cache_file, $html);
    }

    return $html;
- c+ o' ?3 A$ c+ ~2 U% `: I}

$html = GetFromCache( $toUrl );


$html = str_replace("circleid.com", "circleid.us", $html);

  C+ F- ?8 `% @/ e2 r4 g) e$html = preg_replace('/<meta name=.*>/', "", $html);

& t& I+ F  {% ]4 Q' p- E4 y
//注释的这两句是用phpquery操作
9 z! g3 o% f' Q  K3 U9 a5 L9 c- d//$body = htmlqp($body)->find('#header')->remove()->html();
//$html = htmlqp($html)->find('#header')->remove()->document->saveHTML();

1 C; r! G3 ?2 M) _: o9 h) ?* p$script = <<<EOD
- F; s8 q; Q6 \. a' P+ Q& ^<script>
$(document).ready(function() {
                $("#footer").remove();
+ @$ [% p1 n$ F% T) A
9 b; ]" v+ J; r# t, m) c; C& j5 h});
9 Z- C: A& d4 r: O  o
5 A2 ]6 B) l* O. e- w6 ]3 Z</script>
# {1 }3 M6 s4 h7 {- w7 q7 a
EOD;
; B# p4 r' B. J0 k
echo($html . $script);


三、最后
3 w2 B8 _$ f2 F) {, \; E1.总之，这个程序还很简陋，没有处理post和cookie参数，也没有配置管理模块，距离大洲的程序差距有一个大洲那么大，仅适合稍微懂点程序又有点好奇心的新手玩玩
2.最后当然是希望大家不令赐分啦，您的论坛币是我继续分享的动力，哈哈
) T9 U; _) _$ j. F' }7 w+ J: c
* [) B1 m% U$ p

chinafla

随便找一个proxy代码 功能以去掉 什么都齐全了。。。

joul

有一个技术流牛人！赞一个！！！

terranboy

NGINX 天生的小偷 结合LUA 各种替换

goog1e

nginx 早已经实现了,有插件.

tyro

期待楼主的程序，大洲 的程序貌似挺牛，但是贵，初级屌丝用着吃力。

beijixing

chinafla 发表于 2013-5-22 19:15
# o; s. A2 N/ t9 @- u: h1 N随便找一个proxy代码 功能以去掉 什么都齐全了。。。

是的，其实就是个web proxy，重要的是替换模块的创意和玩法。
" u! A$ n# b: w; f1 @7 d9 O我觉得大洲最NB的一点就是把配置管理和站群管理做的很方便，另外就是把替换功能做成插件化，这些边边角角的活看起来没啥技术含量，但是做过产品的人都知道很劳心劳力的

毕加

楼主牛人。。。

ROTOU

对于css，图片，js等静态文件，其实不用每个文件都让php访问原网站拉取，可以直接返回个302，让浏览器直接去原网站拉取。

9 r9 j; c% T/ h, O
源网站如果有防盗链的，就不行了。

危害性

302重定向很容易被搜索引擎误认为是利用多个域名指向同一网站，那么你的网站就会被封掉，罪名是“利用重复的内容来干扰Google搜索结果的网站排名”。因为302重定向经常别用于做url劫持，黑帽seo技术中，而且百度在处理302重定向技术还不成熟，经常将它纳入到黑帽seo的范畴中，而google对这方面识别处理就完善了许多。所以302重定向在现阶段的搜索引擎技术中，还是容易导致网站降权的，尽量不用。但从seo、网站优化方面来说是弊大于利。

hudba

没看懂，楼主你抓取的html是永久保存在服务器硬盘吗？还是用户访问每次都抓或者缓存？
1 ]( v. u. R5 M7 `抓来的页面模板要重新设计吗？觉得最后还是要能赚钱。伪原创？

生鱼片

一个NGINX就搞定了 效率还高
简单的替换有相应模块

Jack

会程序的就是NB哈

beijixing

hudba 发表于 2013-5-23 06:42
1 |3 z" A: }4 F$ l6 X没看懂，楼主你抓取的html是永久保存在服务器硬盘吗？还是用户访问每次都抓或者缓存？
抓来的页面模板要重 ...

/ k7 p7 E/ d! s4 X这个代码里的cache主要是做demo，是存在硬盘里的，实际使用中你完全可以用memcache或数据库代替，cache的过期策略也可以自己控制

eyemans

也是一个高手哦。。。

如松

技术流牛人！赞一个！！！