男人网站在线观看,精品91免费,国产精品日韩在线播放

主頁 > 知識庫 > 非常好的網站生成靜態頁面防采集策略與方法

非常好的網站生成靜態頁面防采集策略與方法

目前防采集的方法有很多種，先介紹一下常見防采集策略方法和它的弊端及采集對策：
一、判斷一個IP在一定時間內對本站頁面的訪問次數，如果明顯超過了正常人瀏覽速度，就拒絕此IP訪問

    弊端：
    1、此方法只適用于動態頁面，如：asp\jsp\php等...靜態頁面無法判斷某個IP一定時間訪問本站頁面的次數。
    2、此方法會嚴重影響搜索引擎蜘蛛對其收錄，因為搜索引擎蜘蛛收錄時，瀏覽速度都會比較快而且是多線程。此方法也會拒絕搜索引擎蜘蛛收錄站內文件
    采集對策：只能放慢采集速度，或者不采
    建議：做個搜索引擎蜘蛛的IP庫，只允許搜索引擎蜘蛛快速瀏覽站內內容。搜索引擎蜘蛛的IP庫的收集，也不太容易，一個搜索引擎蜘蛛，也不一定只有一個固定的IP地址。
    評論：此方法對防采集比較有效，但卻會影響搜索引擎對其收錄。

    二、用javascript加密內容頁面

    弊端：此方法適用于靜態頁面，但會嚴重影響搜索引擎對其收錄情況，搜索引擎收到到的內容，也都是加密后的內容
    采集對策：建議不采，如非要采，就把解密碼的JS腳本也采下來。
    建議：目前沒有好的改良建議
    評論：建議指望搜索引擎帶流量的站長不要使用此方法。

    三、把內容頁面里的特定標記替換為”特定標記+隱藏版權文字“

    弊端：此方法弊端不大，僅僅會增加一點點的頁面文件大小，但容易反采集
    采集對策：把采集來的含有隱藏版權文字內容的版權文字替掉，或替換成自己的版權。
    建議：目前沒有好的改良建議
    評論：自己感覺實用價值不大，就算是加上隨機的隱藏文字，也等于畫蛇添足。

    四、只允許用戶登陸后才可以瀏覽

    弊端：此方法會嚴重影響搜索引擎蜘蛛對其收錄
    采集對策：目前落伍已經有人發了對策文章，具體對策就看這個吧《ASP小偷程序如何利用XMLHTTP實現表單的提交以及cookies或session的發送》
    建議：目前沒有好的改良建議
    評論：建議指望搜索引擎帶流量的站長不要使用此方法。不過此方法防一般的采集程序，還是有點效果的。

    五、用javascript、vbscript腳本做分頁

    弊端：影響搜索引擎對其收錄
    采集對策：分析javascript、vbscript腳本，找出其分頁規則，自己做個對應此站的分頁集合頁即可。
    建議：目前沒有好的改良建議
    評論：感覺懂點腳本語言的人都能找出其分頁規則

    六、只允許通過本站頁面連接查看，如：Request.ServerVariables("HTTP_REFERER")

    弊端：影響搜索引擎對其收錄
    采集對策：不知道能不能模擬網頁來源。。。。目前我沒有對應此方法的采集對策
    建議：目前沒有好的改良建議
    評論：建議指望搜索引擎帶流量的站長不要使用此方法。不過此方法防一般的采集程序，還是有點效果的。

    從以上可以看出，目前常用的防采集方法，要么會對搜索引擎收錄有較大影響，要么防采集效果不好，起不到防采集的效果。那么，還有沒有一種有效防采集，而又不影響搜索引擎收錄的方法呢？那就請繼續往下看吧！
從前面的我講的采集原理大家可以看出，絕大多數采集程序都是靠分析規則來進行采集的，如分析分頁文件名規則、分析頁面代碼規則。
    一、分頁文件名規則防采集對策
    大部分采集器都是靠分析分頁文件名規則，進行批量、多頁采集的。如果別人找不出你的分頁文件的文件名規則，那么別人就無法對你的網站進行批量多頁采集。
    實現方法：
    我認為用MD5加密分頁文件名是一個比較好的方法，說到這里，有人會說，你用MD5加密分頁文件名，別人根據此規則也可以模擬你的加密規則得到你的分頁文件名。
    我要指出的是我們加密分頁文件名時，不要只加密文件名變化的部分
    如果I代表分頁的頁碼，那么我們不要這樣加密：page_name=Md5(I,16)&".htm"
最好給要加密的頁碼上再跟進一個或多個字符，如：page_name=Md5(I&"任意一個或幾個字母",16)&".htm"
    因為MD5是無法反解密的，別人看到的會頁字母是MD5加密后的結果，所以加人也無法知道你在 I 后面跟進的字母是什么，除非他用暴力****MD5，不過不太現實。
    二、頁面代碼規則防采集對策
如果說我們的內容頁面無代碼規則，那么別人就無法從你的代碼中提取他們所需要的一條條內容。所以我們要的這一步做到防采集，就要使代碼無規則。
    實現方法：
    使對方需要提取的標記隨機化
    1、定制多個網頁模板，每個網頁模板里的重要HTML標記不同，呈現頁面內容時，隨機選取網頁模板，有的頁面用CSS+DIV布局，有的頁面用table布局，此方法是麻煩了點，一個內容頁面，要多做幾個模板頁面，不過防采集本身就是一件很煩瑣的事情，多做一個模板，能起到防采集的作用，對很多人來說，都是值得的。
    2、如果嫌上面的方法太麻煩，把網頁里的重要HTML標記隨機化，也可以。
    做的網頁模板越多，html代碼越是隨機化，對方分析起內容代碼時，就越麻煩，對方針對你的網站專門寫采集策略時，難度就更大，在這個時候，絕大部分人，都會知難而退，因為這此人就是因為懶，才會采集別人網站數據嘛~~~再說一下，目前大部分人都是拿別人開發的采集程序去采集數據，自己開發采集程序去采集數據的人畢竟是少數。
    還有些簡單的思路提供給大家：
    1、把對數據采集者重要，而對搜索引擎不重要的內容用客戶端腳本顯示
    2、把一頁數據，分為N個頁面顯示，也是加大采集難度的方法
    3、用更深層的連接，因為目前大部分采集程序只能采集到網站內容的前3層，如果內容所在的連接層更深，也可以避免被采集。不過這樣可能會給客戶造成瀏覽上的不便。如：
    大多網站都是首頁----內容索引分頁----內容頁
    如果改成：
    首頁----內容索引分頁----內容頁入口----內容頁
    注：內容頁入口最好能加上自動轉入內容頁的代碼

<meta http-equiv="refresh" content="6;url=內容頁(http://www.oureve.net)">
    其實，只要做好防采集的第一步(加密分頁文件名規則)，防采集的效果就已經不錯了，還是建議兩條反采集方法同時使用，給采集者增加采集難度，使得他們知難頁退。

標簽：錫林郭勒盟那曲邢臺辛集鷹潭來賓山西萍鄉

巨人網絡通訊聲明：本文標題《非常好的網站生成靜態頁面防采集策略與方法》，本文關鍵詞非常,好的,網站,生成,靜態,；如發現本文內容存在版權問題，煩請提供相關信息告之我們，我們將及時溝通與處理。本站內容系統采集于網絡，涉及言論、版權與本站無關。