中文字幕在线观看,亚洲а∨天堂久久精品9966,亚洲成a人片在线观看你懂的,亚洲av成人片无码网站,亚洲国产精品无码久久久五月天

apache、iis規(guī)則屏蔽攔截蜘蛛抓取

如果是正常的搜索引擎蜘蛛訪問,不建議對蜘蛛進行禁止,否則網(wǎng)站在百度等搜索引擎中的收錄和排名將會丟失,造成客戶流失等損失。

可以優(yōu)先考慮升級虛擬主機型號以獲得更多的流量或升級為云服務(wù)器(不限流量)。更多詳情請訪問: http://www.bingfeng168.cn/faq/list.asp?unid=626 

 

Linux下規(guī)則文件.htaccess(手工創(chuàng)建.htaccess文件到站點根目錄)

<IfModule mod_rewrite.c>
RewriteEngine On
#Block spider
RewriteCond %{HTTP_USER_AGENT} "Apache-HttpClient|SemrushBot|Webdup|AcoonBot|AhrefsBot|Ezooms|EdisterBot|EC2LinkFinder|jikespider|Purebot|MJ12bot|WangIDSpider|WBSearchBot|Wotbox|xbfMozilla|Yottaa|YandexBot|Jorgee|SWEBot|spbot|TurnitinBot-Agent|mail.RU|curl|perl|Python|Wget|Xenu|ZmEu" [NC]
RewriteRule !(^robots\.txt$) - [F]
</IfModule>

Windows2008、2012或更高系統(tǒng)下規(guī)則文件web.config (手工創(chuàng)建web.config文件到站點根目錄)

<?xml version="1.0" encoding="UTF-8"?>
<configuration>
  <system.webServer>
   <rewrite>
    <rules>
     <rule name="Block spider">
      <match url="(^robots.txt$)" ignoreCase="false" negate="true" />
      <conditions>
      <add input="{HTTP_USER_AGENT}" pattern="Apache-HttpClient|SemrushBot|Webdup|AcoonBot|AhrefsBot|Ezooms|EdisterBot|EC2LinkFinder|jikespider|Purebot|MJ12bot|WangIDSpider|WBSearchBot|Wotbox|xbfMozilla|Yottaa|YandexBot|Jorgee|SWEBot|spbot|TurnitinBot-Agent|mail.RU|curl|perl|Python|Wget|Xenu|ZmEu" ignoreCase="true" />
      </conditions>
       <action type="AbortRequest"/>
     </rule>
    </rules>
   </rewrite>
  </system.webServer>
</configuration>

注:“{HTTP_USER_AGENT}”所在行中是不明蜘蛛名稱,根據(jù)需要添加以"|"為分割。
  規(guī)則中默認(rèn)屏蔽部分不明蜘蛛,要屏蔽其他蜘蛛按規(guī)則添加即可,附各大蜘蛛名字:
  google蜘蛛:googlebot
  百度蜘蛛:baiduspider
  百度手機蜘蛛:baiduboxapp
  yahoo蜘蛛:slurp
  alexa蜘蛛:ia_archiver
  msn蜘蛛:msnbot
  bing蜘蛛:bingbot
  altavista蜘蛛:scooter
  lycos蜘蛛:lycos_spider_(t-rex)
  alltheweb蜘蛛:fast-webcrawler
  inktomi蜘蛛:slurp
  有道蜘蛛:YodaoBot和OutfoxBot
  熱土蜘蛛:Adminrtspider
  搜狗蜘蛛:sogou spider
  SOSO蜘蛛:sosospider
  360搜蜘蛛:360spider  

apache、iis屏蔽限制ip訪問(適用虛擬主機)

apache、iis規(guī)則設(shè)置防盜鏈


請參照工單,根據(jù)實際情況設(shè)置。

如需我司幫助設(shè)置,請?zhí)峤还?/strong>,根據(jù)實際問題收費30元-200元


編輯:西部數(shù)碼
日期:2013-06-04

收藏 】 【 打印 】   
您可對文檔進行評分喲~

勾選遇到的問題提交給我們,收到反饋后保證及時修正更新!

提交反饋需要先登陸會員帳號

上一篇:wdcp系統(tǒng)mysql、php升級以及常見組件安裝
下一篇:關(guān)于虛擬主機受攻擊的處理流程
若文檔內(nèi)容對您沒有幫助,不能解決問題? 您還可以 咨詢在線客服提交工單搜索常見問題 ,我們將竭誠為您服務(wù)。
  >> 相關(guān)文章
 
分享至:
Top

24小時客服熱線

400-028-5800

028-62778877

您好,非正常上班時間若有緊急技術(shù)問題,請撥總機后按7號鍵, 其他問題請?zhí)峤还位蛟谏习鄷r間聯(lián)系,謝謝支持!