網(wǎng)站流量超標排查

一．查看網(wǎng)站訪問統(tǒng)計

 1. 登錄到虛擬主機管理面板，點擊“訪問統(tǒng)計”

 2.首先查看訪問統(tǒng)計中瀏覽器與非瀏覽器流量確定流量類型。

 3.根據(jù)流量類型詳細查看訪問統(tǒng)計數(shù)據(jù)：

          3.1如是瀏覽器流量占用高，可查看

等統(tǒng)計數(shù)據(jù)，以確定網(wǎng)站中是哪類文件，哪些url地址被大量訪問，以及是哪些IP，哪些蜘蛛等訪問量大。

       3.2如是非瀏覽器流量占用高，可查看

  確定是什么狀態(tài)情況下產(chǎn)生的非瀏覽器流量。

二．分析網(wǎng)站訪問日志

  根據(jù)網(wǎng)站訪問統(tǒng)計中按“按日期統(tǒng)計”數(shù)據(jù)找一天流量較大的日志下載至本地使用記事本編輯器打開對日志具體分析核實。

   通常只需找最近三天左右的日志即可，

           windows主機可以點擊“www日志”下載訪問日志到wwwroot目錄下，再通過ftp方式連接下載 至本地使用編輯器打開查看。

           Linux主機通過ftp連接主機打開logs目錄下即可下載最近的日志。

   如要下載歷史日志，可以點擊 “www日志”--“獲取歷史日志”。

三．處理措施

3.1 正常訪問情況主機流量配置低導致超標。如占用流量的文件類別、url網(wǎng)址、搜索蜘蛛、訪問IP等數(shù)據(jù)都較均衡，無明顯差異等。請升級主機至流量配額更大的型號。

3.2 網(wǎng)站頁面數(shù)據(jù)過大導致流量超標。如首頁中加載的圖片過大，同時圖片設計過大等，可聯(lián)系網(wǎng)站程序方人員減少頁面的圖片數(shù)，減小圖片大小等方式處理或者升級主機至流量更大的型號。

3.3 某類文件被大量請求下載等導致超標。如網(wǎng)站的mp4文件被外部盜鏈/下載等，可考慮將文件存放至其他第三方網(wǎng)站進行引用，或升級主機至不限流量的云服務器。

3.4 其他某搜索引擎蜘蛛、IP、useragent等導致流量超標異常的。可通過web.config或.htaccess進行攔截屏蔽。

屏蔽攔截搜索引擎蜘蛛、useragent的訪問抓取等：http://faq.myhostadmin.net/faq/list.asp?unid=662

屏蔽限制ip訪問：http://faq.myhostadmin.net/faq/list.asp?unid=681    

   3.5 平時流量很小，突然一兩天來了非常大的流量：是否有做活動，是否有發(fā)文章轉載到公眾號被大量轉發(fā)等事件。

      如果沒有，則可能是有機器人或采集器等異常訪問流量，使用虛擬主機控制面板中的“請求限制”功能：可以禁止境外訪問，或拒絕某些IP段的訪問，也可以限制單個IP同時訪問的數(shù)量等。

   也可以配置防盜鏈措施： http://faq.myhostadmin.net/faq/list.asp?unid=628 避免自己網(wǎng)站的圖片,mp3視頻等資源被其他網(wǎng)站引用導致的異常流量過高。

   （注意：采用防盜鏈措施的情況下，直接發(fā)網(wǎng)站圖片等鏈接給用戶，用戶是無法訪問的，只有正常訪問網(wǎng)站才能顯示相關圖片，以達到防盜鏈的目的）

3.6分析到某客戶端UA訪問請求異常，可通過web.config或.htaccess規(guī)則文件屏蔽User_Agent(UA)訪問：http://faq.myhostadmin.net/faq/list.asp?unid=2595

 3.7 推薦購買異常流量清洗服務 ，我司系統(tǒng)可智能屏蔽惡意流量。

四．相關案例

4.1 正常訪問情況主機流量配置低

  從訪問統(tǒng)計可見占用流量的文件類別主要為php、js、png、css。訪問最多的網(wǎng)址為首頁。而訪問IP，搜索蜘蛛等占量無異常。

  通過下載網(wǎng)站日志核實，日志中也均正常的訪問記錄無明顯異常請求。

  此情況則為正常訪問而主機流量不足導致超標，應升級主機。

4.2 網(wǎng)站頁面數(shù)據(jù)過大

    從統(tǒng)計可見占用流量最多的是圖片類文件，訪問網(wǎng)址最多的是首頁。

  從訪問日志中可見，請求的圖片量較大，通過瀏覽器可見圖片也相對偏大。

  此情況可考慮優(yōu)化減小圖片大小（通常圖片大小不應超過300KB），或升級主機。

4.3 非瀏覽器流量大某文件被下載

  從訪問統(tǒng)計可見非瀏覽器206狀態(tài)占用大量流量，文件類別為mp4且文件較大。 206是斷點續(xù)傳下載，由此可判斷mp4文件被下載導致。

  此情況可考慮將文件存放至其他第三方網(wǎng)站進行引用，或升級主機至不限流量的云服務器。

4.3 搜索引擎蜘蛛/機器人等占用流量

  從訪問統(tǒng)計可見Googlebot（google蜘蛛）占用大量流量。

  從訪問日志可見Googlebot對網(wǎng)站某個地址進行大量的訪問抓取，通過反查IP是真實的google蜘蛛。

  此情況如不考慮seo優(yōu)化影響情況下，可以通過規(guī)則對googlebot進行屏蔽。 類似情況還可能有Baiduspider（百度蜘蛛）對網(wǎng)站的大量訪問抓取。可通過來源IP核查是否為真實的百度蜘蛛等。屏蔽蜘蛛的抓取會對網(wǎng)站的seo優(yōu)化產(chǎn)生影響，所以并不推薦將google，baidu的蜘蛛進行屏蔽。建議用戶可考慮升級主機解決。

五．驗證屏蔽規(guī)則是否生效

5.1 屏蔽IP驗證：

  5.1.1訪問http://ip.tool.chinaz.com/獲取到本地公網(wǎng)IP。

  5.1.2將.htaccess（linux主機）或web.cofnig (windows主機) 中規(guī)則攔截IP換成本地公網(wǎng)IP：

 5.1.3再次訪問網(wǎng)站，如提示Forbidden訪問受限則規(guī)則正確生效，然后將IP對應更換為需要屏蔽的IP即可。

5.2 屏蔽蜘蛛或useragent驗證(以百度蜘蛛為例)：

5.2.1 訪問http://faq.myhostadmin.net/faq/listagent.asp?Unid=2289 安裝瀏覽器插件。

         5.2.1 將.htaccess（linux主機）或web.cofnig (windows主機) 中規(guī)則中增加對Baiduspider的攔截

5.2.3再次訪問網(wǎng)站，如提示Forbidden訪問受限則規(guī)則正確生效，然后在規(guī)則文件中取消對Baiduspider的屏蔽，改為其他蜘蛛或useragent即可。

相關產(chǎn)品： 異常流量清洗服務產(chǎn)品介紹