了解百度蜘蛛的爬行規(guī)律

2023-04-21    分類： 網(wǎng)站建設(shè)

對(duì)于各位站長(zhǎng)來(lái)說(shuō)，百度的收錄是關(guān)心的重中之重。了解百度蜘蛛的爬行規(guī)律從而更好的改善收錄情況也是必須要掌握的。很多網(wǎng)站目前使用的都是虛擬空間，都能夠提供日志。

日志是指在網(wǎng)站根目錄下的logfiles文件夾里面日期.txt文本文件有很多介紹通過(guò)http查看返回命令的那種辦法來(lái)查看蜘蛛，這里就不介紹了。

現(xiàn)在更多的網(wǎng)站是沒(méi)有提供可以通過(guò)軟件來(lái)查看的日志格式。

更多的是類似下面的日志格式，如下：

03:28:34 GET /goods.php 202.108.7.205 200 34696 390

第一 03:28:34 訪問(wèn)時(shí)間

第二 GET /goods.php 訪問(wèn)的頁(yè)面 get表示獲取

第三 202.108.7.205 訪問(wèn)網(wǎng)站的源IP

第四 200 成功訪問(wèn)

第五 34696 390 表示記錄的內(nèi)容大小

都是這種格式的日志如何去分析了，一個(gè)一個(gè)看的頭都大了。北京禮品網(wǎng)站的日志記錄每天都有1M多，上千條記錄豈不是會(huì)看都頭暈眼花。

注意了，告訴大家一個(gè)竅門(mén)。經(jīng)過(guò)長(zhǎng)期觀察發(fā)現(xiàn)，百度的蜘蛛的來(lái)源服務(wù)器IP地址都是屬于一個(gè)域下面的通個(gè)網(wǎng)段。什么意思了，就是全部都是以202.108開(kāi)頭的IP，IP地址都是類似于202.108.X.X。這個(gè)網(wǎng)段的IP地址是位于北京網(wǎng)通電報(bào)大樓，屬于全國(guó)互聯(lián)網(wǎng)核心骨干機(jī)房，現(xiàn)在此IP段已經(jīng)絕跡了。(基本上全被大網(wǎng)站使用了，如新浪、雅虎等)那么調(diào)出你的日志，用ctrl+f查找一下有沒(méi)有這個(gè)網(wǎng)段的IP。有的話那這個(gè)就是百度蜘蛛的訪問(wèn)地址了，然后就查找一下訪問(wèn)的時(shí)間，那么就可以找出來(lái)百度蜘蛛訪問(wèn)你網(wǎng)站的時(shí)間規(guī)律了。對(duì)于大家按照蜘蛛爬行時(shí)間來(lái)更新網(wǎng)站內(nèi)容的作用那是杠杠的啊。

網(wǎng)頁(yè)名稱：了解百度蜘蛛的爬行規(guī)律
分享路徑：http://www.bm7419.com/news47/255947.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供網(wǎng)站設(shè)計(jì)公司、品牌網(wǎng)站制作、標(biāo)簽優(yōu)化、微信公眾號(hào)、網(wǎng)頁(yè)設(shè)計(jì)公司、網(wǎng)站排名

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)

網(wǎng)站托管運(yùn)營(yíng)