亚洲国产成人av影片在线_国产精品中文字幕日韩欧美_单亲乱l仑在线观看免费观看_黄色片A级在线观看_国产三级电影观看_男女污污app好色先生_成年人午夜福利视频播放_国产日韩AV一二三区婷婷_中文字幕aⅴ在线视频_99亚洲综合精品

1、典型的抓取異常情況

情況一：404頁(yè)面 

協(xié)議死鏈，用戶(hù)已無(wú)法訪(fǎng)問(wèn)該頁(yè)面內(nèi)容，建議通過(guò)百度站長(zhǎng)平臺(tái)--死鏈工具提交死鏈的方式進(jìn)行處理，以便搜索引擎更快地發(fā)現(xiàn)死鏈，減少死鏈對(duì)用戶(hù)以及搜索引擎造成的負(fù)面影響。

情況二：IP禁封

限制網(wǎng)絡(luò)出口IP地址，禁止該IP段的使用者進(jìn)行內(nèi)容訪(fǎng)問(wèn)，即為IP禁封。請(qǐng)檢查系統(tǒng)服務(wù)器是否設(shè)置了針對(duì)百度spider的IP禁封規(guī)則。

情況三：UA禁封 

UA即為用戶(hù)代理（User-Agent），服務(wù)器通過(guò)UA識(shí)別訪(fǎng)問(wèn)者的身份，當(dāng)網(wǎng)站針對(duì)指定UA的訪(fǎng)問(wèn)返回異常頁(yè)面（如403，500）或跳轉(zhuǎn)到其他頁(yè)面的情況，即為UA禁封。請(qǐng)檢查系統(tǒng)服務(wù)器是否設(shè)置了針對(duì)百度spider的UA禁封規(guī)則。

情況四：異常重定向 

將網(wǎng)絡(luò)請(qǐng)求重新指向其他位置即為重定向。異常重定向指的是以下幾種情況：
1）當(dāng)前該頁(yè)面為無(wú)效頁(yè)面（內(nèi)容已刪除、死鏈等），直接跳轉(zhuǎn)到前一目錄或者首頁(yè)，百度建議站長(zhǎng)將該無(wú)效頁(yè)面的入口超鏈接刪除掉

2）重定向到出錯(cuò)或者無(wú)效頁(yè)面

3）重定向的跳轉(zhuǎn)超過(guò)3次，也為異常

注意：對(duì)于長(zhǎng)時(shí)間跳轉(zhuǎn)到其他域名的情況，如網(wǎng)站更換域名，百度建議使用301跳轉(zhuǎn)協(xié)議進(jìn)行設(shè)置。

情況五：其他 

JS跳轉(zhuǎn)異常：網(wǎng)頁(yè)加載了百度無(wú)法識(shí)別的JS跳轉(zhuǎn)代碼，使得用戶(hù)通過(guò)搜索結(jié)果進(jìn)入頁(yè)面后發(fā)生了跳轉(zhuǎn)的情況。

針對(duì)百度ua的異常：網(wǎng)頁(yè)對(duì)百度UA返回不同于頁(yè)面原內(nèi)容的行為。

針對(duì)百度refer的異常：網(wǎng)頁(yè)針對(duì)來(lái)自百度的refer返回不同于正常內(nèi)容的行為。

壓力過(guò)大引起的偶然禁封：百度會(huì)根據(jù)站點(diǎn)的規(guī)模，訪(fǎng)問(wèn)量等信息，自動(dòng)設(shè)定一個(gè)合理的抓取壓力。但是在異常情況下，如壓力控制失常時(shí)，服務(wù)器會(huì)根據(jù)自身負(fù)荷進(jìn)行保護(hù)性的偶然封禁。這種情況下，請(qǐng)?jiān)诜祷卮a中返回503(其含義是“Service Unavailable”)，這樣百度spider會(huì)過(guò)段時(shí)間再來(lái)嘗試抓取這個(gè)鏈接，如果網(wǎng)站已空閑，則會(huì)被成功抓取。
更多資訊來(lái)源于：佛山網(wǎng)站建設(shè)2800kj.cn



此文關(guān)鍵字：佛山網(wǎng)站建設(shè)