亚洲国产成人av影片在线_国产精品中文字幕日韩欧美_单亲乱l仑在线观看免费观看_黄色片A级在线观看_国产三级电影观看_男女污污app好色先生_成年人午夜福利视频播放_国产日韩AV一二三区婷婷_中文字幕aⅴ在线视频_99亚洲综合精品

      搜索引擎使用spider程序自動(dòng)訪(fǎng)問(wèn)互聯(lián)網(wǎng)上的網(wǎng)頁(yè)并獲取網(wǎng)頁(yè)信息。spider在訪(fǎng)問(wèn)一個(gè)網(wǎng)站時(shí)，會(huì)首先會(huì)檢查該網(wǎng)站的根域下是否有一個(gè)叫做 robots.txt的純文本文件，這個(gè)文件用于指定spider在您網(wǎng)站上的抓取范圍。您可以在您的網(wǎng)站中創(chuàng)建一個(gè)robots.txt，在文件中 聲明該網(wǎng)站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。

      請(qǐng)注意，僅當(dāng)您的網(wǎng)站包含不希望被搜索引擎收錄的內(nèi)容時(shí)，才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容，請(qǐng)勿建立robots.txt文件。 

更多資訊來(lái)源于：佛山網(wǎng)站建設(shè)2800kj.cn

此文關(guān)鍵字：