SEO網(wǎng)站優(yōu)化robots.txt使用中常見的誤區(qū)
比如有很多人這樣寫:
User-agent: *
Allow: /
Disallow: /mulu/
想讓所有蜘蛛抓取本站除/mulu/下面的url之外的所有頁面,禁止抓取/mulu/下面的所有url。
SEO網(wǎng)站優(yōu)化搜索引擎蜘蛛執(zhí)行的規(guī)則是從上到下,這樣會造成第二句命令失效。也就是說禁止抓取/mulu/目錄這條規(guī)則是無效的。正確的是Disallow應該在Allow之上,這樣才會生效。
誤區(qū)2.Disallow命令和Allow命令之后沒有以斜杠”/”開頭。
這個也很容易被忽視,比如有人這樣寫Disallow: 123.html ,這種是沒有效果的。斜杠”/”表示的是文件對于根目錄的位置,如果不帶的話,自然無法判斷url是哪個,所以是錯誤的。
正確的應該是Disallow: /123.html,這樣才能屏蔽/123.html這個文件,這條規(guī)則才能生效。
誤區(qū)3.屏蔽的目錄后沒有帶斜杠”/”。
也就是比如想屏蔽抓取/mulu/這個目錄,有些人這樣寫Disallow: /mulu。那么這樣是否正確呢?
首先這樣寫(Disallow: /mulu)確實可以屏蔽/mulu/下面的所有url,不過同時也屏蔽了類似/mulu123.html這種開頭為/mulu的所有頁面,效果等同于Disallow: /mulu*。
正確的做法是,如果只想屏蔽目錄,那么必須在結(jié)尾帶上斜杠”/”。
本文發(fā)布于北京網(wǎng)站制作公司尚品中國http://www.xjjufeng.cn/
建站流程
-
網(wǎng)站需求
-
網(wǎng)站策劃方案
-
頁面設計風格
-
確認交付使用
-
資料錄入優(yōu)化
-
程序設計開發(fā)
-
后續(xù)跟蹤服務
-
聯(lián)系電話
010-60259772
熱門標簽
- 網(wǎng)站建設
- 食品網(wǎng)站建設
- 微信小程序開發(fā)
- 小程序開發(fā)
- 無錫網(wǎng)站建設
- 研究所網(wǎng)站建設
- 沈陽網(wǎng)站建設
- 廊坊網(wǎng)站建設
- 鄭州網(wǎng)站建設
- 婚紗攝影網(wǎng)站建設
- 手機端網(wǎng)站建設
- 高校網(wǎng)站制作
- 天津網(wǎng)站建設
- 教育網(wǎng)站建設
- 品牌網(wǎng)站建設
- 政府網(wǎng)站建設
- 北京網(wǎng)站建設
- 網(wǎng)站設計
- 網(wǎng)站制作
最新文章
推薦新聞
更多行業(yè)-
何為博客
一個博客(Blog )就是一個網(wǎng)頁,它通常是由簡短且經(jīng)常更新的Post...
2015-01-09 -
科研院所網(wǎng)站設計需要多少錢?貴嗎?
本身科研院所的存在就是一種高大上的印象,自然在進行科研院所網(wǎng)站設計的時...
2023-03-21 -
網(wǎng)站的規(guī)劃與發(fā)展策略
一個成功的網(wǎng)站設計離不開良好的規(guī)劃與發(fā)展策略。在建立網(wǎng)站時,對網(wǎng)站的各...
2014-08-05 -
網(wǎng)絡金融風險的成因分析
一、網(wǎng)絡金融機構(gòu)自身的原因網(wǎng)絡金融風險產(chǎn)生的原因,無論是一般風險還是特...
2014-10-13 -
淺談營銷型網(wǎng)站建設誤區(qū)
所以營銷型網(wǎng)站建設首先要解決網(wǎng)站的搜索引擎問題,也可以理解為搜索引擎優(yōu)...
2013-11-15 -
SEO網(wǎng)站優(yōu)化之改進網(wǎng)站加載速度
SEO網(wǎng)站優(yōu)化之改進網(wǎng)站加載速度隨著互聯(lián)網(wǎng)的速度不斷提升,特別是近期發(fā)...
2011-12-09
預約專業(yè)咨詢顧問溝通!
免責聲明
非常感謝您訪問我們的網(wǎng)站。在您使用本網(wǎng)站之前,請您仔細閱讀本聲明的所有條款。
1、本站部分內(nèi)容來源自網(wǎng)絡,涉及到的部分文章和圖片版權(quán)屬于原作者,本站轉(zhuǎn)載僅供大家學習和交流,切勿用于任何商業(yè)活動。
2、本站不承擔用戶因使用這些資源對自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國家有關(guān)法律法規(guī),當本聲明與國家法律法規(guī)沖突時,以國家法律法規(guī)為準。
4、如果侵害了您的合法權(quán)益,請您及時與我們,我們會在第一時間刪除相關(guān)內(nèi)容!
聯(lián)系方式:010-60259772
電子郵件:394588593@qq.com