Discuz! Board

 找回密碼
 立即註冊
搜索
熱搜: 活動 交友 discuz
查看: 3|回復: 0

允許 使用此指令允許搜尋引擎抓取目錄或

[複製鏈接]

1

主題

1

帖子

5

積分

新手上路

Rank: 1

積分
5
發表於 2024-4-16 11:03:55 | 顯示全部樓層 |閱讀模式
頁面,即使在不允許相反操作的目錄中也是如此。例如,如果您想阻止搜尋引擎訪問部落格上除一篇之外的所有帖子,那麼您的 robots.txt 檔案將如下所示: 使用者代理:*禁止:/blog允許:/blog/allowed-post 在此範例中,搜尋引擎可以存取/blog/allowed-post但是; /blog/another-post /blog/yet-another-貼文 /blog/download-me.pdf 他們將無法存取其中的部分內容。 Google 和 Bing 都支援該指令。


簡單說明一下:與 Block 指令一樣,如果您在 Allow 指令之後沒有定義路徑,搜尋引擎將忽略它。 關於衝突規則的說明: 如果您不小心,允許和允許指令很容易相互衝突。在下面的範例中,我們阻止訪問/blog/並允許訪問/blog 。 使用者代理:*禁止:/blog/允許:/blog 在這 南非 電話號碼 種情況下,對/blog/post-title/的訪問似乎既被禁止又被允許。那麼這起案件誰是贏家呢? 適用於 Google 和 Bing 的規則是字元數最多的指令獲勝。 您可以在下面找到區塊指令: 塊:/blog/(6 個字元) 允許:/blog(5 個字元) 如果允許和阻止指令的長度相等,則限制最少的指令獲勝。



所以在這個例子中獲勝者將是allow指令。 請注意:在此範例中/blog(不帶尾部斜杠)仍然可以存取和抓取。 最重要的是,這僅適用於 Google 和 Bing。其他搜尋引擎將偵聽第一個符合的指令。 在這種情況下,將在上面的範例中套用封鎖選項。 網站地圖 使用此指令向搜尋引擎指示網站地圖的位置。 如果您不熟悉,網站地圖通常包含您希望搜尋引擎抓取和索引的頁面。 以下是使用 sitemaps 指令的 robots.txt 檔案的範例: 使用者代理程式:*禁止:/blog/允許:/blog/post-title/ 那麼,將網站地圖包含在 robots.txt 檔案中有多重要? 如果您已透過Google Search Console提交了網站地圖,則 Google 將不再需要此流程。



回復

使用道具 舉報

您需要登錄後才可以回帖 登錄 | 立即註冊

本版積分規則

QQ|Archiver|手機版|自動贊助|图片情报站

GMT+8, 2024-5-8 11:07 , Processed in 1.392495 second(s), 29 queries .

抗攻擊 by GameHost X3.4

© 2001-2017 Comsenz Inc.

快速回復 返回頂部 返回列表
一粒米 | 中興米 | 論壇美工 | 設計 抗ddos | 天堂私服 | ddos | ddos | 防ddos | 防禦ddos | 防ddos主機 | 天堂美工 | 設計 防ddos主機 | 抗ddos主機 | 抗ddos | 抗ddos主機 | 抗攻擊論壇 | 天堂自動贊助 | 免費論壇 | 天堂私服 | 天堂123 | 台南清潔 | 天堂 | 天堂私服 | 免費論壇申請 | 抗ddos | 虛擬主機 | 實體主機 | vps | 網域註冊 | 抗攻擊遊戲主機 | ddos |