Robots.txt

Robots.txt for golbal website or specific folders

manual

• A Standard for Robot Exclusion
• Robots.txt Validator
• 網站管理員說明中心 - 我不想將要攔截的每個檔案都列出。我可以使用* 和 $ 模式媒合嗎？(EN)
• 給網站管理員的 Google 資訊

Google Information for Webmasters (last visited: February 10, 2006)

robots.txt validator

• New Robots.txt Syntax Checker: a validator for robots.txt files

移除自己的網頁在google上的索引

不希望自己的網站或網頁在google上被搜尋 要求Google移掉連結

• ?天: 使用自動網址移除系統 (說明: 移除內容)
• 3-5個工作天內處理: 使用 Google 網站管理員工具中的 URL 移除要求工具 (說明)
• 180天內: 使用robots.txt等 (說明: 如何確定我的內容可以從 Google 索引移除？)

more on 網站管理員說明中心 - 我如何從 Google 的索引中移除內容？

meta tag for each webpage

<meta name="robots" content="noindex,nofollow" />

related:

• HTML Author's Guide to the Robots META tag
• Add meta tag to movabletype
• 如何用.htaccess擋搜尋器 - WordPress歡樂正體中文交流所