Robots.txt
Robots.txt for golbal website or specific folders
manual
- A Standard for Robot Exclusion
- Search Indexing Robots and the Robots META Tag - SearchTools.com
- 網站管理員說明中心 - 我不想將要攔截的每個檔案都列出。我可以使用* 和 $ 模式媒合嗎？(EN)
robots.txt validator
sitemap
Sitemap: URL_of_sitemap_file
Google Sitemap Template for MovableType
移除自己的網頁在google上的索引
不希望自己的網站或網頁在google上被搜尋 要求Google移掉連結
- ?天: 使用自動網址移除系統 (說明: 移除內容)
- 3-5個工作天內處理: 使用 Google 網站管理員工具中的 URL 移除要求工具 (說明)
- 180天內: 使用robots.txt等 (說明: 如何確定我的內容可以從 Google 索引移除？)
meta tag for each webpage
<meta name="robots" content="noindex,nofollow" />
related: