如標題,我網站的虛擬主機(同IP)有掛多個網站也都上線(不同網域),
每個網站的網址結構與網站內容完全一樣,
目前是要公開網站的robot.txt文件設定:
User-agent:*
Disallow:
那其他不想被所有搜尋引擎收錄網站的robot.txt如果設定以下內容,所有搜尋引擎還會抓取嗎?
User-agent:*
Disallow:/
如果所有搜尋引擎是看網域,不想被所有搜尋引擎收錄的網站就可以添加robot.txt阻止抓取
如果所有搜尋引擎是看IP,不想被所有搜尋引擎收錄的網站就沒必要添加robot.txt了...