簡體   English   中英

禁止robots.txt中的所有分頁頁面

[英]Disallow all pagination pages in robots.txt

我不希望Google抓取所有分頁信息:

這里是示例:

http://sample.com/blog-page/page/1

http://sample.com/blog-page/page/2

http://sample.com/blog-page/page/3

好吧,我還有其他一些分頁,例如:

http://sample.com/product-category/product/page/1

http://sample.com/product-category/product/page/2

http://sample.com/product-category/product/page/3

這是我的robots.txt的代碼

User-agent:  *

Disallow: */page/*
User-agent:  *

Disallow: /blog-page/page/

您可以使用它來幫助您生成robots.txt

http://tools.seobook.com/robots-txt/generator/

我認為應該

User-agent: *
Disallow: /blog-page/page

不需要多個突擊,並且您必須確保包括整個路徑,因為/page將是您網站的根目錄

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM