簡體   English   中英

不允許: /*? 在 robots.txt 中需要解釋

[英]Disallow: /*? in robots.txt explanation needed

有人可以告訴我robots.txt中的以下規則是否允許谷歌抓取以下示例鏈接嗎?

允許:/搜索/

不允許: /*?

這是一個電子商務,我想了解在產品搜索欄中搜索時是否會抓取這樣的動態鏈接:

https://www.whateverwebsite.de/search/?q=hello

https://www.whateverwebsite.de/category.html?form_new=18658

https://www.whateverwebsite.de/search/?q=grand&productFilter=motive_design%3AGeometric

這些鏈接是通用示例,但我真的很想知道Disallow:/*? 不是因為“/”“?”之間沒有任何內容,所以阻止了這種要被抓取的鏈接。 .

非常感謝,我期待着一些答案以繼續學習:)

您的問題在這里得到解答:

https://searchengineland.com/a-deeper-look-at-robotstxt-17573

不允許: /*? # 阻止任何包含?

但是,您還應該考慮的是,通過優先考慮較長的規則來解決沖突的規則。 (這里比較Robots.txt優先題

因此,請注意讓正確的規則獲得您想要的優先權。

暫無
暫無

聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.

 
粵ICP備18138465號  © 2020-2024 STACKOOM.COM