Google:Robot.txt 空白与允许没有区别

来自谷歌的John Mueller 在Reddit 帖子中表示,使用空白robots.txt 文件或仅说明该文件中允许所有内容都是同一件事,使用哪一个并不重要。

当被问到有什么区别时,他说“没关系”。我一直使用Dissallow:(空白),因为它看起来更有效。但当前客户端正在使用Allow:/。

他说:“没关系。你也可以使用这样的评论:”

# 这里没有robots.txt 指令

我很少在我的网站上使用robots.txt 文件,但正如你们所知,我喜欢与其他人分享尽可能多的内容。 :P

有充分的理由阻止robots.txt 中的网站部分和URL,但如果您不愿意,则不必这么做。

Reddit 上的论坛讨论。

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
搜索