
来自谷歌的John Mueller 在Reddit 帖子中表示,使用空白robots.txt 文件或仅说明该文件中允许所有内容都是同一件事,使用哪一个并不重要。
当被问到有什么区别时,他说“没关系”。我一直使用Dissallow:(空白),因为它看起来更有效。但当前客户端正在使用Allow:/。
他说:“没关系。你也可以使用这样的评论:”
# 这里没有robots.txt 指令
我很少在我的网站上使用robots.txt 文件,但正如你们所知,我喜欢与其他人分享尽可能多的内容。 :P
有充分的理由阻止robots.txt 中的网站部分和URL,但如果您不愿意,则不必这么做。
Reddit 上的论坛讨论。