此标签对于重复页面或您想要保密的其他页面特别有用。
虽然机器人将继续爬行这 bc data 越南电话号码数据 些页面以查看该标签,但他们会注意到它并限制将来的爬行。
要告诉搜索引擎不要为特定页面建立索引,请使用带有“noindex”属性的 robots 元标记。
在页面的 head <> 中插入以下标签:
减少重定向
重定向自动将机器人从一个网页发送到另一个网页。如果机器人访问已移动或删除的页面,重定向会将其带到该页面的新位置或解释原始页面不再可用的原因的页面。
重定向需要机器人提供更多资源,因为它们访问的页面超出了必要的范围。
转至站点审核的“问题”选项卡。
站点审核工具中的问题选项卡
警告部分将告诉您有多少 URL 具有临时重定向。

临时重定向的“原因以及如何修复它”部分的示例
大多数浏览器在爬行中最多遵循五个重定向链。
如果您使用重定向,请确保它们符合逻辑。
假设某体育网站有一篇关于去年足球比赛的文章。
然而,今年的比赛有一个不同的网址