军哥SEO学堂,即将开课啦      · 火热·招生进行中  赶紧扫码报名学习SEO !!!
当前位置: SEO教程 > SEO学堂 >

如何使用Robots来处理网站死链接

时间:2015-07-05 09:54来源:实践整理 作者:军哥SEO学堂 点击:
觉得今天很有必要跟大家分享一下Robots与死链的关系,这几天已经遇到了好几个SEOer在混淆这两个概念了,老是把Robot的应用与死链的处理,搭配到一起去使用,Seven足足码字好几百,聊天记录都说了两页了,回头还是问了句,怎么在robot中写死链提交,我在想一

觉得今天很有必要跟大家分享一下Robots与死链的关系,这几天已经遇到了好几个SEOer在混淆这两个概念了,老是把Robot的应用与死链的处理,搭配到一起去使用,Seven足足码字好几百,聊天记录都说了两页了,回头还是问了句,“怎么在robot中写死链提交”,我在想一定是我表达的方式不对,下面给大家捋捋思路:

 

Robot的应用:主要用于定义允许/禁止哪些搜索引擎蜘蛛的爬取,允许/禁止蜘蛛可以爬取的网站路径,允许/禁止蜘蛛爬取URL的规则,告诉某些搜索引擎网站地图的URL,例如我的Robot就简单简单定义了几个规则:
本博客的Robot协议

死链的处理:这里针对百度搜索引擎讨论,主要还是到站长工具里面,把死链提交给百度,告诉百度这个链接不存在,请求删除之前的收录,这里是以txt或xml形式批量提交死链给百度;
死链提交

 

现在谈谈死链与Robot的关系,很多人就把死链提交到Robots定义里面,认为用Disallow来禁止百度蜘蛛的抓取,这个想法是好的,出发点无非是不想让百度收录自己网站的死链,但是有没有考虑到快照问题,就是这个链接是个死链,但是在网站收录里面还有快照存在,你就会想,是不是百度还能抓取到我的死链,所以你就在Robot里面加了N多行的Disallow,来禁止百度收录你的死链,seven一直不太认可这么一个做法,其实这完全是一个本末倒置的做法。

 

需要搞清楚死链是如何产生的?死链是由于文件删除或者路径修改产生的不可访问的链接,那么你需要做的第一步是完全清除死链,第二步是提交死链,而Robots的禁止收录,是因为路径存在,但是你不希望被搜索引擎收录,比如网站后台或者用户中心一类,所以才加的Disallow去禁止收录,死链是访问不到的链接,如果你第一步清除完了,存在这个Disallow的必要吗?因为你不完全清除死链,势必影响用户体验。

 

总结:死链是必须清除的,对于搜索引擎而言,网站收录之前的死链一般不会被收录,因为没有价值;收录之后的死链,可能用户会在搜索结果或者站内浏览时点击到,影响用户体验,所以必须提交死链和投诉快照加快死链处理。robots与死链的关系很微妙,差别就在于这个死链地址是否还存在于网站内链当中。

(本文"如何使用Robots来处理网站死链接"的责任编辑:SEO学堂)
军哥SEO学堂

军哥SEO学堂

   火热招生中

       实力培训,赶紧左侧扫码报名

  扫一扫右侧的顺时网络公众号


  关注顺时网络公众号

  时刻关注顺时最新瞬间

  精彩等你关注扫左侧码呈现

顺时科技公众号
顶一下
(0)
0%
踩一下
(0)
0%
------分隔线----------------------------
相关推荐
热线QQ客服
在线QQ咨询
扫一扫

扫一扫
军哥赠送神秘大礼

全国免费服务热线
18025383583

扫一扫

扫一扫
军哥赠送神秘大礼

全国免费服务热线
13924653483

返回顶部