关键词: 网站 网络 方法 空间 权重

新闻中心

您当前位置:互易中国资讯中心 >> 新手教程 >> 新手教程 >> 浏览文章

Robots.txt写法详解及注意事项

2012-3-13 11:59:00 互联网 互易中国 【字体:

    虚拟主机

  • 国内、海外多家顶级机房
  • 可免备案

    云享主机

  • 超大空间不限CPU/IIS
  • 让你感受云的力量

    智能建站

  • 功能全面升级,海量模板
  • 会打字就会建站

  之前由写过“Robots“标签与robots.txt区别只是简单的对robots.txt作了下介绍,这里武汉seo闲人为大家详细的介绍下robots.txt写法详解及注意事项。

  一、robots.txt是干什么用的

  

点击浏览下一页

 

  robots.txt写法详解及注意事项

  一个网站中有很多个文件,其中包含了后台程序文件、前台模板文件、图片等等。这之中有一些东西我们是不希望被百度蜘蛛抓取的,怎么办呢?搜索程序考 虑到了这一点,蜘蛛在抓取网站页面之前会先访问网站根目录下的robots.txt文件,如果此文件存在那么按照robots.txt限定的范围进行抓 取,如果不存在,则默认为可以抓取全部。

  二、robots.txt在seo中在作用

  前一篇文章“度娘无视robots.txt文件的存在” 中我们可以看到,百度一个页面抓取的两个网址,这样会分散网页的权重,如果我们写好robots.txt就可以避免这样的情况产生。robots.txt 在seo中在作用就是屏蔽不必要的页面抓取,为有效页面赢得蜘蛛抓取的机会。由于屏蔽不必要页面抓取从而可以页面权重,节省网络资源;最后我们可以将网站 地图放在里面,方便蜘蛛抓取网页。

  三、哪些文件是可以用robots.txt屏蔽的

  网页中的模板文件、样式表文件以及后台的某些文件即使呗搜索引擎抓取了也没什么作用,反而是浪费网站资源,这类文件可以屏蔽;如果网页中的某些特定页面比如联系我们、公司内部某些不需要公开的照片这些都可以根据实际情况进行屏蔽。

  四、robots.txt写法详解及注意事项

  以主机博客为例,robots.txt文件如下:

  User-agent:* //允许所有搜索引擎蜘蛛抓取 Disallow:/wp- //不允许抓取url中带wp-的网址 Allow:/wp-content/uploads/ //允许抓取wp-content/uploads/目录下的文件

  Disallow:/*?* //不允许抓取url中带?的网址 Disallow:/feed Disallow: /trackback Disallow: /index.php? Disallow: /*.php$ //不允许抓取url中以.php结尾的网址 Disallow: /*.css$ Disallow: /date/ Sitemap: http://www.chenhaoseo.com/sitemap.xml //网站地图 Sitemap: http://www.chenhaoseo.com/sitemap_baidu.xml

  User-agent:*这样的记录只能有一条。*代表所有引擎蜘蛛,如果仅仅只针对某个搜索引擎可以这样写果User-agent:Baiduspider表示只下面规则都是针对百度蜘蛛的。

  Disallow: 描述不需要被索引的网址或者是目录。比如Disallow:/wp-不允许抓取url中带wp-的网址;要注意的是Disallow: /date/与Disallow: /date是不一样的;前者仅仅是不允许抓取date目录下的网址,如果data目录下还有子文件夹,那么子目录是允许抓取的,后者可以屏蔽date目录 下所有文件,包括起子文件夹。

  Allow:描述不需要被索引的网址或者是目录。功能跟disallow相反,特别注意的是Disallow与Allow行的顺序是有意义的,robot会根据第一个匹配成功的Allow或Disallow行确定是否访问某个URL。

  使用”*”和”$”:Baiduspider支持使用通配符”*”和”$”来模糊匹配url。”$” 匹配行结束符。”*” 匹配0或多个任意字符。

  robots.txt写法详解及注意事项就写到这里,如果你写完之后感觉有疑问,你可以用谷歌管理员工具进行测试,确保robots.txt书写正确这样才能起到效果。本文由武汉seo闲人 原创http://www.chenhaoseo.com seo技术交流QQ94775541


以上内容由 互易中国 搜集整理,如转载请注明原文出处,并保留这一部分内容。

 互易中国(http://www.53dns.com)是中国十大域名主机建站服务提供商,注册资本一千万,成立于2003年,九年来,累积已为五十余万用户提供产品和服务。互易中国专业经营域名注册,虚拟主机,网站建设,云主机,VPS,企业邮箱等业务。

互易中国网址导航: 域名注册 虚拟主机 智能建站 企业邮箱 定制建站 VPS主机

相关阅读:

  • 本周排行
  • 本月排行