东莞SEO > SEO/盈利 > Robots.TXT 几个比较容易混淆的地方

Robots.TXT 几个比较容易混淆的地方

2009年11月27日 东莞SEO 发表评论 阅读评论

最近没事上seowhy论坛看了下,看到一个会员提问说robots.txt禁止百度收录网站应该怎么写。

user-agent:*

disallow:

这样看好像没问题,其实这样的意思是允许访问所有,只有加了 “/”才可以禁止访问所有。

假设你要禁止百度访问,那么应该这样写

User-agent:baiduspider
Disallow:/

或者是

User-agent:baiduspider
Allow:

温馨提醒:如果是伪静态或者纯静态的网站,建议加上

Disallow: /?*

因为http://www.baidu.com/?sfsdfdsfsdfg  这类网页百度也是会抓取而且可能会影响权重的,因为带?号的url如果页面不存在,返回的是首页的内容。

分类: SEO/盈利 标签:
  1. 2009年11月29日22:45 | #1

    好久没来了 你还是没更新多少 难怪你说自己懒 哈哈

  2. 2009年12月7日20:50 | #2

    过来简单的学习下~~

  3. 2009年12月30日16:28 | #3

    对GG有效,似乎对BD,你人站在网口边上都没用。

    • 东莞SEO
      2010年1月3日08:23 | #4

      效果还是有的,试验过

  1. 本文目前尚无任何 trackbacks 和 pingbacks.
您必须在 登录 后才能发布评论.