Robots.TXT 几个比较容易混淆的地方
最近没事上seowhy论坛看了下,看到一个会员提问说robots.txt禁止百度收录网站应该怎么写。
user-agent:*
disallow:
这样看好像没问题,其实这样的意思是允许访问所有,只有加了 “/”才可以禁止访问所有。
假设你要禁止百度访问,那么应该这样写
User-agent:baiduspider
Disallow:/或者是
User-agent:baiduspider
Allow:
温馨提醒:如果是伪静态或者纯静态的网站,建议加上
Disallow: /?*
因为http://www.baidu.com/?sfsdfdsfsdfg 这类网页百度也是会抓取而且可能会影响权重的,因为带?号的url如果页面不存在,返回的是首页的内容。
好久没来了 你还是没更新多少 难怪你说自己懒 哈哈
过来简单的学习下~~
对GG有效,似乎对BD,你人站在网口边上都没用。
效果还是有的,试验过