【官方说法】robots文件是否支持中文目录

工程师解答:

Baiduspider目前(2016年10月)在robots里是不支持中文的。

同学追问:

那我们进行UrlEncode编码会不会支持呢?

比如这种:http://www.a.cn/%E7%89%B9%E6%AE%8A:%E6%B5%8F%E8%A7%88/%E7%94%9F%E6%AD%BB%E7%8B%99%E5%87%BB:%E7%99%BD%E9%93%B6%E5%8A%A0%E7%89%B9%E6%9E%97

工程师解答:

robots文件支持这种写法。但是否生效,还要取决于当时BaiduSpider抓取的是哪种形式结构的链接,如果是UrlEncode编码就可以生效,如果是中文就非常不幸了。


发布日期:

所属分类: 网站运营 SEO 标签: