想过要优化你的 robots.txt 文件吗?可能你还不清楚 robots.txt 文件在wordpress建站中对SEO的重要性。这篇文章将教会你如何优化自己的 robots.txt 文件。

robots1

Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(Robots Exclusion Protocol),robots.txt 文件通常位于网站的根目录,在SEO中起着很重要的作用,此文件是网站与搜索引擎之间的桥梁,网站通过Robots协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。

网站中如果没有 robots.txt 文件,搜索引擎也会爬行和索引网站里的页面,但是我们还是强烈建议您创建一个 robots.txt 文件。如果你想要提交网站的XML地图,你可以写在此文件中,当然你也可以到谷歌,百度,搜狗等站长工具里手动提交。

此处附上较优化的robots.txt 文件,供大家参考,可以根据实际需求进行更改。