robots.txt标签

robots.txt直接放在网站根目录下，是蜘蛛访问网站时，第一个抓取的文件。robots.txt是告诉蜘蛛网站的哪些文件允许抓取，哪些文件不允许抓取，甚至可以指定特定的蜘蛛能不能抓取特定的文件。没有抓取就没有收录，没有收录就没有排名。所以作为第一蜘蛛访问的文件，写好robots.txt是很重要的，写好robots.txt后，一定要再检查一两遍，以防出错。这里总结下robots.txt写法，让你看