发布网友 发布时间:20小时前
我来回答
共0个回答
应该是被藏了,找到隐藏文件的功能,取消隐藏再看看有没有。
一、定义: robots.txt 是存放在站点根目录下的一个纯文本文件,让搜索蜘蛛读取的txt文件,文件名必须是小写的“robots.txt”。二、作用: 通过robots.txt可以控制搜索引擎收录内容,告诉蜘蛛哪些文件和目录可以收录,哪些不可以收录。三、语法:User-agent:搜索引擎的蜘蛛名 Disallow:禁止搜的内容 ...