，要想彻底阻止网页的内容在Google网页索引中(即使有其他网站链接到该网页)出现，需要使用noindex元标记或x-robots-tag。例如将下面的一行加入到网页的header部分。
<meta name="googlebot" content="noindex">
如果Google看到某一页上有noindex的元标记，就会将此页从Google的搜索结果中完全丢弃，而不管是否还有其他页链接到此页。
对于上看，百度并不支持像Google那样通过noindex完全将网页从索引上删除，只支持使用noarchive元标记来禁止百度显示网页快照。具体的语句如下。
<meta name="Baiduspider" content="noarchive">
上面这个标记只是禁止百度显示该网页的快照，百度会继续为网页建索引，并在搜索结果中显示网页摘要。
本文来源：
顶: 0 踩: 0
1楼
你这个形容真贴切
评论来自电脑端 时间:2018-02-04 16:15:41
2楼
搜狗的是gou娘，他当然不干了。哈哈
评论来自电脑端 时间:2014-01-16 16:35:28
呵呵，你这个形容真贴切
跟帖来自电脑端 时间:2013-12-22 09:47:14
4楼
不明觉厉
评论来自电脑端 时间:2013-12-19 11:57:52
5楼
笑尿。
评论来自电脑端 时间:2013-05-01 20:59:00
6楼
呵呵第一次听到这个说法
评论来自电脑端 时间:2012-06-29 13:39:10
7楼
基础优化很重要，robots也很重要，属于基础优化的范畴的。
评论来自电脑端 时间:2015-11-22 22:49:52
8楼
还在研究中……
评论来自电脑端 时间:2015-03-01 10:27:26
9楼
robotstxt文件一定需要吗
评论来自电脑端 时间:2013-06-09 17:04:50
10楼
robotstxt协议也算是门学问
一直学习中
评论来自电脑端 时间:2013-02-06 18:56:18
抱歉哈，已经修正了
跟帖来自电脑端 时间:2012-09-01 17:02:10
没有不行的，放个空的也行
跟帖来自电脑端 时间:2012-09-01 13:00:20
13楼
欢迎google收录。
评论来自电脑端 时间:2012-11-16 18:05:13
14楼
对于企业站和皇冠体育官网及小型网站来说，这个没有太大的区别
评论来自电脑端 时间:2012-11-16 09:12:49
15楼
这样比较的话 好像Google 更胜一筹咧
评论来自电脑端 时间:2012-09-02 22:51:59
16楼
一般都做这个文件，但具体哪一内页还真没做过。
评论来自电脑端 时间:2012-09-02 13:10:34
17楼
放置robots 会给搜索引擎提供方便。
评论来自电脑端 时间:2012-09-02 06:29:33
18楼
正常都会放这个文件的。。
评论来自电脑端 时间:2012-09-02 01:18:24
19楼
嗯。。学习了
评论来自电脑端 时间:2012-09-02 00:39:40
20楼
网站没有这些东西，没事吧
评论来自电脑端 时间:2012-09-01 22:53:03
21楼
支持月光和皇冠·体育(中国)官方网站-Crown Sports
评论来自电脑端 时间:2012-09-01 21:53:07
22楼
原来只是禁止百度显示该网页的快照，百度会继续为网页建索引，并在搜索结果中显示网页摘要。
评论来自电脑端 时间:2012-09-01 21:35:30
23楼
我想我不会把我的后台地址和后台页面 连接到其他的网站吧。
评论来自电脑端 时间:2012-09-01 20:40:16
24楼
我有很多站也没有robots 看的收录也可以的。
评论来自电脑端 时间:2012-09-01 20:39:40
25楼
原来如此，又学一招，呵呵。
评论来自电脑端 时间:2012-09-01 17:39:46
26楼
合理运用这个文件对网站还是有好处的。
评论来自电脑端 时间:2012-09-01 17:26:16
27楼
好牛哈。。
评论来自电脑端 时间:2012-09-01 17:06:38
28楼
月光的文章啊，那个“下面的一行”和“具体的语句如下”都没有下文啊，松松忘了加了吧
评论来自电脑端 时间:2012-09-01 15:35:44
29楼
我还一直以为设置了robots就彻底解决问题了……
评论来自电脑端 时间:2012-09-01 15:09:59
30楼
这好在研究这个哈，哈哈
评论来自电脑端 时间:2012-09-01 14:47:50
31楼
个人感觉百度于robots还未完善吧
评论来自电脑端 时间:2012-09-01 13:15:49
32楼
设应该是搜索引擎行业的规范吧，站长必须学习！
评论来自电脑端 时间:2012-09-01 12:05:44
33楼
学习一下
评论来自电脑端 时间:2012-09-01 11:52:02
34楼
我的站没有robots文件
评论来自电脑端 时间:2012-09-01 11:48:38
35楼
传说中的 板凳呀，学习了。
评论来自电脑端 时间:2012-09-01 11:15:48
36楼
倒数第二段提到的语句看不到的呢?
评论来自电脑端 时间:2012-09-01 10:58:20
