谷歌要求什么
谷歌的回答很短。想作为辅助链接出现在 AI 概览(AI Overviews)或 AI 模式里,“页面必须已被收录,并且有资格带摘要片段显示在 Google 搜索中”。谷歌还说:“没有其他技术要求。”谷歌更新的 AI 优化指南(2026 年 7 月 10 日更新)多写了一个条件:网站要在 Search Console 的 Search generative AI 设置里处于包含状态,默认就是包含(见下文)。
实际上就是三件事:
- Googlebot 能抓这个页面。 robots.txt 放行它,CDN 或主机也放行它。谷歌自己的清单两样都提到了。
- 页面能被收录。 返回 HTTP 200,有可收录的内容,没有
noindex。这些是通用的 Google 搜索技术要求。 - 页面能带摘要片段显示。 没有
nosnippet,也没有max-snippet:0。见下面的控制项。
这些都不保证什么。谷歌说,满足技术要求“并不意味着页面一定会被收录”;AI 概览也“只在我们的系统判断它能给传统搜索带来增益时才显示”。
两种功能都可能用谷歌所说的“query fan-out”(查询扇出):围绕几个子话题跑多次相关搜索,拼成一个回答。所以它们链接的页面,可能比同一个问题的传统搜索结果范围更广。
谷歌说你不需要做的
谷歌关于生成式 AI 功能的指南,直接回应了常见的建议。对谷歌搜索来说,你不需要:
- 新文件或新标记。 “你不需要创建新的机器可读文件、AI 文本文件、标记或 Markdown”。谷歌点名 llms.txt 是谷歌搜索可以不管的文件之一,见 llms.txt 是什么?格式、示例和谁在读。
- 专门的结构化数据。 “没有哪种 schema.org 标记是你必须加的。”
- 切块。 “不需要为了让 AI 更好理解而把内容拆成小块。”
- 特殊的写法。 “你不需要只为生成式 AI 搜索用某种特定的方式写作。”
谷歌还说,网上建议的很多 AEO、GEO“技巧”没有效果,而且“没有任何第三方工具能访问我们内部的排名或 AI 系统”。Citeloop 也一样:我们的体检从外部查技术上的基本功,和任何爬虫看你网站的方式一样。
谷歌真正推荐的是平常的网站维护:在 robots.txt 和 CDN 那里允许抓取;站内链接到重要页面;给用户好的页面体验;重要内容用文字写;配上好的图片和视频;结构化数据和页面上看得到的文字一致;Merchant Center 和商家资料(Business Profile)的信息保持最新。
各个控制项分别做什么
这几个容易混,每个管的是不同的事:
| 控制项 | 在哪里设 | 谷歌说它做什么 |
|---|---|---|
| robots.txt 里给 Googlebot 的规则 | robots.txt | 网站所有者“管理访问的控制手段”,管搜索,包括这些功能 |
nosnippet |
robots meta 标签或 X-Robots-Tag 响应头 |
所有搜索结果都不显示文字摘要,包括 AI 概览和 AI 模式;内容也不会被用作“AI 概览和 AI 模式的直接输入” |
max-snippet:[数字] |
robots meta 标签或响应头 | 限制摘要长度,也限制内容有多少能被用作 AI 概览和 AI 模式的直接输入 |
data-nosnippet |
HTML 里某些部分上的属性 | 这些部分不进摘要 |
noindex |
robots meta 标签或响应头 | 页面完全不出现在谷歌搜索里 |
| Search generative AI 设置 | Search Console,每个资源单独设 | 把整个网站移出 AI 概览、AI 模式和 Discover 里的生成式 AI 功能 |
Google-Extended |
robots.txt | 管 Gemini 模型的训练,以及 Gemini 应用和 Vertex AI 里的联网检索(grounding)。它“不影响网站是否被收录进谷歌搜索,也不用作排名信号” |
由此可知两点:
- 屏蔽 Google-Extended 不会让你退出 AI 概览或 AI 模式。 它是 robots.txt 里的一个名称,不是爬虫,管的是谷歌的其他产品。见 AI 爬虫一览:每个爬虫做什么、怎么屏蔽。
nosnippet的代价不只在 AI 功能上。 它会让你的页面在所有搜索结果里都没有摘要。只想退出 AI 功能的话,Search Console 的设置是范围更窄的工具。
写在 <meta name="robots"> 里的规则对所有爬虫都有效。谷歌也读 <meta name="googlebot">,用它可以只针对谷歌的爬虫。
怎么退出 AI 概览和 AI 模式
从 2026 年 8 月 31 日起,所有网站都可以在 Search Console 里退出:
- 在 Search Console 里打开这个资源。
- 进入 Settings > Search generative AI(中文界面是“设置 > Google 搜索生成式 AI”)。
- 选 Exclude my site’s links and content from Search generative AI features(中文界面是“从 Google 搜索生成式 AI 功能中排除我的网站链接和内容”)。另外两个选项是包含网站,或者沿用上级资源的设置。
网域资源可以是子域名资源和网址前缀资源的上级。默认情况下,一个资源沿用离它最近、改过这项设置的上级资源;子资源不沿用上级、自己另设时,顶级网域资源的所有者会收到通知。
照谷歌的说法,排除网站之后:
- 指向你网站的链接和你的内容,不再出现在 AI 概览、AI 模式和 Discover 里的生成式 AI 功能中。谷歌预计以后会更新这份功能清单。
- 从你网站抓到的内容不会被用作生成 AI 回答的输入。
- 你从这些功能里得不到流量,也没有展示。
- 别的网站的内容照样会出现在那里,“而且可能和你的内容看起来相似”。
- 一般要几天。谷歌说,设置生效后一到两天内内容会被排除。
它不会改变的:
- 对谷歌搜索的其他部分,它“不用作排名或收录信号”。
- 它不影响 AI 训练,谷歌让你用 Google-Extended 管训练。
- 想让一个页面完全不出现在谷歌搜索里,还是要用
noindex。
怎么检查你自己的页面
1. robots.txt。 打开 https://你的网站/robots.txt,看有没有点名 Googlebot 的组。点了名的组对那个爬虫会取代 * 组,所以你写给所有爬虫的规则可能管不到它。然后看 CDN 的 bot 设置,因为不管 robots.txt 怎么写,CDN 都可能拦掉 Googlebot。
2. meta 标签和响应头。 对一个你想让它出现在 AI 概览里的页面:
curl -sI https://yoursite.com/page/ | grep -i x-robots-tag
curl -s https://yoursite.com/page/ | grep -ioE '<meta[^>]+name="(robots|googlebot)"[^>]*>'
两条命令都没输出,说明页面上没设规则。要找的是 noindex、nosnippet 和 max-snippet。2026 年 10 月 26 日我们在 citeloop.ai 上跑了这两条:指南页什么都不输出,404 页面输出 <meta name="robots" content="noindex">。第二条命令只看得到服务器发出的 HTML,用 JavaScript 加的规则要在下一步里查。
3. Search Console 的网址检查。 它会显示“Googlebot 抓取页面时收到的 HTML”,你能看到谷歌实际拿到的标签。改了规则之后,重新抓取“可能需要几天到几个月不等”;你可以申请重新抓取。
4. Search Console 的设置。 确认 Settings > Search generative AI 没有设成排除,这个资源也没有从上级资源沿用排除。
怎么看你有没有出现
来自 AI 概览和 AI 模式的点击,算在 Search Console 效果报告的“网页”(Web)搜索类型里,和你别的搜索流量混在一起。
从 2026 年 8 月 31 日起,所有网站还有一份生成式 AI 效果报告。它只显示展示次数,不显示点击,可以按页面、国家、日期和设备细分。如果你的网站在这些功能里的展示太少,或者已经退出,可能根本看不到这份报告。
不要做的
谷歌的垃圾内容政策现在覆盖“试图操纵谷歌搜索里的生成式 AI 回答”。用 AI 工具批量造页面、“却不给用户增加价值”,列在规模化内容滥用里。站得住的做法就是上面这些:让 Googlebot 进来,让页面能被收录、能带摘要显示,发值得链接的内容。见 GEO 优化是什么,哪些做法算操纵。
Citeloop 的免费 GEO 体检从外部查第 1、2 步:robots.txt 让不让 Googlebot 抓你的首页和抽样页,这些页面的 robots 或 googlebot meta 标签、X-Robots-Tag 响应头里有没有 noindex、nosnippet 或 max-snippet:0。它看不到你的 Search Console 设置。