新闻收录卡在 12% 上不去?聊聊我踩过的坑和那两个真正管用的开关

🔑 关键词:新闻收录,百度资讯收录,news sitemap,收录率,时效性推送

📖 摘要:一个日更 40 条的地方资讯站,两个月把百度索引量从 3000 做到 4 万 7,但资讯收录率死活卡在 55%。这篇文章讲清楚新闻收录和普通 SEO 收录到底差在哪、Google 和百度是两套什么逻辑、以及我浪费过配额的那几个坑。

新闻收录卡在 12% 上不去?聊聊我踩过的坑和那两个真正管用的开关

图片

前两天有个做地方站的朋友来问我,说他一天更 30 条,百度收录率卡在 12% 上不去,问是不是得去买个新闻源。我让他把后台截图发过来,看了一眼就笑了——所有稿子都堆在 /article/ 这个路径下面,列表页三天没更新,sitemap 是主题自带的那个插件自动生成的,里面混着标签页、作者页、分页和几十个 ?from=rss 的重复地址。这种情况你推一万条 URL 也是给爬虫添堵,跟新闻源一点关系都没有。

先说个我自己的数据,这样后面聊起来有点锚点。2021 年秋天我手里有个日更 40 条上下的地方资讯站,接手的时候百度索引量 3000 出头,两个月后做到 4 万 7。但这里头真正能进百度资讯(就是搜索结果那个「资讯」tab、还有百度 App 首页那些信息流)的比例,一直稳定在 55% 左右,怎么都上不去。我试过加大更新量、试过买外链、试过换模板,最后发现决定这个数字的压根不是内容写得好不好,是两件特别小的事。这篇就按我自己踩过的顺序说。

先破个迷信:新闻收录和 SEO 收录是两套索引,别混着聊

大部分人把「收录」当成一个东西,其实搜索引擎内部至少有两套库在跑。一套是网页库,爬虫抓到、解析、入库、参与排序,周期从天级到周级不等,你写一篇行业分析、一篇产品测评,进的是这个库。另一套是新闻(资讯)垂直库,判断维度完全不同——它首先判断「这是不是一个新闻事件」,其次判断「这条内容属于哪个已经被识别出来的事件簇」。

这个差别导致了一个很反直觉的现象:一篇格式烂得要死、但是抢在事件发生 10 分钟内发出去的通稿,能进资讯库;一篇打磨了两天、结构完整、配图精美的深度分析,进不去,因为它没有被归到任何一个事件簇里。我做过一个笨测试,同一个站点、内容质量差不多的两批稿子,放在 /news/ 路径下的那批 24 小时内进资讯库的比例是 55% 上下,放在 /blog/ 下面那批是 0。别急着说这是路径决定的,更可能的原因是 /news/ 那个栏目的列表页更新频率高、有独立的 sitemap、而且历史上有过被资讯库抓取的记录,爬虫对这个目录的预期就是「这里是新闻」。

图片

所以第一件事是:先确认你想要的到底是哪个库的收录。如果你没有新闻资质,硬磕「百度新闻收录」是浪费时间,你能控制的是网页库的收录和排序。这话有点扫兴,但是真的。

时效性这块,差 30 分钟就是两种命

新闻收录里唯一一个接近「一票否决」的因子就是时间。我自己反复测过:发布后 15 分钟内通过接口推送的稿子,第二天在资讯里能搜到的比例,明显高于发布 2 小时后再推的。注意这不等于「越快越好」,而是「越快进入抓取队列越好」,你晚了,事件簇已经定型,算法不太愿意再往里塞新源。

具体怎么落地?如果你用的是自建 CMS,在发布动作的钩子里直接调推送接口,别走人工后台。百度搜索资源平台的普通收录 API 大概长这样:http://data.zz.baidu.com/urls?site=你的域名&token=你的token,POST 提交,一次最多 1000 条 URL 是接口上限,但你账号的实际配额可能只有几十条甚至个位数——新站每天 10 条配额是常态,别问我怎么知道的。快速收录是单独的配额,一般个位数到几十条一天,这条命根子千万别浪费在列表页和首页上,全留给当天的首发稿。

图片

Google 那边是另一套:news sitemap。单文件最多 1000 条 URL,而且只应该放最近 48 小时发布的文章,超过两天的 URL 留在里面会被判为不合规。我见过有人把一个 8000 条的 sitemap 挂着当 news sitemap 提交,结果整份文件被忽略,还不如不提交。另外 Google Search Console 提交之后要看的是「上次读取时间」,如果它三天才来读一次,说明你这站点的新闻属性没被认,光改 sitemap 没用。

百度是配额制,Google 是政策制,逻辑根本不是一回事

这块我觉得被讲混得最厉害。Google News 的机制这几年改过两轮:2019 年底关掉了 Publisher Center,2021 年又重新开放,现在大部分符合内容政策的站点不用手动申请,自动就能被抓,你能不能进去主要看内容政策、站点结构、作者和编辑信息这些软性指标。它更像一个「门槛 + 审核」,过了门槛就自由流动。

百度这边更接近「资质 + 配额」的分发制。没有相关资质的站点,进不了百度新闻和资讯的主要入口,只能在搜索结果的资讯混排里蹭一蹭。所以你会看到一个挺怪的现象:有些站内容平平但稳定天级收录,有些站内容明显更好却只在网页库里躺着。差的不是内容,是池子。

想清楚这一点之后,很多焦虑就没了。你能做的是「在你能进的那个池子里尽量靠前」,而不是「我一定要挤进那个进不去的池子」。前者的投入产出比是后者的十倍。

图片

我实打实浪费过的几个坑

第一个坑:把列表页和首页塞进快速收录。 有一阵子我图省事,把栏目列表页批量丢进快速收录,想着让爬虫多来几趟。结果配额全烧在这上面,首页和列表页被反复抓,正文反而进不了队。后来改成只推正文详情页,当天收录率立刻有变化。

第二个坑:robots 里误屏蔽。 有一次改 robots.txt,Disallow: /*? 这条把移动端带参数的地址全挡了,移动索引直接掉了一大半,过了两周才发现。改 robots 之前一定用搜索引擎自带的测试工具跑一遍。

第三个坑:同一篇稿子多个地址。 带 UTM 的、带分页的、带 ?from=index 的,一篇通稿能衍生出五六个 URL。要么在 robots 里统一挡掉参数,要么老老实实加 canonical。这个问题不解决,你推的每一份配额都在打折。

第四个坑,也是我最不愿意承认的:首发权重。 同一篇通稿多家一起发,先被抓住的那家会被标记成来源,后面几分在资讯流里直接被折叠成一个「等 N 家媒体」。所以在这个赛道里,抢首发确实比写好更重要一点。这话不好听,但如果你做的是资讯聚合类的活,就得认。

图片

给你一份可以照着做的清单

站点层面:国内做的话 ICP 备案、HTTPS、移动端适配这三样是基础;新闻类内容单独开一个 /news/ 路径,别和博客混在一起;列表页保证每天有更新,哪怕只有几条。

sitemap 层面:news sitemap 单独生成,只放 48 小时内的文章,单文件不超过 1000 条,超过就分片;普通 sitemap 和它分开提交,别混。

推送层面:CMS 发布钩子直接调 API,控制在一个时间窗口内;快速收录配额只给首发正文;推送之后去资源平台看抓取频次有没有变化,没变化说明站点权重或者配额卡住了,不是推送姿势的问题。

图片

结构层面:Article 结构化数据、明确的发布时间、作者和编辑信息,这些在 Google 那边是加分项,在百度这边主要是给爬虫判断内容类型用的。

监控层面:国内的看搜索资源平台的索引量趋势和抓取频次,海外的看 Search Console 的网页报告,重点看「已发现但未编入索引」这一栏,数量一直涨的话,通常是内容质量或者站点结构出了问题,不是推送不够勤。

最后说个可能不太受待见的观点

新闻收录的天花板不是技术决定的,是平台分配决定的。你把推送时机、sitemap、canonical、结构化数据这些做到 90 分,已经很够用了,剩下的那 10 分大概率不在你手里。天天盯着收录率那个数字焦虑,不如先搞清楚自己站在哪个池子里——是网页库还是资讯库,是自动抓取还是配额制,是有资质还是没资质。

我那个朋友最后也没买新闻源,就是把 /article/ 拆出来一个 /news/,sitemap 清了清,推送改到发布钩子里,三周后收录率从 12% 到了 40% 出头。不算高,但那是他自己的池子里的 40%。

🏷️ 标签: