搜索技术正在经历一场静默而深刻的变革。当大多数用户仍习惯性地打开Google、输入关键词、逐页翻找答案时，一种全新的理念已悄然兴起：让大语言模型（LLM）直接充当搜索引擎结果页（SERP）。这听起来像异想天开？我们先看一组数据——从Perplexity到DeepSearch、DeepResearch，将搜索引擎结果融入LLM生成过程早已成为行业标配。不少用户坦言，已经很少使用传统搜索引擎，认为翻页搜索既繁琐又落伍。相比之下，聊天式的搜索界面能直接提供高精度、高召回率的答案，这或许正是搜索的未来方向。
反其道而行 模型即搜索
那么，直接拿大模型当搜索页（SERP）会怎样？你可以像使用Google一样探索LLM内部蕴藏的知识，同样可以分页、点击链接，所有熟悉的搜索元素都不少——但这一切完全由AI生成。如果这个概念还不够直观，请看下方的演示。
标题、链接、摘要都由LLM生成。可以直接访问 jina.ai/llm-serp-demo 实际体验。
这个想法靠谱吗？在大牛们纷纷举手准备讨论幻觉问题之前，先来给刚入门的朋友解释一下为什么这个思路并非那么离谱。
首先是海量的知识储备。LLM是在海量网络知识库上训练的，已经“记住”了大量的互联网信息。例如，DeepSeek-R1、GPT-4、Claude-3.7、Gemini-2.0等模型，都接受过来自公共互联网的数万亿token的训练。
其次是可观的数据覆盖率。粗略估计，领先的LLM已经学习了1%到约5%的高质量、公开可访问的网络文本。这个比例乍看不高，但如果以Google的索引作为基准（视作世界上100%的用户可访问数据），那么LLM已经相当于一个小型搜索引擎所能提供的数据量了。
| 搜索引擎 | 数据覆盖率 (以Google为100%) |
|---|---|
| 100% | |
| Bing | 30-50% |
| 百度 | 5-10% |
| Yandex | 3-5% |
| Bra ve Search | <1% |
| LLM (预估值) | 1-5% (高质量数据) |
最后是记忆激活机制。通过巧妙的Prompt Engineering（提示词工程），可以激活LLM的记忆，让它们像搜索引擎一样运行，并生成类似搜索引擎结果页的结果。
诚然，LLM作为SERP也面临挑战，最突出的仍然是幻觉问题——模型可能生成不实或不准确的信息。但模型架构在不断演进，训练数据日益丰富，幻觉问题终将得到缓解。就像在X/Twitter上，大家热衷于用最新发布的LLM生成SVG图像，并亲眼见证生成质量不断提高一样，我们也对LLM理解数字世界的能力抱有同样的期待。
知识截止日期是LLM as SERP的另一个重要局限。理想的搜索引擎应该能提供近乎实时的信息，但由于LLM权重在训练后被冻结，无法提供超出截止日期的准确信息。一般来说，查询越接近这个截止日期，就越容易出现幻觉。较早的信息可能已经被反复引用和修正，因此在训练数据中占据更大比重。（这里假设信息权重分配均匀分布，但实际情况中，突发的大新闻和头条，即便离知识截止时间较近，也可能因反复曝光而在训练语料中获得高权重。）
但这个局限反过来却启发了它的应用场景：可以巧妙地用于回答模型知识范围内的问题。相当于打了个赌：赌用户的问题（或DeepSearch中的过渡问题）落在模型知识截止日期之前。如果是，且模型性能较好（参考上面SVG生成例子），回答就更可能是正确的；如果落在截止时间之后，回答错误的可能性就更高一些。
LLM as SERP 究竟有何用？
在DeepSearch/RAG或任何依赖外部信息的系统中，一个绕不开的问题是：如何判断当前问题能否通过LLM自身知识解答，还是必须借助外部信息？目前常见的做法是采用基于提示词的路由策略，配合类似这样的提示词：
- 对于问候、闲聊或常识性问题，直接回答，无需检索外部信息。
- 对于其他问题，提供基于外部知识验证过的答案，并给出精确引用（exactQuote）和对应网址（url）作为参考文献。然而，这种方法难免有所疏漏：有时不必要地触发搜索，有时又遗漏关键信息需求。特别是一些较新的推理模型，往往要等到生成过程过半，才能判断是否需要外部数据。
那么，如果一开始就不分青红皂白地搜索呢？
我们可以同时调用真实的搜索引擎API和LLM as SERP。这样就避免了前期路由决策的麻烦，把决策推迟到下游。后续环节中，直接比较两者的结果：一边是来自真实搜索的最新数据，一边是LLM训练截止日期内的知识以及可能存在的偏差信息。
LLM-SERP提供的搜索结果，会混合真实知识和虚构信息（即“幻觉”）。由于真实搜索引擎提供的是基于事实的内容，加上LLM提供的半真实半虚构内容，总体而言真实内容的占比会更高，后续的推理步骤就可以自然地偏重真实知识。下一步，LLM可以通过简单的总结来找出结果之间的矛盾和共识，并根据信息源的新鲜度、可靠性归纳真实信息。归纳总结本来就是LLM的优势所在，无需将这些复杂逻辑硬编码到提示词里。
当然，还能借助Jina Reader访问每个搜索结果的网址，通过访问网页来核实信息。这一步验证无论如何都省不掉——千万别只看搜索引擎提供的摘要，不管这个搜索引擎是真是假。
结论
通过使用LLM as SERP，我们将“这是否在模型的知识范围内？”的二元问题转化为更可靠的证据加权过程。这样就避免了在DeepSearch系统中通过前置系统提示词来路由的需求。这个应用场景的假设逻辑链为：
- 大模型的训练语料相当于一个小型高质量搜索引擎。
- 大模型随着不断发展，幻觉问题会减轻。而知识截止和幻觉问题相对独立——一个完美的大模型，回答那些落在知识截止时间之前的问题应该零幻觉；回答落在知识截止时间之后的问题，才会出现幻觉。
- 网上的信息亦真亦假，大模型的信息亦真亦假。
- 在做搜索接地（Search Grounding）时，我们无需过度担心真假问题，只需考虑召回率即可。总结的事情——提升Precision（精准率）——留给大模型去做。