本次查询：Cross-Encoder
中文解释：交叉编码器
常见场景：信息检索与自然语言处理中的高精度匹配任务
一句话解释
Cross-Encoder是一种深度学习模型，它同时接收两段文本作为输入，通过内部的交叉注意力机制让它们充分交互，最终直接输出一个相关性分数——这个分数越高，说明两段文本越相关。
为什么会被关注
在搜索、问答、RAG（检索增强生成）等应用中，准确判断文本相关性是核心痛点。Cross-Encoder凭借其极高的匹配精度，成为重排序阶段的首选方案。尽管它计算速度慢于Bi-Encoder，但能显著提升最终结果的质量，因此被广泛应用在实际系统中。
越来越多的研究者和工程师发现，仅靠粗召回很难保证高精度，而Cross-Encoder恰好弥补了最后一公里的精确匹配需求。
核心逻辑
Cross-Encoder将查询（如用户问题）和文档（如候选段落）拼接成一个长序列，中间用特殊分隔符连接，然后送入Transformer模型。模型的每一层都让两个文本的token互相“看到”对方的上下文，这就是交叉注意力。
最终，模型通过一个分类层（通常是全连接加softmax）输出一个标量分数，表示两者相关的程度。整个流程端到端训练，没有中间向量缓存，因此每次推理都需要重新计算整个序列。
常见场景
最典型的场景是搜索系统的重排序阶段：先用Bi-Encoder或BM25从海量文档中快速召回几百条候选，再用Cross-Encoder对它们逐一打分，按分数高低排序。这种两阶段策略兼顾了速度与精度。
在问答系统中，用于判断用户问题与候选答案的匹配程度；在语义文本相似度任务（如STS-B）中直接输出相似度分数；在RAG流水线中，用于筛选最相关的文档片段供大模型生成答案。
容易混淆的点
Cross-Encoder容易与Bi-Encoder（双塔模型）混淆。两者核心区别是：Bi-Encoder分别将查询和文档编码成独立向量，然后通过余弦相似度等方式计算相似度，可以预计算文档向量、推理速度快；Cross-Encoder则将两者拼接后一起编码，精度更高但推理慢。
另一个混淆点是“交叉”与“交互”。Cross-Encoder是一种交互式模型，但不是唯一形式——有些模型也用注意力但结构不同。此外，Cross-Encoder并非传统关键词匹配（如BM25），它基于深度语义而非词频统计，能理解同义替换和上下文含义。