这场深度对谈围绕大模型与Agent技术如何重塑传统搜索领域展开,结合快手、淘天及小红书等头部内容社区的实战经验,为观众系统解析了AI搜索的核心技术难点、解决方案与未来发展路径。核心观点可归纳为以下几点:
- 传统搜索依赖于关键词精确匹配与召回,用户需自行筛选信息;AI搜索则能深度理解用户意图,直接提供问题解决方案,实现从信息获取到问题解决的根本性跨越,显著提升搜索体验与效率。
- AI搜索在智能客服场景中,显著强化了意图识别与任务处理能力;在社区环境中,则与传统搜索形成互补,根据用户需求灵活提供答案或引导浏览,兼顾效率与社区生态平衡。
- 通过Agent与Workflow协同架构,模型被拆解为并行处理单元以降低响应延迟;同时,采用高质量训练数据、数据合成技术及后处理方法,有效缓解了生成式AI常见的“幻觉”问题。
- 需在推理时效性与结果质量之间寻求最佳平衡,持续优化“幻觉”现象;同时,需积极引导用户从关键词搜索习惯向自然语言提问转变,改善用户使用行为。
- AI搜索将深刻改变广告与内容产业的格局,并融合多模态信息。未来发展的重心在于实现毫秒级响应,并引导用户提出高质量问题,从而催生全新的商业模式。
以下是几位嘉宾的对谈节选。
AI搜索 VS 传统搜索:问题驱动与关键词驱动
陈飞先开了个头:我们今天聊的是AI搜索这个领域。两位过去应该也做过不少传统搜索,或者叫电商搜索、社区搜索。从实际感受来看,这两个方向相比于传统搜索,到底有什么本质变化?
陈晓伟觉得,最大的变化在于,AI搜索能更精准地满足用户多样化、个性化的需求。传统搜索本质上围绕关键词展开,从query理解、召回、相关性匹配,到精排和重排里引入用户侧特征,基本还是以关键词为核心进行意图匹配。而在大模型时代,对用户以及长尾query的理解都更深入了,体验和发散性自然更好。
刘喜凯补充了另一种视角:传统搜索和AI搜索不是谁取代谁的关系,本质上是两种模式。传统搜索是关键词驱动,AI搜索更像问题驱动。没人天生爱“搜索”这个动作,大家真正需要的是解决问题或获取信息。传统搜索做的事情是连接——把信息生产者产出的内容和消费者精准对接,你搜关键词,我给你相关结果,然后你自己去看。而AI搜索直接面向“解决问题”,它不只是帮你搜信息、整理信息,而是直接理解你到底想干什么,然后把答案给你。这个过程对用户是绝对提效的,这才是两者最重要的区别。
陈晓伟又跟了一句:补充一下。过去十几年,技术没这么先进的时候,用户只能浓缩关键词来搜索,没法做复杂表达。现在AI搜索正好给了用户这个机会,可以把需求说得更细、更个性化,系统也能召回更符合他心意的结果。时代发展到这儿了,AI搜索的优势自然就凸显出来了。
陈飞总结了一下:两位的意思我大概理解了——不管哪种模式,本质上都在解决问题、满足需求,但解决问题的深度和覆盖的广度,AI搜索确实带来了本质变化。
AI搜索在智能客服、社区的应用
陈飞把话题转向技术细节:晓伟在智能客服,包括淘工厂这块也做了一段时间,效果不错。结合智能后,具体带来了哪些变化?
陈晓伟说,智能客服很多年前就在做,但结合大模型后,演进路径大致能分成三个阶段。1.0阶段,核心是用大模型做离线知识生产——消费者提问题,大模型生成知识,人工审核后再用。2.0阶段,让大模型直接在线面对消费者,实时解决问题。3.0阶段,结合AI Agent,给客服赋予自主规划和执行的能力。
这三个阶段都用到了大语言模型,相比传统智能客服,优势很明显。首先是用户意图理解——以前主要靠意图分类模型,把意图分成几百个类,再给每类配答案,很难覆盖用户成千上万的需求,回应也不够精准。大模型天生就擅长理解复杂意图。其次是上下文感知——客服是对话场景,用户可能要用三五句话才说清诉求,大模型的Transformer架构天然就能处理长文本和多轮对话。第三是反问澄清能力,用户意图不清时,大模型能通过优化Prompt等方式让用户重新描述。RAG能力还能把商品的实时数据、丰富知识引入处理流程,结合检索信息生成高质量答案。最后是工具调用——Agent最大的优势是能规划任务、执行任务。它分析用户问题,明确意图,然后调用不同工具(比如转人工、尺码推荐等)去处理,整个回答过程更流畅,满意度也更高。
陈飞感慨,听起来系统演进到了一个高度,80%的核心需求满足后,已经开始深挖那20%的长尾需求。他又转向刘喜凯:小红书这边,传统的搜索系统和AI搜索是怎么协同运作的?
刘喜凯接过了话题。他觉得两位嘉宾的技术思路大同小异,但小红书有几个特色地方。首先,小红书是个社区,其次才带搜索功能,最后才融合AI搜索。所以做AI搜索不能破坏社区调性。搜索本质是提效,AI搜索嵌入进来,不可避免地要和传统搜索结合。两者的关系不是割裂也不是竞争,而是相互促进。他们做了件很关键的事:设计好触发机制。不是所有用户、所有问题都适合用AI搜索。比如年初刚推AI搜索时,流量涨了很多,但也冒出不少新问题。留存下来的用户需求,其实最有价值。所以他们的经验是:先做好触发,把AI搜索真正能提效的部分给用户,其余部分留一个主动选择入口。
触发方式分两种:被动触发和主动触发。用户点进来,如果需求适合AI直接提升效率,就被动触发;如果用户需要的是双列笔记这种传统体验(比如搜“美甲店”),就不打扰他,只保留一个AI入口,想用可以自己点。核心还是定义好用户的真实需求。刘喜凯把需求分了几个层次:目前做得最好的是简单问答类,比如用户问“雍和宫几点开门”,他需要的就是“八点半”这个答案,AI搜索和笔记可以互补。第二种是复杂决策类,比如购物决策、旅游决策,可以通过站内内容给用户一个决策概览,让他带着关键点去逛笔记。这样既满足需求,又不让社区体验变得割裂。在其他场景,传统搜索仍有优势。所以两者互利共生,在这个基础上去做更好的融合。
Agent与Workflow协同架构的典型案例
陈飞顺着说:要实现刚才那套客服系统,要点相当复杂。在这么复杂的背景下,Agent和Workflow结合有什么典型案例?
陈晓伟说,Agent和Workflow今年特别火。去年年初吴恩达提出的一些框架,和他们的思路比较接近。当时做整个大模型在线化,遇到的最大问题是时延。要处理的商品知识太多(除了标题,还有OCR信息等),全丢进去处理延迟很大,结果还不理想。所以他们建了一个三阶段的链路式Workflow。第一阶段意图识别;第二阶段把大模型拆成几个子模型,比如专门处理OCR知识的模型、专门处理某个领域的模型,每个模型根据消费者的问题并行操作,各自得出结果;第三阶段,一个类似专家的“Summary Model”综合各子模型的结果,判断优先级,甚至自己做综合判断,最终回答消费者。这样就把串行任务变成了并行任务,延迟明显缓解,消费者体验也提升了。
另外,传统大模型自主规划和执行能力还比较弱,所以今年大家搞AI Agent,最大特点就是环境感知、反思、规划和执行。智能客服天然有这种场景。现在他们开始把Agent能力用进来,基于对问题的理解、上下文的理解和反思能力,构建自动执行工具,比如转人工、尺码推荐等。整个流程流畅度更好了。
陈飞又问刘喜凯:围绕小红书的特色,Agent加Workflow有没有实质性案例或进展?
刘喜凯说,从去年开始他们就在做Agent加固和Workflow这类工作。他们对Agent有个判断:到底什么样的Agent才是真正起作用的?仔细琢磨后觉得,Agent直接面向最终结果和用户的真实需求做拟人化操作,在整个链路里承担串联作用,在合适的时间做合适的决策。而Workflow,更倾向于解决专业问题。一个核心观点是:让专业的人干专业的事。不能指望一个Agent把所有事都做好,专业的事还是交给Workflow。
他举了个旅游业务的例子。Agent要做的是模拟用户需求,明确他到底想要什么,然后尽可能多搜集信息,信息可能是并行获取的,也可能涉及多步决策。搜信息时,可以调搜索引擎拿top结果,也可以调Workflow拿更专业的信息。比如最终要产出旅游攻略,就得知道当地有哪些景点、哪些美食——这些子模块可以用Workflow解决,能全局看几千上万篇内容供给,提取用户最需要的东西,甚至以百分比形式把决策链路梳理出来。Agent就负责在获取这些供给后继续串联链路,发现还需要哪些决策点,简单信息调搜索引擎,专业信息调Workflow。这样就让专业的人干专业的事,Agent串联深度搜索和内容收集,Workflow保证信息足够准确全面。
优化幻觉问题的方法分享
陈飞说,智能客服领域还存在一个关键问题——大模型的“幻觉”。从晓伟PPT里也留意到了这个重点。在你们应用场景里,有没有什么好办法来优化或解决幻觉?
陈晓伟坦率地说,幻觉是整个大模型领域普遍存在的问题。首先得承认不可避免——大模型的生成机制决定了它会有些信息获取不到,或者去揣测,或者为了和人类表达方式对齐而输出答案。幻觉的对立面是准确率,核心目标就是降低幻觉、优化准确率。
从优化角度看,有几个关键点。第一,高质量数据。直接把通用大模型用到服务场景,准确率和用户体验都很差。前期需要积累大量智能客服相关的QA数据,做人工标注,清洗样本,覆盖各行各业、各类意图。数据量还不够,可以基于更强的大模型做数据合成,但合成也可能产生幻觉,所以后面可以加一个幻觉检测分类模型,评估生成的QA数据是否可靠。第二,后处理训练。包括偏好优化对齐、微调等,核心目的就是把幻觉率降下来,提升准确率,比如DMLoRA、MPPO这些公开论文中的方法。第三,RAG。不管是对直播知识、OCR商品详情页知识的检索,还是答案生成,RAG都起着重要作用。核心大概就是这三方面。
AI搜索面临的挑战、未来的发展形态
陈飞问:近两年内,AI搜索这个领域最大的机遇和挑战分别是什么?甚至可以畅想一下,下一代搜索形态会什么样?
陈晓伟先说了几点。第一,多模态数据处理和理解能力很重要。不论电商还是其他场景,对消费者的理解肯定不是单一模态能实现的——人本身就能同时处理文字、音频、视频,大模型和AI搜索也需要往这个方向发展,才能让体验提升一大截。第二,挑战在于设计更高效的推理框架。大模型推理结果好但可能慢,小模型快但结果可能没那么好,中间怎么平衡?可以用蒸馏、剪枝等技术进一步优化,但不管怎样,都需要提升在线推理能力,做好平衡。
说到商业机遇,他认为创作者会有更多机会。电商领域,长尾商品的机会可能被放大。以前的数据驱动方式主要靠点击成交反馈,形成了信息茧房,现在这个情况可能被打破。商家有动力优化商品内容,长尾商品有了更多曝光和成交机会。另外还有一个大挑战也是机遇:用户在电商场景已经被“驯化”了十几年,习惯了现有的搜索方式。未来要改变产品形态,让用户从机械搜索转向用更自然、精准的语言表达诉求,产品形态该怎么设计?怎么让用户慢慢接受并喜欢上新的搜索方式?这是个大挑战,也是大机遇。
刘喜凯顺着这个话题接过去。他觉得未来一两年,AI搜索最重要的有两件事:正确引导和足够快。快是核心——AI搜索本质是提效,如何在足够快的前提下给用户准确答案,至关重要。提升推理效率可能成为决定性的优势,快0.5秒甚至300毫秒,可能就是胜负手。第二点是引导提问。用户从老场景切换到新场景需要引导。各家都把搜索框设计成可延展的,就是在告诉用户:你不只能搜关键词。但除了产品形态,还有一个问题——传统搜索引擎模式持续了几十年,大家都习惯了。怎么激发用户,让他们知道可以提问、能提出好问题,同时让用户知道AI搜索能承接好问题?这是未来一两年最重要的一件事。说得抽象一点,如果未来五六年想把AI搜索做好,这件事是第一位的。
从商业角度,长尾博主或类目会有发展,但他个人觉得,AI搜索已经确定是一个新入口,大家已经验证了它的价值。有价值就意味着新入口的出现。如果继续发展,很可能重塑很多行业。比如最简单的产业GPT,目前营收方式就两种,那它能不能做广告营收?要是做广告,产品可能就变味儿了。很多人做广告的人也会思考,这种情况下怎么更好地做广告。整个商业化逻辑会变化,一定会诞生很多新的小场景,甚至一些新公司在这个新入口下做新的商业化尝试。以小宇宙为例,除了提升内容和博主质量,还有一层意义——更精准流量的精准投放。以前搜内容要大量信息,现在能精准把你要的东西给你,而且可能不是一段文本,而是一篇笔记直接推送。整个商业逻辑也会变化。所以这是未来一两年从商业角度很重要的事情。
陈飞最后总结:从需求角度来说,搜索模式正从传统关键词搜索转变为自然语言搜索,用日常语言表达需求。信息含量和密度增加后,自然能挖掘出新需求。就像喜凯说的,整个产品结构很可能发生很大变化,催生很多新创新和新企业。
(原文中的“扫码了解会议详情”等推广信息已被删除。后续活动推荐内容,因与当前对谈主题无直接关联,亦已略去。)
