过去一年，大模型领域的热点主要聚焦于两大方向：一是LLM自身，几乎每月都在迭代，大家关注的重点集中在效果与成本；二是AI Agent，业界开始尝试用它解决各行各业的实际应用难题，核心关注点转向了场景与竞争力。今天，我们来深入探讨AI Agent的发展趋势与落地实践。

AI Agent 趋势洞察

先分享几个核心判断：AI Agent正从单智能体向多智能体协同加速演进；以数据为核心的智能体平台将加速成型；构建高质量数据并具备持续优化能力，将是智能体成功的关键要素。

什么是智能体？

简单来说，智能体是一种能够感知环境、自主决策并执行动作的智能程序。它能够通过独立思考和调用各类工具，逐步完成预设的目标任务。

为什么要构建智能体？

因为大模型本身更多是模拟人脑的推理过程，但要真正完成一个具体的现实任务，还需要像真人一样，具备感知系统（眼耳鼻舌身）、记忆和经验辅助决策，最后还要能付诸行动。光会“想”远远不够。

智能体的发展趋势

过去一年，行业更多还在探索各种固定、单任务的智能体，解决一个个具体的点状问题。但今年开始，风向已经转变，业界开始搭建智能体平台和范式，重点攻克多Agent协同、任务编排以及数据质量体系的优化。最终理想状态，自然是诞生一个超级智能体，一站式解决所有问题——那才是真正的通用人工智能。

不过，考虑到通用性与专业性之间的平衡，以及成本与效果的权衡，AGI的到来仍需时日。因此，我们判断未来几年的主要方向将是：以数据为中心的多智能体协同模式。

AI Agent 竞争力构建指南

在构建AI Agent的过程中，首要思考的问题是：智能体的核心竞争力究竟是什么？

答案是：模型、数据、场景，这三大要素构成了AI产品竞争力的铁三角。

• 模型：公域数据已被模型挖掘得差不多了，下一步的比拼重点在于成本与性能（DeepSeek这类项目正在加速推动这一进程）。
• 数据：私域数据才是每家公司的真正护城河。需要充分挖掘自有私有数据，做好数据沉淀与持续优化，释放最大客户价值。只要生产资源充足，有底层模型的生产力加持，就能持续演进。
• 场景：找到自己领域内高频、结构化、风险可控的场景，逐步延伸场景的专业性，切实帮助客户提升效率。例如在DevOps领域，我们推出的智能编码助手“灵码”，就是从代码辅助这一高频场景切入，反过来通过灵码提升整个团队构建智能体的效率。

AI Agent 数据飞轮构建

大家都知道数据是核心竞争力中的核心，那么问题来了：如何打造出自己领域的高质量数据？

首先，每个应用都能从客户那里收集和沉淀数据，这部分数据是个性化服务与专业性的基础。其次，每个领域都有自身的专业数据和标准操作流程（SOP），这些可以结合客户数据，高效解决客户问题。

当智能体架构完成并准备发布给客户时，必须提前构建好数据评测集，这样才能对服务等级协议（SLA）的确定性要求提供保障。上线后，还需要持续收集客户反馈数据，通过分析这些反馈，反哺和优化我们的行业数据、工具集和应用场景。

简单来说，就是通过左边的评估数据体系，持续优化右边私域的高质量数据体系。最终实现客户诉求与数据的高质量匹配，让这个飞轮越转越快，企业的竞争力也随之持续提升。

AI Agent：构建以数据为中心的智能体平台

上面提到的四类数据（客户数据、专业数据、评测数据、反馈数据），需要什么样的系统来承载和流转呢？

答案就是：构建一个以数据为中心的智能体平台。

• 搭建企业知识库，通过平台工具将数据转换为Markdown格式，然后推送到向量数据库，构建领域数据；再通过工具集帮助Agent获取结构化的客户数据。
• 构建数据评测集与自动化的智能数据评估体系。
• 在前台搭建客户反馈与跟踪体系。
• 通过多Agent架构，实现数据与任务的自动流转。

AI Agent：全局技术架构详解

那么多Agent架构具体如何落地？阿里巴巴在去年的云栖大会上推出了Spring-AI-Alibaba框架及配套生态工具，专门帮助企业构建智能体。

• 通过Higress一键集成系统数据和工具集，获取私域客户数据。
• 通过Otel观测体系完成全链路数据质量监控。
• 通过Nacos动态更新提示词数据，可实时查看优化效果。
• 通过Apache RocketMQ动态更新RAG（检索增强生成）数据，实现实时反馈与数据优化。

AI Agent 实践案例分享

上文介绍了构建以数据为中心的智能体的重大意义与趋势，下面重点分享阿里巴巴在落地AI Agent时的一些最佳实践，希望能给大家带来参考。

实践一：Higress——一键集成多种数据源

Higress是阿里开源的AI原生API网关，拥有业内最全的AI生态插件，能帮助开发者一键集成多种数据源。

• 支持对接多种模型：Higress可一键集成多种模型，统一协议、统一权限、统一容灾。
• 通过搜索工具获取领域数据，通过MCP Server获取客户数据，整合推理所需的完整信息。
• 统一数据格式转换，通过缓存和向量检索构建长短期记忆数据，降低LLM调用成本，提升性能与吞吐量。
• 集成可观测体系，进行数据合规与数据质量评估。

实践二：Otel——全链路数据质量追踪

基于Otel观测体系，可以自动分析推理过程中的效果与召回效果。若效果不理想，可全链路追踪客户整个检索与推理过程，分析是知识库的问题、RAG的问题，还是工具集的问题，大大提升了数据优化效率。

实践三：Nacos——动态更新提示词数据

Agent中有大量提示词和算法参数，通过Nacos可实现动态实时推送，及时获得优化效果。若担心上线后修改提示词效果不符合预期，还可通过灰度配置逐步观测优化效果。

实践四：Apache RocketMQ——提升RAG数据实时性

系统数据和客户数据都在不断更新，通过RocketMQ可将变更事件与数据实时同步，确保每次推理都能获取最新、最及时的数据与效果。

实践五：AI行业专家解决方案

通过上述技术体系，我们构建了开源AI专家，以及阿里云云原生API网关和微服务引擎MSE两个产品的智能诊断体系，目前能解决95%以上的咨询问题和85%以上的异常问题。

具体实现上：通过Higress屏蔽底层多个模型和工具系统，构建数据安全链路与账号安全体系；通过Spring-AI-Alibaba构建Agent和编排，提供Chat模式解决咨询问题，Composer模式解决客户的异常问题。

实践六：DeepSeek联网搜索+数据安全解决方案

DeepSeek很火，用过的同学都知道，能联网的DeepSeek才是真正的满血版。目前大量客户通过Higress一键集成DeepSeek和联网能力，集成夸克搜索数据，体验最佳效果。

同时，通过Higress可在模型访问链路上实现全链路TLS，保护链路数据安全；通过内容安全解决数据合规问题；通过API-Key集中管理提高并发度，对Agent提供内部API-Key，防止泄漏风险，还能根据内部API-Key做流量和额度控制，防止代码bug导致巨大的token调用和费用支出。