生成式 AI 在提升企业生产力效率方面展现出巨大潜力,这使得企业级生成式 AI 应用场景在过去两年成为落地速度最快的领域之一。然而,问题随之而来:当企业初步尝鲜后,如何确保员工持续使用这项技术,而不是将其束之高阁?这已成为所有云计算巨头——尤其是那些在 AI 基础设施市场激烈竞争的玩家——必须认真思考的核心命题。
要回答这个问题,首先需要厘清:当前企业在应用生成式 AI 时,究竟面临哪些关键挑战?在这一话题上,亚马逊云科技无疑是最具发言权的企业之一。在刚刚落幕的 re:Invent 大会上,亚马逊云科技一口气推出了数十款生成式 AI 新产品,覆盖从底层 AI 算力芯片、模型训练与基础模型,到中间层智能体开发,再到顶层 AI 应用的完整技术栈,几乎全线出击。这些新产品并非技术团队闭门造车,而是源于过去一年中数万客户提出的真实需求。通过反馈,亚马逊云科技精准识别出客户面临的五大难题,并按重要性排序如下:
多样化的模型选择权
更低的部署成本
训练更敏捷、更专业的小模型
消除幻觉
解决更复杂的任务
接下来,我们将逐一解析这五大需求为何成为企业引入生成式 AI 的关键瓶颈,并梳理亚马逊云科技在本届大会上发布的生成式 AI 新品,看它们如何应对这些实际问题。
01 选择权大于一切
在 keynote 环节,无论是亚马逊云科技 CEO 马特·加曼,还是 AWS 传奇 CEO 安迪·贾西,都反复强调「丰富的选择(Choice Matters)」对客户的重要性。这一点在亚马逊云科技的大模型策略上体现得尤为突出。与微软云和谷歌云更依赖自家模型或少数顶尖合作伙伴不同,亚马逊云科技虽然自研了 Titan 和 Nova 系列大模型,也重金投资了 Anthropic,但其整体策略更偏向于为开发者打造一个多样化的模型选择平台——让开发者自由挑选,而不是被绑定在单一生态中。

马特·加曼指出,丰富的大模型选择是 Amazon Bedrock 吸引客户的关键因素之一。他举例说明:「并非所有客户都想用单一模型。有些人偏好开源模型,比如 Llama 或 Mistral,这样可以自行微调;有些应用需要图像处理模型,比如 Stability 或 Titan 提供的;还有很多人钟爱最新的 Anthropic 模型,因为它在通用智能和推理能力上被认为是最优的。」
作为亚马逊云科技最重要的「客户」,亚马逊内部也深有体会。过去在内部项目中,开发人员使用的模型多样性惊人。原本以为大家都会选 Claude 这样的顶尖模型——确实有不少人这么选——但同时也有人用 Llama、Mistral,甚至自己开发的模型。这并不奇怪。就像数据库领域争论了十年,大家依然会同时使用各种关系型数据库和非关系型数据库。
今年 re:Invent 上,亚马逊云科技进一步扩展了大模型供应库。一方面,自研模型 Amazon Nova 正式发布,同时宣布与擅长视频生成的 Luma AI 以及擅长代码生成的 poolside 等公司合作,持续丰富模型来源。另一方面,推出了 Amazon Bedrock Marketplace,里面汇集了超过 100 个来自全球供应商的基础模型。用户可以在 Bedrock 上直接选择、测试这些新模型,并配合知识库、微调(FT)、护栏(Guardrails)等功能,快速部署到 AI 应用中。
02 更低的部署成本
计算成本是企业在部署生成式 AI 应用时难以回避的挑战。虽然当前很少听到传统行业的公司砸数千万美元去预训练基础模型,但当应用达到一定规模,推理成本就成为必须精打细算的投入。
今年早些时候,亚马逊云科技剧透了第二代自研 AI 计算芯片 Trainium 2。在 re:Invent 上,搭载该芯片的 Amazon EC2 Trn2 实例正式推出——相比 GPU 实例,性价比提升 30%-40%。每个实例包含 16 个 Trainium 2 芯片,算力可达 20.8 PFlops;而包含 4 组实例(即 64 个芯片)的超级服务器(UltraService),浮点运算能力最高能到 84.2 PFlops。更重要的是,Trn2 芯片的单位算力成本更低。

要知道,英伟达 GPU 在全球生成式 AI 计算市场占据 95% 以上的份额。当几乎所有生成式 AI 应用都基于同一种芯片时,行业对更高性价比的渴望就格外强烈——这正是 Trainium 2 让人兴奋的原因。此外,亚马逊云科技还剧透了下一代芯片 Trainium 3,采用 3nm 制程,算力是 Trainium 2 的两倍,单位能效提升 40%。
除了硬件层面的性价比优化,亚马逊云科技也在工具和架构层面下功夫。比如发布的 Prompt Caching 技术,能在大语言模型中存储和复用提示词——当用户提出类似问题时,Agent 可以直接调用之前的结果,从而减少计算开销、降低延迟和成本。这项技术特别适合那些频繁使用相同提示的应用场景;据称,Prompt Caching 可以节省近 90% 的推理成本。
03 训练更敏捷、更专业的小模型
生成式 AI 虽然迭代极快,但对企业来说,想在成本、功能上找到完全匹配自己用例的模型,依然很难。开发者想要的,是一个延迟低、成本低、又能满足专业要求的模型。可现实往往是:找到专业知识匹配度高的模型,但它太贵、太慢;找到速度快、成本低的,能力又不够用。
解决这个问题的一种方法是模型蒸馏。简单来说,就是拿一个特定的问题集去问能力更强的大型模型(比如 Llama 405B),然后把那些数据和答案一起用来训练一个较小的模型(比如 Llama 8B),让它成为某个特定领域的专家。这样得到的小模型规模更小、运行更快,而且知道如何准确回答特定问题。效果不错,但需要机器学习专家来手动操作——管理数据工作流、处理训练数据、调整参数、考虑权重,挑战不小。亚马逊云科技希望让这个过程变得更简单。

因此,Amazon Bedrock 中推出了模型蒸馏功能。用户只需要把应用示例发给 Bedrock,剩下的都由平台完成。经过蒸馏,新模型运行速度能提升 500%,成本降低 75%。当然,拿到一个好模型只是第一步;最终目的是让 AI 应用输出有价值的结果。这需要让企业过去积累的数据发挥作用,才能真正构建差异化优势。
Amazon Bedrock 之前已经上线了 RAG(检索增强生成)功能,这次又发布了更进一步的 GraphRAG(图检索增强生成)。但实现这一切的前提是做好数据治理——数据质量和管理完善了,才能发挥最佳效果。为此,亚马逊云科技今年推出了 Amazon S3 Tables 等数据管理工具,以及用于元数据查找的 Amazon S3 MetaData。同时加强了数据系统与 Bedrock、SageMaker 等开发平台的整合,开发者只需简单拖放,就能轻松实现 RAG 等功能。
04 无幻觉,1% 都不行
第四个挑战是老生常谈的幻觉问题。说实话,当前模型的表现已经相当不错,但离完美还有距离。当你在前年或去年做概念验证时,90% 的准确率或许能接受;可一旦涉及生产应用,尤其是关键任务,这样的准确率就远远不够了。
举个例子:你早上走进浴室,发现漏水了,地上全是水。然后你去保险网站查询这是否在赔付范围内。作为保险公司,客户问这种问题,你必须给出百分之百准确的回答——绝不能出错。所以亚马逊云科技专门组了一队专业人员,研究有没有技术能解决这个问题。他们盯上了一种叫自动推理(Automated Reasoning)的技术。
自动推理本质上是一种能从数学角度证明某件事是否正确的 AI 形式。它常被用来验证系统是否按既定要求运行——尤其当系统覆盖面大到无法人工逐一审查时,并且有关于系统运行方式的知识库,自动推理就能派上大用场。

亚马逊云科技宣布推出自动推理检查功能(Automated Reasoning checks),它能防止因模型幻觉导致的事实性错误。当你启用这些功能时,Amazon Bedrock 会对模型做出的事实陈述进行准确性检查——基于可靠的数学验证,并会展示得出结论的依据。比如一家保险公司,上传所有保单后,Bedrock 内部会自动生成规则,经过大约 20-30 分钟的迭代调整,真正搞清楚保单的运作机制。回到浴室漏水的例子:如果模型对答案不确定,系统会返回相关情况,给出提示建议,或者告诉客户如何补充信息。只有当自动推理确认答案无误后,才会把结果发给客户——这样就能百分之百保证准确。这是在其他地方无法获取的功能,对关键任务应用来说,意义重大。
05 能解决复杂任务
企业部署生成式 AI 的最后一道门槛,在于能否开发出解决复杂任务的应用。过去几个月,这已成为全行业的共识。智能体(Agent)的出现,让企业用户可以更便捷地构建 AI 应用——这就是亚马逊云科技推出 Amazon Bedrock Agents 的原因。
通过 Bedrock,用户只需用自然语言描述想要智能体完成的任务,它就能快速构建出来。然后智能体就可以处理销售订单、编制财务报告、分析客户留存等情况。目前处理简单任务(单个独立任务)效果不错,客户也确实从中受益。但反馈显示,客户想要更多——他们希望能跨多个智能体执行复杂任务,比如涉及数百个智能体并行操作。在现有条件下,协调这么多智能体几乎不可能。
举个例子:假设你经营一家全球咖啡连锁店,想创建一些智能体来帮助分析开设新店的风险。你可能会创建十几个智能体——一个分析全球经济因素,一个查看市场动态,一个为独立门店做财务预测……每个智能体针对一个地点返回信息。当它们返回后,你需要整合起来,分析相互关系,再对比不同地区。单个地点还算可控,但如果你要考察数百个潜在选址,分布在不同的地理区域呢?你会发现这些智能体可能不是独立工作的——智能体 A 掌握的信息或许对智能体 B 有价值,你希望它们能共享信息。可一旦涉及数百个智能体交互、返回数据、共享信息、再返回操作,整个管理系统的复杂度会急剧上升,完全失控。

但实现这样的功能,商业价值巨大。所以亚马逊云科技推出了多智能体协作功能(multi-agent collaboration),能处理更复杂的工作流。还是前面那个例子:经营者可以创建一系列专为特定任务设计的智能体,再创建一个监督智能体,负责管理访问权限、决定任务按顺序还是并行执行,并协调返回的信息,确保智能体间有效协作。金融数据分析公司穆迪评级已经与亚马逊云科技合作试用,开发了一个生成综合财务风险报告的应用程序。过去完成这项工作需要一名员工大约一周时间,而用了多智能体协作之后,只需一小时——效率提升惊人。
06 结语
今年的 re:Invent 让人印象深刻。不少连续参加多届的企业客户、技术人员和工程师都用了「震撼」来形容。甚至连已经离开亚马逊云科技数年的安迪·贾西——曾带领公司走出困境的关键人物——也时隔多年再次登台。前三天的活动里,亚马逊云科技发布了数十个生成式 AI 和云基础设施的新产品。单独拿一两项出来,往往就足以成为一家云服务公司大型发布会的核心内容。
之所以在一场发布会上集中推出这么多新功能,原因有两个:一方面,当前 AI 应用企业面临的问题异常复杂,需要多维度、多场景的解决方案;另一方面,亚马逊云科技长期坚持的「客户至尚」文化,驱动它以全面的创新满足客户需求。这种高密度发布也从侧面展现了亚马逊云科技在生成式 AI 领域的巨大投入和坚定战略意图。
即将到来的 2025 年,大概率会成为生成式 AI 在企业级市场大规模部署的关键节点。从今年 re:Invent 发布的众多应用和新功能来看,经过几年的尝试与探索,生成式 AI 已经迈出了从早期试验阶段向产业落地转变的重要一步。这一阶段不再只关注技术可行性,而是开始聚焦于如何解决企业具体的业务需求和实际问题。这些问题正被快速解决,意味着生成式 AI 不仅作为生产力工具的潜力得到了验证,更逐渐具备了成为核心生产力的能力。换句话说,生成式 AI 已经逼近「真正可用」的临界点——从概念验证走向大规模应用的边缘。
