新华三发布大模型推理加速方案，破解显存焦虑
据多家权威研究机构的最新研判，到2026年，核心存储供应链的结构性短缺已成为行业面临的严峻现实，供需缺口持续扩大，并且很可能延续至2027年。这已不仅仅是存储部件的单一问题。当前，生成式AI正从技术尝鲜阶段全面走向规模化落地，大模型技术的应用场景正从训练为主，转向训推并重和轻量推理。PD分离、KVCache等技术的规模化应用在持续提升推理效率的同时，也对高带宽、大容量的GPU内存提出了极为苛刻的要求。显存资源紧张带来的行业焦虑正在持续蔓延。
叠加存储部件供应短缺与价格跳升的双重压力，AI产业发展正面临严峻的资源与成本挑战。单纯依靠“力大砖飞”式的硬件堆叠，不仅会大幅推高单位运算成本，更会受制于供应链产能瓶颈，难以为继，严重影响到产业生态的健康与良性发展。
破局困境·架构解密：新华三打造智算推理新引擎
当前，大模型推理面临的发展困境已不容回避：模型对算力与显存的需求呈指数级增长，然而单纯堆叠GPU硬件所带来的成本与能效压力，正严重制约着技术的可持续发展。尤其在处理长文本、多轮对话等场景时，模型为保存上下文而生成的KV Cache会急剧膨胀，不仅大量占用宝贵的GPU显存，更导致大量重复计算，成为制约响应速度、推高运营成本的瓶颈。
直面成本与效率的核心痛点，紫光股份旗下新华三集团打造出效能兼备的大模型推理场景加速方案。通过其自研的定制化ASIC芯片提供硬件级加速，将KV Cache从GPU内存卸载到指定的存储节点，构建专门为AI设计的“下一代内存层”，以减轻GPU显存的压力，从而在系统层面实现了存算资源的新平衡。新华三凭借自身强大的硬件集成与全栈优化能力，驱动业内前沿科技与自研AI服务器的创新耦合，经过深度的测试调优最终形成了大模型推理加速的最佳实践，为业界提供了一条性能与成本兼顾的全新推理范式。
从部署形态来看，本方案既支持单机形态部署，直接提高单台AI服务器的推理性能；也支持通过外置存储节点的方式同时对接多台AI服务器，提高集群的整体推理性能。
实测验证·性能跃升：核心指标翻倍，推升深度推理新速度
为深入探究本方案中KV Cache卸载对推理性能的提升，新华三基于自研高性能AI服务器进行基准测试，重点关注在同一机型上，运行DeepSeek-V3-671B模型时，采用标准推理服务和采用KV Cache卸载加速方案的两种模式下的性能差异。分别构建10K和30K的文本输入，以模拟实际应用场景中的多轮对话推理过程，确保测试结果具有实际参考价值。经多轮验证，采用KV Cache卸载加速方案的推理核心指标显著优化：
● 并发用户数提升200%：在相同TPOT限制下，同样的算力资源可支持的并发数显著提升，在保障用户体验的同时，能服务更多的用户。
● 推理延迟大幅降低：TTFT降低70%，TPOT降低30%，大幅缩短响应延迟，提升用户体验。
场景适配·全域覆盖：贴合企业GenAI落地需求
● 交互式应用（多轮对话）：如聊天机器人、智能客服等。这类应用中，用户与模型的交互是多轮的，后续轮次的输入通常依赖于前置对话的上下文。通过快速加载存储历史 KV Cache，能够大幅缩短响应延迟，提升用户体验。
● 长上下文处理：对于需要处理数千甚至数万Tokens上下文的任务（如长文档问答、代码生成、复杂指令理解），GPU内存容量往往成为瓶颈。本方案提供的PB级KV Cache扩展能力，使得处理这类长上下文任务更为从容，避免了因GPU内存不足导致的性能下降或任务失败。
● 高并发推理服务：在面向大量用户的在线推理服务中，系统需要同时处理多个并发请求。本方案通过高效的KV Cache管理，能够支持更多并发会话，显著提高系统的整体吞吐量，从而在相同的GPU资源下服务更多用户。
随着模型规模的扩大和用户基数的扩张，大模型推理效率正成为AI基础设施性能的关键指标。新华三凭借多年来在AI领域的技术创新与实践探索推出推理加速方案，并进行精心的调优实践，充分验证了该方案在提升推理效率方面的显著优势，进一步加速GenAI应用的发展。
GenAI时代，推理加速注定是一条持续提升、永无止境的创新之路。面向未来，新华三将持续在AI Infra领域深耕，提供更多针对不同场景，设计基于不同加速层级、不同加速介质等技术路线的推理加速方案，帮助企业和开发者更轻松地应对大模型落地应用的复杂性和规模挑战，推动AI技术在更多领域的应用和创新。
热门专题
热门推荐
在追求极致效率的现代软件开发中，一款名为Cursor的AI代码编辑器正引领着开发范式的变革。它被定义为“面向未来的IDE”，其核心理念清晰而有力：将人工智能深度无缝地集成到编码工作流的每一个步骤，为开发者创造一种前所未有的“AI结对编程”体验。 Cursor sh应用场景 那么，这款AI驱动的编辑器
在众多AI图像生成工具中，WHEE凭借其精准的产品定位与持续的功能迭代，正成为越来越多设计师和内容创作者的首选工具。它专注于打造高品质的AI视觉素材生成器，核心使命就是帮助用户快速、高效地获得可直接使用的优质图片素材。 那么，这款AI绘图工具究竟有哪些核心优势？下面我们从其关键特性与功能设计进行深入
在AI绘画工具不断涌现的当下，一款名为NightCafe Creator的应用以其全面的AI艺术生成能力脱颖而出。它不仅是一个简单的图片处理工具，更是一个融合了多种前沿人工智能技术的创意平台，帮助用户轻松实现从构思到成品的艺术创作。 NightCafe Creator是什么？ NightCafe C
近期加密货币市场受到宏观经济不确定性及流动性紧缩影响，比特币(BTC)、以太坊(ETH)以及多种山寨币出现明显下行走势，市场情绪趋于谨慎。 比特币近期走势分析 比特币的价格近期表现如何？简单来说，它跌破了几个市场公认的关键支撑位，而且伴随交易量的放大。这种放量下跌的信号，往往意味着多空分歧加剧。无论
蔡司宣布将于6月2日发布一款新镜头，并称其为镜头技术的重大突破，标志着全新纪元的开启。官方仅公布了产品剪影，但措辞暗示其可能带来根本性的技术升级，例如全新光学结构、先进镀膜或对焦系统改进。具体细节需待发布日揭晓。