广发证券:AI上游基础设施价值提升,关注产业链核心标的
智通财经APP获悉,广发证券近日发布研究报告指出,AI的记忆能力已成为实现上下文连续性、个性化体验及历史信息复用的核心技术支柱。通过不断扩展模型的能力边界,有望加速推动AI智能体等应用场景的落地进程。AI记忆的价值正从一项“成本项”转变为“资产项”,其上游基础设施的价值量与重要性将持续提升。建议关注产业链中核心受益的相关标的。
免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈
广发证券的主要观点如下:
英伟达推出AI推理上下文存储平台ICMS
随着用户多轮对话与智能体持续运行带来的KVCache数据不断累积,系统对需长期留存并可随时调取的分层缓存数据产生了刚性需求,推动了上下文数据从HBM存储向DRAM、SSD等分层介质迁移。为此,英伟达推出了上下文记忆存储架构ICMS,面向智能体与多轮推理场景提供“长期上下文记忆层”。该架构一方面能够承载更大规模的KVCache,另一方面能以低延迟将历史对话中的KVCache数据回溯到多个GPU节点,以支持多轮次推理会话。其KV访问模式呈现出类似TFT约束下的高并发、高吞吐随机读取特征。
ICMS平台对SSD使用效果显著
在经济性与扩展性方面,SSD的单位成本显著低于GPU内存,且可按TB、PB级容量灵活扩展,是承载长期上下文数据的天然介质。在可行性方面,据相关行业报告分析,ICMS引入PB级存储层后,其访问延迟仅略高于缓存化的DRAM。在实证方面,WEKA对其增强型内存网格解决方案(AMG)进行了性能评估。AMG是一种与英伟达ICMS兼容的上下文存储方案。测试在解码阶段模拟了持续扩张的用户场景池:初期用户池较小时,KVCache基本驻留在GPU的HBM内,三种方案均能维持较高的Token吞吐量;但随着用户数持续增长,KVCache会外溢至更低层级的内存或存储介质,此时Token吞吐量开始下降。然而,WEKA AMG凭借更高的容量、更强的网络与高并发随机访问能力,能够更快地完成上下文数据的预取与回填,有效减少冷启动与阻塞现象,从而在用户池显著扩大后,仍能保持更高且更稳定的Token吞吐性能。相比其他两种传统方案,其吞吐量提升最高可达4倍,验证了ICMS架构能够有效承接长期上下文并维持系统吞吐稳定性。
ICMS平台打开存储市场空间
参考行业数据,该行对上下文存储空间需求进行了测算。单个Token所需存储空间约为504KB。若每个用户的上下文窗口为64000 Tokens,则对应存储需求约为30GB。考虑到提升用户体验,假设留存倍数为15倍。在上述假设下,支持10万规模用户/智能体的总存储需求约为45PB。这意味着,若要在具备强大对话历史记忆能力的大上下文模型上稳定支持10万量级的并发用户或智能体,所需的上下文存储规模将达到PB级别。
风险提示
AI产业发展以及市场需求不及预期;AI服务器出货量不及预期;国产厂商技术和产品进展不及预期。
相关攻略
本报北京3月31日电 (记者刘温馨)记者从工业和信息化部获悉:全国新能源汽车动力电池溯源信息平台3月31日启动,将对动力电池进行全生命周期的流向监控和信息化追溯。 该平台面向产业链上下游相关主体集
3月28日,“智汇松江-opc创新创业峰会暨ai应用实践挑战赛”举办。峰会采用“赛会结合”模式,不仅汇聚了来自政府、芯片算力、硬件制造、模型生态、应用开发及投资机构的代表同台对话,更通过ai应用实践
新智元报道编辑:LRST【新智元导读】ChatGPT上线广告、315曝光GEO投毒产业链,AI搜索商业化的隐忧接连浮出水面。龙虾热背后,3000元就能让AI搜索信口开河,离全面「瞎说」还有多远?来自
当前,制造业正站在一场深刻变革的十字路口。一边是如火如荼的AI革命,另一边则是真实而具体的生产流水线。如何让AI进入到生产中,又如何让传统生产进化出精密制造新范式,成为了整个制造行业共同面临的课题。
中国集成电路产业正经历着一场前所未有的变革与飞跃,被业界形象地称为“狂飙”式发展。根据海关总署及行业机构3月份发布的最新数据,中国芯片出口呈现出爆发式增长态势,部分细分领域的出口增长率甚至超过了百分
热门专题
热门推荐
百度网盘个人版如何转企业版?完整切换步骤详细指南 当个人网盘难以满足团队文件共享与协作需求时,百度网盘提供的企业版无疑是高效解决方案。本文将为你详细解析如何直接在百度网盘App内,将个人账户一键切换至功能更强大的企业版,快速开启团队文件管理新模式。 第一步:进入个人中心页面 首先,请确保已安装并打开
“AI+eSIM”云智终端方案正式商用,首批合作项目5G AI CPE成功落地 在MWC 2026世界移动通信大会上,产业合作迎来重大进展。由全球移动通信系统协会(GSMA)与中国联通共同倡导的“‘AI+eSIM’云智终端合作联通方案”正式对外发布,并迅速完成首个商业化项目签约。中国联通联合通则康威
洛克王国世界水泡壳技能搭配完全指南:打造攻防一体的战术核心 世界水泡壳的技能池设计充满了战术深度,完美诠释了攻防一体的战斗哲学。无论是纯粹依靠威力压制对手的技能,还是具备控制、辅助等战略功能的技能,都能在其技能库中找到。掌握其技能搭配的核心思路,是让世界水泡壳在对战中发挥出全部潜力的关键,能够轻松取
现货比特币ETF单周吸金14 2亿美元,强势回归背后的市场信号 加密货币市场正迎来关键转折点。近期数据显示,现货比特币ETF资金流入呈现爆发式增长,成为近期最受关注的市场风向标。这不仅反映了机构资金的重新布局,更可能预示着市场供需结构的深层变化。 数据解读:创纪录的资金流入意味着什么? 根据专业追踪
河西竹篮打水奇遇触发地点指南 想要成功触发《燕云十六声》中颇具趣味的“竹篮打水”奇遇,玩家需要首先前往河西地图的特定区域进行探索。该触发点位置较为隐蔽,建议在河西沿岸的村落与水边场景多番巡视。当你接近正确位置时,可以留意游戏内的环境暗示,例如独特的视觉标识、背景音效的变化或氛围的微妙转变,这些都是系





