随着生成式AI在全球范围内爆发，算力产业正在经历一场深刻变革。从前几年聚焦云端训练，到如今端侧推理的异军突起，AI正以前所未有的速度渗透进社会生活的每一个角落。近日，光合组织嵌入式专家张考华在接受证券时报等媒体专访时，深入剖析了AI算力从云侧向端侧渗透的行业趋势，揭示了中国在嵌入式领域的独特优势与面临的挑战。
在他眼中，一个属于端侧的“AI盛世”正在绽放，而中国方案有望再次将高科技做成“超高性价比”。当AI开始真正寻找利润入口，当应用生态从单一走向多元，整个市场将从对基础设施的需求，转向对真实应用场景的需求。
（光合组织嵌入式专家张考华 郭博昊/摄）
算力从云入端，AI开启“毛细血管”渗透时代
回顾过去几年的AI发展，业界存在一个明显的转折点。前几年大家关注的多是以“云”为代表的算力，也就是训练算力，这把火烧了好几年。但从今年开始，可以明显感觉到端侧开始华丽转身。
这一转变可以被定义为AI发展的“下半场”。如果说上半场是以数据中心的大规模训练为主，那么下半场则是推理需求的全面爆发。这种转变使得整个ICT业态变得更加丰富。过去，我们主要依赖GPGPU（通用图形处理器）在云端提供算力；而现在，大量的NPU、TPU、BPU等各种XPU正在涌现。这些芯片不再高高在上，而是深入到千行百业，渗透到生活的方方面面。
业内人士普遍预测，2026年可能成为“端侧元年”。随着AI模型的小型化和算法的优化，算力正在从高端的云端向边缘侧和终端下沉。这种下沉并非简单的技术迁移，而是应用场景的全面铺开。无论是低空经济中的无人机，还是家中的智能家电，亦或是工厂里的工业控制设备，都将具备AI能力。这种爆发性的成长，将推动芯片级算力变得愈发丰富，成本也将随之降低。
针对市场上关于“算力繁荣是否可持续”的分歧，张考华给出了乐观的判断。自2024年11月30日ChatGPT发布以来，AI新时代的大门已经开启，其意义甚至超过了前几年的大数据热潮，堪比互联网革命。
“现在算力产业的景气度只是开始。”前期全球在基础设施上的高投入，为下半场的场景落地奠定了基础。当AI开始真正寻找利润入口，当应用生态从单一走向多元，整个市场将从对基础设施的需求，转向对真实应用场景的需求。这个深度演化过程将持续十年甚至更久。在这个过程中，算力板块将变得更加细致、细化和差异化。
把AI做成“低价”，嵌入式普惠时代即将到来
作为光合组织嵌入式专家，张考华深知，要将AI算力真正下沉，离不开嵌入式技术的支撑。他用一个生动的比喻来解释嵌入式在AI时代的定位：“如果把云端的计算中心比作人的大脑和心脏，那么嵌入式设备就像是毛细血管和末梢神经。它负责感知，负责末梢的营养供给。”
“嵌入式”这个词源于欧美话语体系，听起来有些晦涩。实际上，它的应用无处不在。除了传统的服务器和PC，我们手中的手机、家里的白色家电、金融行业的终端设备，乃至现在火热的机器人，都属于嵌入式范畴。这种无处不在的特性，决定了嵌入式产业的碎片化、异构化和复杂性。
面对如此复杂的场景，海光为何选择此时入局？这是集团公司“云边端”一体化布局的关键一步。现在，随着AI时代的到来，必须从云端走向边缘，再走向终端。
“大家下半年就能看到成果。”今年下半年，海光将联合生态伙伴，推出一批嵌入式产品。这些产品将填补集团在端侧算力上的空白，形成从高端算力集群到末端感知节点的完整闭环。
谈及成本，张考华对中国路线充满信心。针对“普通用户能否用得起AI”的疑问，他笑称：“大家一定要有这个信心，我们中国人有本事把所有的东西做成‘高性价比’。”依托中国的产能优势、完整的供应链体系以及庞大的应用市场，高端AI芯片的成本将迅速摊薄。无论是在云侧还是端侧，随着规模化效应的显现，AI技术将不再是昂贵的奢侈品，而是像水电一样普及的基础设施。
既要畅通“毛细血管”，更要守住“安全门”
尽管前景广阔，但端侧AI的落地并非坦途。张考华着重指出了当前嵌入式领域面临的两大核心挑战：研发模式的变革与安全边界的重构。
首先是研发模式的冲击。在传统嵌入式开发中，硬件工程师画好板子，更多考虑的是操作系统和应用软件。但在AI时代，这一切都变了。“现在一个硬件工程师去画板子，必须考虑未来要跑什么模型。”不同的模型部署、不同的算力卡选择，甚至端侧内存带宽的差异，都会对设备运行产生巨大影响。这种“算存一体”的设计要求，使得硬件研发必须与算法模型深度耦合，极大地提升了技术门槛。
其次是严峻的安全挑战。过去，业界关注的焦点多在云端安全，端侧安全往往被忽视。然而，近年来发生的许多重大安全事件，源头并非来自云端，而是来自防护薄弱的端侧。
“传统的信创安全在云端已经做得不错，但在端侧，我们的大门其实是洞开的。”随着端侧设备数量的指数级增长，任何一个节点的失守都可能引发系统性风险。特别是在工业控制、能源等关键领域，端侧安全直接关系到国家安全和社会稳定。因此，如何在低成本的前提下，构建起端侧的可信执行环境，是业界必须攻克的难题。
面对这些挑战，光合组织依托成员企业在IT基础设施领域的深厚技术积累，持续探索国产端侧嵌入式产业的破局之路。依托海光芯片等国产芯片技术优势，整合全域生态资源，将高端算力设备的高可靠性、高安全性技术下沉到嵌入式产品中。
“嵌入式的发展空间很大，可做的事情很多。”在这个AI重塑一切的时代，光合组织不仅持续赋能算力产业升级，更全力助推端侧AI技术落地普及。随着下半年一系列产品的发布，我们有理由期待，一个由国产嵌入式技术支撑的、安全可靠的AI时代，将在我们身边绚烂绽放。
