边缘侧的AI部署要想真正落地，一个敏捷的软件堆栈是绕不开的基础设施。如今，基于各种AI框架训练出的机器学习模型已经屡见不鲜——这些框架搭载着最新的算子和先进的模型拓扑，如同寒武纪生命大爆发一般，借助开源社区的创造力快速迭代，不断将机器学习模型推向边缘侧的应用前线。学术界与工业界携手合作，使用的都是最前沿的工具与理念，但这同时也意味着：要让这些模型在高性能、最新的AI软件堆栈上高效运行，对任何组织而言都不是一件轻松的事情。

在处理器IP这个领域，Cadence拥有多年的深厚积累，其基础设计IP为全球的计算平台提供了坚实支撑。这种市场地位也直接推动了合作伙伴和客户对AI计算需求的持续增长。过去二十年间，Tensilica的可扩展、可配置处理器IP被大量用于边缘侧的SoC设计，覆盖音频、视觉、雷达、汽车以及基于微控制器的子系统——可以说，这些IP已经渗透到了边缘计算的各个角落。

正是因为Cadence处理器IP的使用范围如此广泛，加上AI推理在不同细分市场的需求千差万别，一个通用的一站式解决方案就显得尤为关键。我们的核心思路是打造一个统一的、可扩展、可配置的ML软件堆栈，让客户无需再使用多套工具去适配不同芯片和框架。一套通用的软件接口和工具，能够大幅缩短产品上市时间，帮助客户更好地应对不断变化的AI市场。

从超低功耗、永远在线的应用场景，到ADAS和自动驾驶这类高端车载计算，边缘侧的用例跨度极大——AI计算需求从每秒几千兆次运算（GOPS）到每秒数万亿次运算（TOPS）不等。

图1：适用于所有垂直市场的通用AI软件工具

围绕这一目标，我们在高性能机器学习编译器堆栈的多个维度上持续打磨产品：统一的前端设计、通用的中间表示法、对混合精度量化格式的支持、无损压缩技术，以及图和张量优化等。这些技术可以在不同AI部署场景下发挥作用——无论是基于委派模式的框架进行提前编译、即时编译，还是运行时解释器框架。

图2：AI软件堆栈支柱

客户在流片前就能通过软件仿真运行ML工作负载，并提取关键KPI。在软硬件协同设计阶段，这些准确的指标具有极高的参考价值。迭代各类ML模型、微调可配置参数，从而从硬件IP中榨出最大性能——这几乎是每位SoC架构师的必修课。

图3：实现软硬件协同设计

在构建Cadence AI软件堆栈的过程中，我们也大量利用了开源工具，并积极参与开放论坛，向开源社区贡献代码。作为嵌入式IP领域的市场领先者，Cadence与全球各地的合作伙伴紧密协作，为细分市场提供领先的AI解决方案——这并非一句空话，而是实实在在的技术落地路径。