在未来十年,一个显著的趋势正在加速:大多数传统计算任务正向边缘迁移。机器人、无人机、汽车、医疗设备、智能制造等领域的突破性创新,将因此获得全新活力。许多企业都清楚,拥抱机器学习与人工智能是保持竞争力的必要条件。但问题在于,随着边缘创新竞赛的展开,真正发挥AI的潜力,这条道路远比想象中更具挑战。SiMa.ai这家公司正是为解决这一难题而生——它专门构建了软硬件整合平台,帮助各类企业快速入门并规模化部署边缘AI与计算机视觉应用。
边缘机器学习的崛起
人工智能的创新不仅局限于数据中心或智能手机,这一点已达成共识。然而,半导体行业始终未能创造出一种能高效驱动两者之间所有设备的技术。要将生成式AI、大语言模型、视觉Transformer扩展到物联网、工业物联网、安防、国防、汽车,以及智能手机与数据中心之间的各类机器,就需要一种全新的形态——硬件和软件必须经过联合优化,在提升性能的同时降低能耗,从而满足边缘场景的严苛需求。
云端固然是强大的工具,但它在提供实时AI和人工智能功能方面存在天然短板。目前行业中常见的做法,是将原本为数据中心、个人电脑和手机设计的芯片,直接用于自动驾驶、智能制造、机器人、无人机配送等场景。这些芯片从未为这些场景设计,更不是为在边缘或低功耗设备上运行如此庞大的算法而打造的。要实现创新者心目中智能汽车和机器人助手的未来,必须让软件和硬件并行设计,共同优化低延迟——而远在数英里之外的云仓库,根本无法保证这一点。
举一个例子:生产线上的机器人。过去,传送带上哪怕一个产品稍微歪了一点,整条线就可能需要停机。如今,通过实时推理,系统可以自动优化处理任何配置的产品。再看消费品公司,有缺陷的产品会浪费大量供应和资源,现在可以在产品出厂前就精准定位质量控制问题。还有更智能的医疗设备,能辅助医生实时识别潜在疾病。这些场景没有一个能容忍云端延迟的等待——人类生活在边缘,而AI正在改变这些日常机器的运行方式。
嵌入式边缘的新机器学习性能标准
要释放边缘机器学习的潜力,组织需要一套全新的方法——让机器和设备具备视觉、速度、效率和推理能力,真正适应现实环境。SiMa.ai正是为此而生,它为边缘产品提供专门构建的解决方案,并设立了新的性能和效率标杆。这家公司的核心承诺是:通过一键式体验,将性能功耗比提升10倍,从而解决任何计算机视觉应用挑战。
在边缘AI领域,性能和能效同样重要,最关键的指标是FPS/瓦特。这不仅仅是一个数字,它直接表明系统每瓦功耗能处理多少帧。对于边缘AI工作负载来说,能源限制往往是最大的挑战。SiMa.ai专门构建的MLSoC(机器学习系统级芯片)是实现无与伦比电源效率的关键。这颗芯片经过精密设计,在不牺牲性能的前提下,针对低功耗进行了深度优化。这不仅仅是“做更多的事”,而是用更少的资源做更多的事——更少的能源、更低的成本、更小的环境影响。客户越来越关注可持续、高效、高性能的计算,SiMa.ai的专注点恰好满足了这一需求。
在客户测试中,SiMa.ai在FPS/功耗方面持续优于传统竞争对手的解决方案。2023年的MLPerf基准测试中,SiMa.ai在封闭边缘功耗类别中拿下了最高分——这项测试在4月和8月各举行了一次,成绩都相当亮眼(参见:SiMa.ai赢得MLPerf封闭边缘ResNet50基准测试,超越行业ML领导者;开辟新天地:SiMa.ai在MLPerf基准测试中的空前进步)。这些评级有力地证明了SiMa.ai对卓越性能和电源效率的坚定承诺,也验证了其MLSoC配合Palette软件平台,能够实现“一键式”的易用体验。
在边缘简化计算:无需代码的机器学习
SiMa.ai的Palette软件平台专为完整的机器学习栈应用程序开发而设计。它支持客户计划在边缘部署的任何机器学习工作流,同时不影响性能和易用性。Palette Edgematic是Palette软件平台的可视化扩展,一个基于浏览器的全新开发环境——任何想在边缘创建、评估和微调机器学习应用程序的组织,都可以免费使用。

Palette Edgematic支持“拖放式”无代码方法。用户可以在几分钟内(而不是几个月)自动创建、构建和部署自己的模型,并完成计算机视觉流水线,同时实时评估其边缘机器学习应用的性能和功耗需求。使用Palette Edgematic开发的机器学习应用,后续可以通过购买SiMa.ai开发板或生产板直接部署。

来自SiMa.ai的Palette Edgematic
借助Palette Edgematic,任何了解计算机视觉流水线概念的人,都可以直接在边缘设备上进行评估,无需在云中进行中间模拟,从而提供了一条直达边缘实现的路径。使用Palette Edgematic,开发人员可以:
- 在几分钟内快速原型化并评估边缘设备上的机器学习流水线;
- 使用实时数据流来衡量关键绩效指标,然后通过新的可视化画布快速迭代设计,提升流水线性能——这消除了边缘机器学习实现中所需的专门嵌入式编码转换;
- 利用Palette的自动构建功能,只需按一下按钮,就能将流水线的可视化表示转换为可执行代码;
- 在短短五分钟内将机器学习流水线转换为可演示的概念验证,从而加速概念的生产部署,缩短上市时间。
Palette Edgematic的初始版本由SiMa.ai MLSoC远程支持,提供基于GUI的视觉体验,可评估五个优化流水线和40个不同模型,涵盖对象检测、跟踪、分类、语义分割和实例分割等用例。
Palette Edgematic让任何个人、开发人员或组织,都能在几分钟而不是几个月内创建生产就绪的机器学习应用——让他们摆脱在边缘执行机器学习的复杂性、不知如何开始的困惑、以及为产品和服务提供AI的焦虑。
随着Palette Edgematic的推出,SiMa.ai现在更像是一家构建自己芯片的软件公司,将机器学习的潜力交到每个人、客户、合作伙伴以及整个机器学习社区手中。不妨现在就试试Palette Edgematic,在5分钟内构建自己的计算机视觉机器学习应用。
