游乐游手机版
首页/AI热点日报/热点详情

基于神经科学的Numenta算法原理与架构深度介绍

类型:热点整理2026-07-20
Numenta推出商用软件NuPIC,基于神经科学的稀疏表征算法大幅降低大语言模型在CPU上的功耗,速度超越NvidiaA100GPU,与Intel合作验证性能提升10-100倍,为高能耗AI提供新出路。

人脑是自然界最精妙的计算设备——它高效、节能,在任何时刻都只有一小部分神经元处于活跃状态。神经科学家们一直相信,如果能把这种“稀疏表征”的逻辑映射到AI的算法、数据结构乃至芯片架构中,就有望为功耗居高不下的AI模型找到一条出路。问题在于,习惯了靠数据量和算力“大力出奇迹”的数据科学家们,愿不愿意改变这套已经有些难以为继的打法。

有意思的是,一家自筹资金起家、在神经科学领域默默耕耘了18年的初创公司,突然在2024年推出了一款商用软件产品。更令人意外的是,它的目标市场,正是当前最炙手可热的大语言模型(LLM)领域。

这家公司叫Numenta,它带来的是一个承诺:用受神经科学启发的软件,在CPU上大幅降低运行LLM的功耗。

乍一听,这难免让人怀疑是某种投机取巧。但Numenta的CEO Subutai Ahmad并不这么认为。在他看来,公司有机会也有理由这么做——因为AI科学家们目前依赖的Transformer架构,本质上就是一种“蛮力计算”,而这恰好是神经科学可以改进的方向。

神经科学和AI并非从未有过交集。二十世纪五六十年代,这两个学科曾相互启发,后来才逐渐分道扬镳。Ahmad觉得,它们如今的孤立状态,其实相当令人惊讶。

拿ChatGPT来说。尽管它已经是当红炸子鸡,Ahmad却直言不讳:这玩意儿的能耗已经高到难以为继。他认为,只有融入神经科学的基本原理,开发者才有可能逃离当前这条“死胡同”。

了解Numenta

Numenta与众不同的地方,首先在于它的创始人阵容。联合创始人Jeff Hawkins曾是90年代Palm Pilot的设计师,后来又和Donna Dubinsky一起在Handspring打造了Treo智能手机。Dubinsky本人在80年代负责过Apple的分销网络,后来又担任过Palm的CEO。2005年,AI和神经科学研究员Dileep George加入团队。

Hawkins是Numenta的精神导师,痴迷于脑科学,写过两本书——《On Intelligence》和《A Thousand Brains》,后者提出了“千脑智能理论”。他在科学期刊上发表的论文也常被广泛引用。

但讽刺的是,神经科学的进步多年来主要停留在实验室,对商业市场的影响微乎其微。Ahmad坦言,积极将神经科学应用于AI的实验室少之又少,“我们可能是唯一一家这么做的公司”。

他说Numenta能走到今天很幸运,但ChatGPT在他看来简直是个“巨大的功耗黑洞”。他坚信,基于神经科学的数据结构和算法,能为LLM带来质的效率提升。

Numenta的商业产品

Numenta上周推出的第一款产品叫NuPIC(Numenta Platform for Intelligent Computing)。这并不是一个需要替换现有模型架构的“革命性”方案——它更像是为已有Transformer设计的即插即用软件,能让模型在CPU上跑出“极高的吞吐量和低延迟”。据称,其速度比Nvidia A100 GPU还要快。

Ahmad解释说,NuPIC会以“企业软件”的形式授权给希望将LLM纳入工作流程的公司。注意,这不是SaaS——Numenta不提供云服务,客户在自己的基础设施上安装软件,数据和模型完全私有。

关键在于,它可以直接“插入”现有Transformer。Ahmad说:“从外面看,没什么不同。你甚至可以把传统的Transformer换成我们的,整个系统照样工作。”

Numenta宣称,这套神经科学启发的方案能让客户实现“10到100倍以上的性能提升”。听起来好得不像真的?但这不是空口白话——该公司与Intel合作完成的案例研究可以作为佐证。

与Intel和Xilinx的合作

Intel今年在其Xeon Max系列和第四代Xeon可扩展处理器上推出了AMX(Advanced Matrix Extensions),这是针对矩阵运算的指令集扩展,用于加速AI工作负载。Numenta从去年就开始与Intel合作。Ahmad解释说,Intel的AMX相当于“给CPU加上类似GPU的指令来做矩阵乘法,但它仍然是CPU,非常灵活”。

这种灵活性让Numenta“可以把算法移植到这些芯片上”。Intel的一份官方文件提到:“Numenta展示了他们定制训练的LLM在Intel Xeon CPU Max系列处理器上运行时,与当前一代AMD Milan CPU相比,处理大型文档(长序列长度)的速度快了20倍。”Intel的结论是,Numenta“有能力大幅降低在Intel上运行语言模型的总体成本”。

而Ahmad更进一步:“我们可以让Transformer比Nvidia GPU跑得更快。”

现在说Numenta是Nvidia GPU Killer可能为时过早,但Ahmad认为,从神经科学中学到的基本原理让公司占据了天然优势。“这不是什么魔法能让速度提高100倍。我们只是减少了计算量。大脑就是这样工作的。这才是效率的根源。”

Numenta技术的应用场景还包括计算机视觉、语音识别和机器人技术。在语音识别方面,Numenta已与Xilinx(已被AMD收购)合作,展示了其大脑启发的稀疏算法如何在FPGA上运行。根据Numenta的案例研究,该公司展示了“利用稀疏性扩展深度学习模型的巨大优势”。

神经科学与AI

那么,神经科学到底是什么,和AI有什么根本不同?

神经科学研究的是神经系统——大脑、脊髓、外周神经——如何工作。而AI的目标是开发机器来完成通常需要人类智能的任务。

早期的人工神经网络其实很大程度上受到了神经科学的启发。Ahmad追述道:“20世纪40年代,Donald Hebb提出了神经元可以学习的最初想法。这启发了最早的人工神经元,也就是感知器。”后来,神经科学还启发了“反向传播”——这个深度学习核心学习算法至今仍在被使用。

Da vid Hubel和Torsten Wiesel因研究视觉皮层的结构和功能获得了1981年诺贝尔奖。他们的工作极大地提升了人类对视觉系统如何按层次学习物体特征的理解:先从边缘到角落,再到形状,最后到物体。“这种对层次结构和特征检测的理解直接启发了卷积网络,这种核心架构甚至被用于当今的计算机视觉领域。”Ahmad强调。

直到90年代初,神经科学家和深度学习研究人员之间的互动还很普遍。但后来,AI开始转向GPU,转向大规模计算。GPU越来越快,网络越来越大,数据越来越多。AI成了“更强大”和“更多闪存”的代名词。

Ahmad认为,这暴露出当今AI的两个根本问题:一是无法“持续学习”,二是对“过多数据”贪得无厌。按照他的定义,真正的智能系统应该是“不断学习”的。AI系统首先在实验室训练,然后部署到现实世界,但之后就停止了学习。和人类不同,代码还不能真正“学习”。“如果一个AI模型今天犯了一个错误,那么它会反复犯同样的错误,直到用新数据重新训练。”

作为对比,人类每时每刻都在学习——靠走动、观察世界、预测结果。想想AI模型怎么学会识别一款新车型:人类只需要看一个例子,就能从不同角度、不同光线甚至下雨天认出它。而深度学习系统没有真实的世界模型,“你必须给它看成千上万张各种角度的图片”,Ahmad说,“它要记住每一帧。”

有人会问,神经形态计算和神经科学有什么区别?Ahmad解释说,神经形态计算是“神经科学和AI这一更广泛领域的一个子集”,重点通常是构建高效的新硬件系统。而Numenta则更多聚焦于软件和算法。“我们能够利用芯片行业正在进行的各种创新——CPU、GPU,以及所有SIMD指令和架构。”

融资情况

Ahmad说,Numenta的资金主要来自董事会内部——包括Hawkins和Dubinsky,也有一些外部投资者。公司规模还很小,只有20名员工。“现在,Numenta正在走向商业化。我们计划在明年的某个时候,可能是今年晚些时候,进行一轮大规模融资。”

回望过去二十年,神经科学家和数据科学家之间的分化其实很有启示意义。硅谷用“更男人”的方式——更大、更快的CPU和GPU——实现了惊人的发展。但如今,这条路似乎已走到尽头。从“拼肌肉”到“拼效率”的转变,或许正在悄然发生。

来源:https://m.elecfans.com/article/2253574.html

相关热点

继续查看同栏目近期热点。

延伸阅读

补充最近整理过的热点入口。