游乐游手机版
首页/科技数码/文章详情

商汤NEO架构革新:重构核心机制,多模态需求降九成斩获SOTA

时间:2025-12-03 13:37
商汤科技与南洋理工大学S-Lab实验室联合宣布,推出全球首个原生多模态架构NEO,并同步开源20亿(2B)与90亿(9B)参数规模的预训练模型。该架构突破传统多模态模型“视觉编码器+投影层+语言模型

尚汤科技与南洋理工大学S-Lab实验室联合发布全球首个原生多模态架构NEO,同步开源规模达20亿(2B)与90亿(9B)参数的预训练模型。该架构突破传统多模态模型“视觉编码器+投影层+语言模型”的堆叠式设计,通过重构注意力机制、位置编码和语义映射等核心模块,在数据效率与计算性能上实现显著突破。最新披露显示,NEO在同等性能水平下所需训练数据仅为行业平均值的十分之一,首次实现了从图像像素到语义token的端到端连续映射。

技术层面,NEO架构采用三大创新设计:原生图块嵌入层直接处理原始像素数据,摒弃传统需要独立图像分词器的方案;三维旋转位置编码(Native-RoPE)创新地在统一向量空间中编码文本与视觉信号的时空频率特征;多头注意力机制采用“视觉双向建模+文本自回归生成”的混合计算模式,使空间关联度提升24%。这些改进使得模型在0.6亿至8亿参数区间内,于ImageNet图像分类、COCO目标检测和Kinetics-400视频理解三大基准测试中均取得最优(SOTA)成绩,同时在边缘设备上的推理延迟控制在80毫秒以内。

开源社区已同步上线模型权重文件与完整训练脚本,开发者可基于MIT协议自由使用。尚汤科技进一步透露,2025年第一季度将追加开源支持3D空间感知与动态视频理解的扩展版本。行业分析指出,NEO架构通过深度融合视觉与语言模态的底层表征,打破了传统多模态模型“模块拼接”的技术范式,为移动端和物联网设备部署高性能小模型提供了全新技术路径。该成果在GitHub发布后,已获得超过3000名开发者的关注,预训练模型下载量突破5万次。

来源:https://www.itbear.com.cn/html/2025-12/1038139.html
上一篇马里兰大学研发双氟电解质:电动车快充更安全,续航更持久 下一篇黑五战报:Rufus成交率飙升100%,亚马逊AI助手成假日转化引擎
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
最新消息称国行苹果iPhone 18 Pro Max电池容量达到了5391mAh增幅11.78%
科技数码 · 2026-07-05

最新消息称国行苹果iPhone 18 Pro Max电池容量达到了5391mAh增幅11.78%

国行iPhone18ProMax电池容量达5391mAh,较前代增幅11 78%,增量近568mAh;Pro机型仅小幅提升68mAh。爆料称最终数据待验证,若属实则续航将显著增强。

HMD发布四款诺基亚功能手机 配备AI按键与可拆卸电池
科技数码 · 2026-07-05

HMD发布四款诺基亚功能手机 配备AI按键与可拆卸电池

HMDGlobal推出4款诺基亚功能手机,均配1450mAh可拆卸电池及独立AI按键,支持语音控制,免费180天后付费。部分机型带摄像头,支持microSD卡扩展至32GB,具双SIM卡、3 5mm接口及蓝牙5 0。

云南以旧换新补贴扩围 新增智能影音与无人机
科技数码 · 2026-07-05

云南以旧换新补贴扩围 新增智能影音与无人机

云南省自2026年7月起扩大消费品以旧换新补贴范围,新增智能门锁、智能影音、无人机、数码相机等数码智能产品及吸油烟机、燃气灶、洗碗机、净水器等家电。按最终售价15%补贴,每类每件最高1500元,商户报名无限制。

小米Redmi 7英寸高性能手机传闻即将发布
科技数码 · 2026-07-05

小米Redmi 7英寸高性能手机传闻即将发布

最近圈内又有新动静了。据博主 @数码闲聊站 今天爆料,某家厂商的子系列下一代打算推出两款屏幕尺寸差异明显的机型:一块是 6 59 英寸的中屏 Pro,另一块则是 7 英寸的巨屏性能机。从该博主以往的爆料习惯来看,基本可以锁定是小米 REDMI 品牌的产品线布局。 有意思的是,早在今年 2 月,这位博

深光影像AF35mmF2.2CE全画幅镜头E/L卡口739元起售
科技数码 · 2026-07-05

深光影像AF35mmF2.2CE全画幅镜头E/L卡口739元起售

深光影像AF35mmF2 2CE全画幅镜头开售,提供E卡口和L卡口,标准版七百三十九元,套装版七百八十九元。全金属机身,重约一百七十五克,高三十六毫米,滤镜口径五十二毫米,光学结构五组七片,九片光圈叶片,最近对焦零点三五米,支持自动对焦。