游乐游手机版
首页/科技数码/文章详情

全球最小AI超算亮机:Tiiny掌上120B大模型终端的发布与应用

时间:2025-12-12 10:37
12月11日,有科技资讯显示,初创企业Tiiny AI推出了一款名为Tiiny AI Pocket Lab的AI超级计算机,宣称其为目前全球最小的同类设备。该设备重量仅为300克,外形尺寸为14 2

全球最小AI超算亮相:Tiiny AI推出掌上120B大模型终端

12月11日,最新科技资讯披露,初创企业Tiiny AI发布了一款名为Tiiny AI Pocket Lab的AI超级计算机,声称这是目前全球体积最小的同类设备。它的重量仅有300克,整体尺寸为14.2×8×2.53厘米,可以轻松握在掌心里。

别看它身材紧凑,这款设备却搭载了基于ARMv9.2架构的12核CPU、高达80GB的LPDDR5X内存以及1TB的固态存储,AI算力更是达到了约190 TOPS。最新消息指出,这样的性能足以在本地流畅运行参数规模高达1200亿(120B)的大语言模型,这在同级产品中尚属首次实现。

据介绍,该设备所支持的大模型具备处理复杂任务的能力,能够胜任博士级别的推理、多步骤逻辑分析以及深度上下文理解等工作。其AI运算能力由定制化的异构计算模块提供,通过SoC与独立NPU的协同工作,实现了高效率的输出。

为了确保大型模型能够流畅运行,系统配置了大容量内存,并引入了两项关键技术:其一是TurboSparse,这项技术采用了神经元级别的稀疏激活机制,在不损失模型智能完整性的前提下,显著提升了推理效率;其二是PowerInfer,这是一个备受开发者关注的开源异构推理引擎,能够通过动态调度CPU与NPU之间的计算负载,优化大模型的运行速度。

在软件支持方面,AI Pocket Lab具备广泛的兼容性,可以一键部署包括GPT-OSS、Llama、Qwen、DeepSeek、Mistral和Phi在内的数十种主流开源模型及代理框架。整个系统无需依赖网络连接,支持完全离线使用,充分保障了数据隐私与本地化操作体验。

此外,设备的热设计功耗为30W,典型系统功耗约为65W,体现出较为出色的能效控制水平。Tiiny AI已确认,该产品将于2026年在国际消费电子展上正式亮相并进行现场演示。

来源:https://ai.zol.com.cn/1097/10974807.html
上一篇微信鸿蒙版上线尝鲜:支持朋友圈发实况照片 下一篇iCAR V25全新增程式SUV曝光 主打硬派设计与智能体验
本站内容用于信息整理与展示,如有侵权或内容问题请及时联系处理。

相关推荐

补充同频道和同主题内容,方便继续浏览更多相关内容。

同类最新

继续查看同栏目最近更新的文章。

更多
LiblibAI云端WebUI降低AI绘画部署门槛
科技数码 · 2026-07-02

LiblibAI云端WebUI降低AI绘画部署门槛

LiblibAI在线WebUI的核心优势在于——只需通过浏览器即可流畅运行Stable Diffusion,无需自行搭建本地环境。云端直接处理运算,模型即选即试,大幅降低了AI绘画的创作门槛。对于轻量创作和模型快速测试来说,体验相当顺畅,但用户仍需重视数据隐私保护和版权合规等问题。 过去使用Stab

微软因用户不安叫停Edge浏览器AI历史搜索功能
科技数码 · 2026-07-02

微软因用户不安叫停Edge浏览器AI历史搜索功能

微软紧急暂停Edge浏览器AI历史搜索功能,该功能因被用户吐槽“令人不安”而暂缓部署。尽管微软强调所有AI处理在设备端完成且数据不上传云端,但用户仍不信任。此举与WindowsK2计划减少功能堆砌的理念一致。

红魔游戏平板5 Pro发布 4999元起售将登陆全球市场
科技数码 · 2026-07-02

红魔游戏平板5 Pro发布 4999元起售将登陆全球市场

【CNMO科技消息】近日,红魔游戏平板5 Pro正式发布。这款平板从定位上就明确瞄准“极致游戏”体验,外观方面带来了一个重磅亮点——首次引入RGB水冷散热系统,背部那条可视化的水路通道,配合纯平透明背板设计,核心配置信息一览无余,科技感十足。 图源网络 屏幕方面同样表现突出。一块9 06英寸OLED

杭州全国首所机器人学校首批30台机器人入学
科技数码 · 2026-07-02

杭州全国首所机器人学校首批30台机器人入学

30台机器人整齐列队,有的刚从生产线卸下,机械零件还带着崭新的“工业气息”;有的已搭载运动控制模块,能稳健地小跑、跳跃几下。它们来自不同制造工厂,外形与功能各有千秋,但此刻都拥有了同一个身份——杭州机器人学校的第一批入学新生。 6月30日,杭州经信正式发布:由浙江大学机器人研究院、浙江省质量科学研究

美国计划发射航天器托举天文卫星
科技数码 · 2026-07-02

美国计划发射航天器托举天文卫星

就在最近,NASA公布了一项非常果断的干预计划——他们定于6月30日实施一次“卫星维修任务”,派遣一台名为“连接”号的机器人服务卫星,为一颗超期服役的天文卫星延长运行寿命。这颗卫星是“尼尔·格雷尔斯·斯威夫特天文台”,其轨道高度正在不断衰减,如果不进行干预,今年年底前很可能会坠入地球大气层并烧毁。