首页 游戏 软件 资讯 排行榜 专题
首页
AI
全球最小AI超算发布:仅300克、算力高达190TOPS

全球最小AI超算发布:仅300克、算力高达190TOPS

热心网友
16
转载
2025-12-11

IT之家12月11日消息,据科技媒体Wccftech最新报道,AI初创公司Tiiny AI近期发布了一款号称“全球最小AI超级计算机”的设备——Tiiny AI Pocket Lab。这款设备重量仅300克,尺寸与手掌相仿,却集成了ARMv9.2架构的12核CPU和高达80GB的LPDDR5X内存,AI算力达到190 TOPS。

报道详细指出,该设备具体尺寸为14.2×8×2.53厘米,重量约300克,用户可以轻松将其置于掌中把玩。尽管体积小巧,Tiiny AI宣称该设备能够成功部署参数高达1200亿的大型模型,这在同类便携设备中尚属首次。

“全球最小AI超算”问世:300克、190TOPS算力

据称,这台设备支持的大语言模型能够完美处理“博士级推理、多步骤分析和深度上下文理解”等复杂任务。其硬件核心为最新的ARMv9.2 12核CPU,并通过定制化的异构计算模块提供了约190 TOPS的强劲AI算力。

为了支撑庞大模型的流畅运行,该设备配备了高达80GB的LPDDR5X内存和1TB的SSD存储空间。这种大容量内存配置让用户可以启用先进的量化技术,从而在本地环境中流畅运行120B参数的大模型。此外,该设备的功耗控制也相当出色,TDP为30W,典型系统功耗约为65W。

“全球最小AI超算”问世:300克、190TOPS算力

为了在如此紧凑的设备上实现120B大模型的实用化,Tiiny AI采用了两项核心技术。首先是TurboSparse,这是一种神经元级别的稀疏激活技术,能够在保持模型完整智能的同时显著提升推理效率。

其次是PowerInfer,这是一个在GitHub上拥有超过8000颗星标的开源异构推理引擎。它能够通过动态分配CPU与NPU之间的计算任务,来加速繁重的大语言模型工作负载。

“全球最小AI超算”问世:300克、190TOPS算力

在软件生态方面,AI Pocket Lab支持一键部署GPT-OSS、Llama、Qwen、DeepSeek、Mistral和Phi等数十种主流开源模型及代理框架,无需依赖互联网或云端,支持完全离线操作。Tiiny AI确认将在CES 2026上正式展示该设备。

来源:https://tech.ifeng.com/c/8ozqExbvw4r
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

亚马逊 2 月 26 日发布新一代 Alexa 生成式AI 服务,使用 Claude 模型
AI
亚马逊 2 月 26 日发布新一代 Alexa 生成式AI 服务,使用 Claude 模型

亚马逊按下“重启键”:下一代Alexa能否重夺AI语音王座? 科技圈又有新动静了。就在今天,亚马逊发出了人工智能主题活动的邀请函,时间定在2月26日。多方信源,包括路透社的报道均指向一个焦点:亚马逊计划在此次活动上,正式推出其下一代、基于生成式人工智能的Alexa服务。 话说回来,自2014年面世以

热心网友
04.28
派欧算力云 AI 云端一体化解决方案: 模型 API、Serverless、GPU 租赁
AI
派欧算力云 AI 云端一体化解决方案: 模型 API、Serverless、GPU 租赁

派欧算力云产品介绍 人工智能的浪潮正席卷各行各业,企业和开发者们面临一个共同的挑战:如何快速、经济且高效地获取AI算力,将创意迅速转化为市场产品?面对这一需求,一站式AI云服务平台——派欧算力云,提供了颇具吸引力的答案。本文将带你深入剖析派欧算力云的核心功能、独特优势以及应用路径,看它如何为企业的A

热心网友
04.27
京东开源图像模型JoyAI-Image-Edit,从平面修图升级为三维空间重塑
AI
京东开源图像模型JoyAI-Image-Edit,从平面修图升级为三维空间重塑

京东开源图像模型JoyAI-Image-Edit,从平面修图升级为三维空间重塑 4月7日,京东探索研究院正式宣布,开源自研的JoyAI-Image-Edit图像模型。这不仅是又一个开源工具,更标志着图像生成编辑技术的一次关键转向:从二维平面迈入了三维空间。 简单来说,这个模型被设计为业内首个将“空间

热心网友
04.15
Anthropic启动Project Glasswing计划,向业界提供 Claude Mythos模型1亿美元调用额度
AI
Anthropic启动Project Glasswing计划,向业界提供 Claude Mythos模型1亿美元调用额度

Anthropic启动Project Glasswing计划,集结科技巨头共筑软件安全防线 近日,人工智能公司Anthropic启动了一项名为“Project Glasswing”的新计划。这项计划的核心目标,是借助其尚未公开发布的Claude Mythos Preview模型,来加强全球关键软件基

热心网友
04.15
断层碾压Seedance 2.0:神秘“欢乐马”空降榜首,视频AI变天了
AI
断层碾压Seedance 2.0:神秘“欢乐马”空降榜首,视频AI变天了

就在 OpenAI 都停了 Sora,所有人以为 Seedance 2 0 要一统天下的时候,没想到不知哪里冒出来一匹马。 周二晚间,在知名 AI 评测分析平台 Artificial Analysis 上,一个代号为「HappyHorse-1 0」的神秘视频生成模型空降榜首,引发了 AI 社区热议。

热心网友
04.15

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

全链网解析:欧洲多国领导人面临支持率挑战
web3.0
全链网解析:欧洲多国领导人面临支持率挑战

英国工党领袖斯塔默面临公众信任挑战,支持率低迷。类似困境在欧洲多国领导人中普遍存在,德国总理默茨与法国总统马克龙的支持率同样远低于不支持率,反映出欧洲政界广泛的信任危机。

热心网友
05.18
芝麻开门Gate.io官网入口网址及安全交易平台使用指南
web3.0
芝麻开门Gate.io官网入口网址及安全交易平台使用指南

芝麻开门:安全便捷的数字资产交易平台 在数字货币的世界里,选择一个可靠、便捷的交易入口是第一步。芝麻开门作为一款服务于全球用户的知名交易平台,以其多重安全防护、对主流币种的广泛支持以及现货、杠杆等丰富功能,成为了许多交易者的选择。今天,我们就来详细梳理一下如何通过官方渠道,安全地获取并使用芝麻开门平

热心网友
05.18
通胀担忧加剧全球债市抛售 长期美债收益率创近三年新高
web3.0
通胀担忧加剧全球债市抛售 长期美债收益率创近三年新高

全球债市因通胀担忧遭剧烈抛售,长期美债收益率升至近三年高位。30年期美债收益率一度突破5%,10年期与2年期收益率同步攀升。日本30年期国债收益率单日飙升20基点创新高。油价上涨加剧通胀忧虑,策略师建议关注美债收益率在5 25%-5 5%区间的后续动向。

热心网友
05.18
欧易交易所官方入口网址一键直达 安全登录OKX交易平台
web3.0
欧易交易所官方入口网址一键直达 安全登录OKX交易平台

欧易(OKX):您的官方数字资产交易入口 在加密货币的世界里,选择一个可靠、功能全面的交易平台是第一步。欧易(OKX)作为全球领先的数字资产服务商,早已成为数百万用户的首选。它不仅提供比特币、以太坊等主流币种的现货交易,更将业务延伸至衍生品、DeFi以及NFT市场,构建了一个完整的加密生态。其背后,

热心网友
05.18
Gate.io官方安卓交易APP v7.19.1最新版下载与使用指南
web3.0
Gate.io官方安卓交易APP v7.19.1最新版下载与使用指南

gate io交易APP官方版 v7 19 1 安卓版下载与安装全指南 对于数字资产交易者来说,一个可靠、顺手的交易工具至关重要。Gate io交易APP,正是这样一款专业的平台,它为全球用户提供比特币、以太坊乃至上千种加密货币的实时行情与交易服务。其最新的安卓v7 19 1版本,在用户体验和系统稳

热心网友
05.18