输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
INT4 是一种将 AI 模型权重从 32 位浮点数压缩到 4 位整数的技术。它大幅降低模型体积和计算需求,让大语言模型能在手机、笔记本甚至嵌入式设备上运行,是边缘 AI 和端侧推理的关键技术。
近期常被查询的 AI 概念。