现代人工智能（AI）训练需要巨大的计算资源，而一种被称为"Posit"的新型数字表示方法，正致力于用更少的硬件开销实现更高的计算精度。本文将深入解析Posit数字格式的原理、核心优势以及首个硬件实现成果，并针对常见疑问提供详细解答。
一、背景：AI训练的计算瓶颈
训练现代人工智能（AI）工具所需的大型神经网络，对计算能力有着极高的要求。例如，OpenAI最先进的GPT-3模型训练需要约10亿亿次运算，成本高达500万美元。工程师们发现，通过改变数字的表示方式，可以有效降低计算负担。
1.1 传统浮点数的局限
实数在硬件中无法完美表示，因为实数无穷多。为了适应有限的位数，许多实数需要四舍五入。目前计算机广泛采用IEEE 754标准的"浮点数"格式，尽管通用性强，但存在精度分布不均的缺陷——在1和-1附近精度较低，而在极大或极小数值区间却浪费了大量位串。
1.2 新方案的萌芽
早在2017年，任职于A*STAR计算资源中心和新加坡国立大学的约翰·古斯塔夫森（John Gustafson），与星际机器人与电脑公司的艾萨克·约莫托（Isaac Yonemoto）共同提出了一种全新的数字表示方法。他们将其命名为"Posit"，并建议用其替代当前通用的标准浮点算术处理器。
二、Posit数字格式的奥秘
2.1 Posit的组成结构
浮点数由三部分组成：一个符号位（0为正，1为负）、若干"尾数"位（表示二进制小数部分）以及定义指数的位（2exp）。
Posit保留了浮点数的所有组成部分，但额外增加了一个"regime"部分，即指数的指数。regime的优势在于其位长度可变——对于较小的数字，只需2位，从而为尾数留下更多精度。
2.2 Posit的精度分布优势
Posit的数字精度沿数轴分布。在数轴中部（1和-1附近），Posit的精度高于浮点。向数轴两端延伸时，正负数逐渐增大，Posit的精度下降比浮点更平滑。
古斯塔夫森指出："这符合数字在计算中的自然分布。动态范围恰到好处，在需要更高精度的区域能够满足需求。浮点运算中存在大量从未使用的位串，这无疑是浪费。"
2.3 神经网络为何适合Posit
深度神经网络使用权重这类归一化参数，因而特别适合受益于Posit。神经网络计算大量涉及乘积累加运算。每次运算后求和都要重新截断，造成精度损失。而Posit配备了一个名为"quire"的专用高精度累加器，可有效减少中间截断，保留更多有效信息。
小提示：Posit在1和-1附近的高精度特点，与神经网络中权重常接近零或小数值的分布高度吻合，有助于在训练过程中保留更多有效信息。
三、首个硬件实现：FPGA上的实证
如今，马德里康普顿斯大学的研究团队成功开发了首个能够在硬件中实现Posit标准的处理器内核。实验表明，与标准浮点运算相比，该内核在基本计算任务上的位对位（bit-for-bit）精度提升了4个数量级。该成果在2022年9月的IEEE计算机算术研讨会上发布。
3.1 硬件实验设计
研究团队使用现场可编程门阵列（FPGA）合成新硬件，对32位浮点与32位Posit的计算进行了并列比较。
3.2 核心发现
- 矩阵乘法精度：在矩阵乘法（神经网络训练中典型的乘积累加操作）中，Posit相比浮点运算精度提升了4个数量级。
- 计算时间：精度提升并未牺牲计算速度。
- 硬件开销：仅芯片面积和功耗略有增加。
"如今摩尔定律似乎已趋于平缓。"康普顿斯大学ArTeCS小组的研究生研究员大卫·马拉森·金塔纳（David Mallasén Quintana）表示，"因此我们需要寻找其他途径提升计算性能，其中之一便是改变实数的编码与表示方式。"
小提示：团队还将自己的结果与更精确但计算成本更高的64位浮点格式进行了对比评估。这意味着即使面对更高精度的浮点，Posit在相同位数下也能达到接近甚至超越的精度表现。
四、行业趋势与未来展望
4.1 并行探索：8位浮点方案
探索数字表示方法极限的并非只有康普顿斯团队。早在2022年9月，Arm、英特尔和英伟达联合制定了技术规范，在机器学习应用中使用8位浮点数字替代常规的32位或16位浮点格式。这种短小而低精度的格式，通过牺牲一定计算精度来换取更高的运算效率和内存利用率。
4.2 Posit对大型AI训练的影响
尽管Posit在数值精度上的提升毋庸置疑，但其对训练GPT-3等大型AI的具体影响仍需进一步探索。马拉森表示："Posit有望提高训练速度，因为训练过程中不会丢失过多信息。不过这些尚未确定。已有团队在软件中进行了尝试，现在我们也将在硬件中验证。"
4.3 生态建设
其他研究团队也在积极开发自有硬件，推动Posit的应用。"这正是我所期望的，它受到了热烈追捧。"古斯塔夫森说道，"Posit数字格式已经风靡，目前有数十个团队正在使用它，包括企业和大学的研究组。"
五、常见问题与解答
Q1：Posit能完全替代浮点数吗？
答：目前尚无法完全替代。Posit在1和-1附近具有高精度，但在极大或极小数值区域表现逊于浮点。此外，现有软件生态几乎完全基于浮点，迁移需要大量适配工作。不过，对于数值范围集中的深度神经网络等场景，Posit是一种极具前景的替代选择。
Q2：硬件实现Posit比浮点难多少？
答：康普顿斯团队的FPGA实现表明，硬件面积与功耗仅小幅上升。因为Posit的核心逻辑（regime解码、quire累加器）均可通过数字电路高效实现。未来若推出专用芯片，成本有望进一步降低。
Q3：我能在日常编程中使用Posit吗？
答：目前已存在SoftPosit、Universal Number Library等软件库，可在软件中模拟Posit运算，但格式转换会带来性能损失。真正受益需要硬件普及，如专用AI加速芯片或可配置FPGA的支持。
Q4：Posit的"quire"寄存器具体如何工作？
答：Quire是一个固定长度的高精度累加器（如32位Posit对应576位）。在乘积累加运算中，每次乘法结果先累加至Quire，无需立即截断，仅在最终输出时进行一次舍入，从而显著减少精度损失。
结语
Posit数字格式为突破计算性能极限开辟了新路径——在不增加位宽的前提下，通过更合理的数值分布与专用累加器，实现了比浮点高4个数量级的精度。首个硬件内核的成功验证，预示着由Posit驱动的更高效AI训练时代正在来临。当然，从实验室走向大规模部署仍需时日，但正如古斯塔夫森所言，这份热情正被广泛接受。