首页 游戏 软件 资讯 排行榜 专题
首页
AI
TOON面向令牌对象表示法开源:削减LLM上下文成本超40%

TOON面向令牌对象表示法开源:削减LLM上下文成本超40%

热心网友
93
转载
2025-11-26

TOON 的设计让开发者无需脱离熟悉的 JSON 数据模型,就能实现显著的 Token 节约效果,同时保持人类可读性。这种低门槛的优化方式,为“在不更换模型的前提下实现降本增效”带来了新的解题思路。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

Token-Oriented Object Notation(TOON)以“在维持结构准确性的同时显著减少令牌使用量”为核心卖点进入公众视野。

图片

随着提示上下文持续膨胀,任何能节约约40%令牌的格式都意味着直接降低推理成本,这正是 TOON 引发开发者关注的原因。

TOON 是什么

TOON 自称为“面向大语言模型提示、可读性良好的 JSON 数据模型编码方案”。

它在保留 JSON 语义的基础上,借鉴 YAML 的缩进风格与 CSV 的行式布局,有效压缩空白字符与冗余符号,从而让模型在读写上下文时消耗更少令牌。

示例:从 JSON 到 TOON

最新示例展示了一个登山行程的 JSON 数据结构。

图片图片

标准 JSON 版本在括号和键名上耗费大量字符,而 TOON 将嵌套对象转为 YAML 风格段落,并对等长数组采用表格化处理。

图片图片

这种 CSV 化展开使令牌量比标准 JSON 减少55%,比压缩 JSON 减少25%,比 YAML 减少38%。

这意味着当数据结构稳定、键值重复率高时,TOON 能把原本分散在多行的字段名集中到声明区域,再通过逗号分隔的记录来传输实际值,从而最大程度压缩上下文长度。

何时适合采用 TOON

根据作者总结,TOON 实现了 YAML 与 CSV 特性的完美平衡。

对于层级极深的对象,YAML 仍可能更高效;而对于完全扁平化的批量数据,纯 CSV 格式更为精简。当你既需要表达嵌套结构又要描述规整数组时,TOON 的“字段声明+表格体”组合就能展现独特优势。

其字段头与数组声明部分约带来5%的额外开销,但换来的是更少的解析错误与更清晰的结构提示。

准确率与开发者反馈

在社交平台上,贡献者 Johann Schopplich 分享了针对 GPT-5 Nano 的测试成果:

在约160个问题和3个模型的语义验证中,TOON 的回答准确率达到99.4%,并在不牺牲准确性的前提下削减46%令牌。显式声明数组长度与字段列表,能让模型减少推断结构所需的上下文,从而降低幻觉与格式错误风险。

“显式长度+字段列=更少错误。”

如何开始使用

TypeScript/JavaScript 参考实现托管在 github.com/toon-format/toon,包含编码器、解码器、CLI 工具以及性能基准测试。

图片

TOON 1.0 于两周前基于 MIT 许可证发布,允许团队自由集成到现有提示管理流程。在构建高实时性场景时,建议同步比较首个令牌时间(TTFT)与每秒令牌数,确保压缩后的格式不会拖慢响应速度。

部署前建议遵循以下检查要点:

•提示对齐 - 在系统提示中明确要求模型返回 TOON 格式,以减少格式偏差。

•数据抽样 - 针对典型 payload 比较 JSON、YAML 与 TOON 的实际 token 数量,锁定收益最大的场景。

•推理指标 - 同步记录准确率、TTFT 和吞吐量,防止仅关注成本而忽略稳定性。

为什么值得关注

在企业级语言代理场景中,提示上下文往往包含复杂指令、示例说明、数据库行和元数据。

TOON 的设计让开发者能够延续熟悉的 JSON 数据模型工作模式,同时获得可观的 Token 节约空间,并保持良好的人类可读性。这种低门槛的优化方案,为实现“不换模型却降本增效”的目标提供了新的技术路径。

来源:https://www.51cto.com/article/830454.html
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

Lynx 帮助用户轻松创建应用,提供丰富的工具和资源
AI
Lynx 帮助用户轻松创建应用,提供丰富的工具和资源

Lynx产品介绍 聊到让应用开发化繁为简,Lynx这个平台就值得仔细看看了。它的核心目标很明确:帮助每个人,无论技术背景如何,都能轻松地把一个想法变成可用的应用程序,无论是网页还是小程序。从灵光一现到产品上线,仿佛真的只有一句话的距离。 首次登录福利:新用户注册后,平台会直接赠送30,000 tok

热心网友
04.19
dyson空气净化器的清洁和维护方法
电脑教程
dyson空气净化器的清洁和维护方法

日常清洁与滤网维护保持空气净化器高效运行的基础在于定期清洁和维护其核心部件。对于机身外部,建议每周使用柔软的干布轻轻擦拭,以去除灰尘。对于出风口格栅等容易积聚灰尘的部位,可以使用附带的小刷子或吸尘器的软毛刷附件进行清理。切勿使用湿布、清洁剂或抛光剂,以免损坏机身表面或导致液体进入机器内部。滤网是净化

热心网友
04.19
Storyleo
AI
Storyleo

Storyleo Bedtime Stories AI是什么 想为孩子创造独一无二的睡前时光吗?Storyleo Bedtime Stories AI正是为此而生。这款由Atoapps团队精心打造的应用程序,核心就是用人工智能技术,为孩子们生成那些能牢牢抓住他们注意力、激发无限想象的睡前故事。它精准

热心网友
04.19
斗罗大陆诛邪传说手游上线时间揭晓斗罗大陆诛邪传说开服公告与预约入口
游戏攻略
斗罗大陆诛邪传说手游上线时间揭晓斗罗大陆诛邪传说开服公告与预约入口

提到兼具东方玄幻底蕴与异界探索魅力的手游新作,不少玩家第一时间联想到的便是《斗罗大陆:诛邪传说》。 作为一款获得斗罗大陆正版IP授权的开放世界冒险手游,它自开启限量测试以来,便持续吸引着核心粉丝与泛用户的广泛关注。目前,玩家们最为热议的核心话题无疑是:这款备受期待的大作,究竟何时才能迎来全面公测?

热心网友
04.19
DigiDo's
AI
DigiDo's

DigiDo s是什么 在远程工作成为新常态的今天,如何高效管理时间,尤其是跨越不同时区协同工作,成了一个普遍的挑战。于是,像DigiDo s这样的工具便应运而生。简单来说,这是一款专为数字游民、远程工作者和自由职业者设计的现代化时间管理平台。它由一群专注于效率提升的科技开发者打造,目标很明确:帮助

热心网友
04.19