大模型生成合法JSON格式，看似基础操作，实际要稳定输出可解析结构却是一项系统工程。很多人在面试或实际开发中遇到过这样的困境——模型说得头头是道，但最终输出的JSON要么少了个引号，要么多了个逗号，导致解析失败。这里分享几个经过实战验证的有效策略：从提示工程到解码约束，再到后处理校验，层层递进，帮你系统解决这一痛点。

1. Prompt工程

给模型提供几个“输入-输出”示例（Few-Shot），它能快速掌握任务模式。简单来说，就像给新手示范两次，后续它就能独立完成任务。

实践示例：

请严格按以下JSON格式回答，确保可直接被`json.loads()`解析：

示例1：
输入: "列出两种编程语言"
输出: {"languages": ["Python", "Ja vaScript"]}

示例2：
输入: "告诉我巴黎的人口和面积"
输出: {"city": "Paris", "population": 2148000, "area_km2": 105.4}

现在请回答：
输入: "提供三个颜色名称和其16进制代码"
输出:

注意，示例应尽可能覆盖你的目标场景——字段类型、嵌套结构、边界情况都要包含。模型虽然聪明，但你需要为它设定清晰的“靶心”。

2. 解码约束

核心思路是在模型生成每个token时，通过预定义规则对候选token进行过滤，仅保留符合JSON语法的选项。听起来有些抽象，举个例子就清晰了。

假设我们要构造一个包含"name"和"age"的JSON，其中"age"必须是数字：

{ "name": "Shuai", "age": 88 }

约束规则可以描述为：

• 以 { 符号起始
• 接着是 "name":
• 然后是一个被双引号包裹的字符串
• 紧接着是 ,
• 之后是 "age":
• 再跟着一个数字
• 最后以 } 符号结束

这种方法的优势在于——只要规则定义周全，输出一定是合法JSON。但代价也很明显：效率极低。每生成一个token都要进行语法上下文检查，推理速度会降低一个数量级。因此实际应用中，通常只在精度要求极高的场景（比如金融、医疗领域）才使用这一技术。

3. 后处理校验

这是最简单粗暴但最实用的方法：生成完成后，用外部工具（如Python的json.loads()）检验合法性，如果报错就让模型重新生成。可以配合重试机制，例如最多尝试3次，若仍不行则回退到提示词微调。

但有一个实用技巧：第一次失败后，将错误信息（比如“第5行第8列存在非法字符”）直接回传给模型，要求其“修正”而非“重写”。这样第二次生成的成功率会显著提升。

总结来看，三种方法各有适用场景：Prompt工程适合快速迭代，解码约束适用于严格合规，后处理校验适合灵活兜底。实际项目中往往组合使用——先用Prompt工程保证大部分输出正确，再用后处理校验兜底，仅在极少数关键场景才启用解码约束。掌握这套组合策略，面试官问起来也能从容应对。