输入一个热词,快速查看术语含义、常见场景和相关概念。
集中展示常见热词解释,方便按概念和场景继续浏览。
Preference Dataset(偏好数据集)是一组包含人类对不同AI输出偏好判断的标注数据,通常用于RLHF(基于人类反馈的强化学习)过程。它通过对比两个或多个模型回答,由标注者选出更符合人类期望的答案,从而让大模型学会区分好坏、避免有害或错误输出。
近期常被查询的 AI 概念。