12月10日，IT之家消息，麻省理工学院与Empirical Health的研究团队共同开发了一项突破性技术。他们利用了高达300万“人-天”的Apple Watch健康监测数据，成功训练出一个基础预测模型。该模型能够以极高的准确性，预测用户可能面临的多种健康风险状况。

技术背景

这项研究的理念基础，源于Yann LeCun在担任Meta首席人工智能科学家期间提出的“联合嵌入预测架构”。该架构的核心思想在于：让人工智能系统学会推理缺失数据所代表的抽象含义，而非试图直接重建缺失的数据本身。

简单来说，当模型面对数据中的空白时，它学习的是如何根据上下文推断缺失部分的语义表征，而不是去猜测其精确的数值。这是一种更接近人类理解世界的方式。

举例而言，在处理一张部分内容被遮挡的图像时，JEPA架构会将可见区域与遮挡区域共同映射到一个共享的嵌入空间中。模型会根据可见部分来推断被遮挡区域的特征表征，而不是费力去还原原始像素内容。

2024年，Meta发布名为I-JEPA的模型时，曾这样阐述这一理念的前景：

去年，Meta首席AI科学家Yann LeCun提出了一种全新的架构，旨在克服当前最先进AI系统的关键局限。他的愿景是构建能够学习‘世界内部模型’的机器，使其能够更快地学习、规划复杂任务，并迅速适应陌生情境。

据IT之家了解，自LeCun最初提出JEPA以来，这一架构已成为“世界模型”研究领域的基石。它标志着AI研究范式正从大型语言模型和GPT类系统所依赖的“词元预测”，转向更注重对环境动态进行建模的全新方向。

事实上，LeCun近期已离开Meta，创立了一家专注于“世界模型”研发的公司。他认为，这条道路才是通往通用人工智能的真正路径。

回归研究核心：300万“人-天”的智能手表数据

回到当前这项研究。数月前发表的论文《JETS：面向医疗健康行为数据的自监督联合嵌入时间序列基础模型》近日已被NeurIPS会议的一个研讨会接收。

该研究成功地将JEPA的联合嵌入方法，适配于不规则的、多变量的时间序列数据之中。例如来自可穿戴设备的长期健康监测数据，其心率、睡眠、活动量等指标在时间上常呈现不连续性或存在大量缺失。

研究团队使用的纵向数据集包含了16，522名参与者的可穿戴设备记录，总计约300万“人-天”。每位参与者每日记录了63项不同的时间序列指标，覆盖五大生理与行为领域：心血管健康、呼吸健康、睡眠、身体活动及一般统计信息。

一个值得注意的挑战是，仅有15%的参与者拥有可用于评估的标注医疗史。这意味着在传统监督学习框架下，高达85%的数据将被视为无效。而JETS模型则首先在整个数据集上通过自监督预训练进行学习，随后仅在拥有标签的子集上进行微调，从而充分利用了海量未标注数据的价值。

为实现这一目标，研究人员将每条观测数据构造成“三元组”，从而将每个观测值转化为一个“语义单元”。这些单元随后经过掩码处理、编码，并输入预测器，用以预测被掩码片段的嵌入表示。

完成训练后，研究人员将JETS与多个基线模型进行对比，并采用AUROC和AUPRC两项标准指标，评估模型在区分阳性与阴性病例方面的表现。

结果显示，JETS在多项疾病预测中表现优异：高血压预测AUROC达86.8%，房颤为70.5%，慢性疲劳综合征为81%，病态窦房结综合征亦达到86.8%。尽管并非在所有任务中均胜出，但其整体优势显而易见。

需要强调的是，AUROC和AUPRC并非严格意义上的“准确率”指标，而是用于衡量模型对潜在病例进行排序或优先级判断能力的综合指标。

总结

总体而言，这项研究提出了一种极具前景的方法，能够从通常被视为“不完整”或“不规则”的健康数据中提取最大价值。甚至在数据极端不平衡的情况下——即某些指标仅在0.4%的时间内被记录，而另一些指标出现在99%的日常读数中——模型依然展现出有效学习和预测的能力。

此外，该研究进一步印证了一个重要观点：即便如Apple Watch等日常可穿戴设备并非全天候佩戴，其已收集的海量数据仍蕴含巨大潜力。通过新型模型架构与训练策略，有望释放其在疾病早期预警和健康管理中本应具有的生命健康价值。