上海科技大学近日发布了一项重磅成果——一款名为CLAY的AI模型,能够直接从文字描述或2D图像中“捏”出精细的3D物体。相比于以往的技术,CLAY在生成质量与多样性上实现了质的飞跃,引发了业内广泛关注。

CLAY的核心架构别出心裁:一个多分辨率变分自编码器(VAE)配合一个扩散变换器(DiT)。简而言之,VAE负责将不同细节层次的3D形状压缩到潜在空间,而DiT则在此基础上“脑补”出完整的形状。与许多其他系统不同的是,CLAY直接处理3D数据,绕过了先转换为2D图像的中间步骤,从而保留了更多的空间信息。
在训练数据方面,CLAY消化了超过50万种3D模型,涵盖了从日常小物件到幻想生物的广阔范围。更值得一提的是,它还支持额外的控制信号——只需提供一个粗略的形状(例如体素结构或点云),或者绘制一个边界框,就能精准输出所需结果。这种灵活性意味着它可以直接生成整个城市场景,或者从手绘草图中重建出精细的3D模型,应用想象力空间巨大。
与Shap-E、DreamFusion、Wonder3D等系统正面较量时,CLAY的优势相当突出。无论是文字转3D还是图像转3D,它生成的几何形状更加一致,表面更光滑,细节也更丰富。而且生成速度惊人:大约只需45秒就能产出一个高质量3D资产——作为对比,某些系统可能需要优化数小时才能达到类似效果。
应用前景方面,游戏开发、影视制作、3D打印等领域无疑都是大市场。当然,研究团队也清醒地认识到AI生成虚拟内容可能带来的风险,因此正在积极规划加入更多安全机制,确保技术用于正当用途。
至于未来方向,研究人员计划继续扩充训练数据、提升模型质量,最终将几何生成与材料合成整合到同一模型中,打造一个全能型的3D生成引擎。值得一提的是,一项名为Rodin的服务已经可以体验CLAY的部分能力,感兴趣的朋友不妨前去一试。
总结来看:CLAY的出现让3D内容生成从“雕石头”变成了“写作文”——门槛大幅降低,效率显著提升,质量也同步走高。对整个行业而言,这无疑是一个值得密切关注的信号。
