据可靠消息透露,Meta 预计将于7月23日正式发布其下一代开源大语言模型——Llama 3-405B。该消息源自科技媒体 The Information,他们引用内部员工爆料,明确指出了具体发布时间。若消息属实,这将是 Llama 3 家族中规模最大的成员:在已有的 80 亿和 700 亿参数版本之外,新增一个 4050 亿参数的超级模型。按照 Meta 的说法,这将成为目前最强大的开源大语言模型。

事实上,这一重量级模型的预告早在今年4月就已埋下伏笔。当时 Meta 正式发布 Llama 3 系列之际,扎克伯格曾在采访中透露,他们正在训练一个 4050 亿参数的密集模型,但并未披露更多细节。如今看来,这个庞大的模型终于即将亮相。
注:上图为机翻字幕,可能存在错误
此外,报道还指出,Llama 3-405B 是一款多模态 AI 开源模型,不仅具备传统的文本理解能力,还能处理图像、视频等多种媒体内容。这意味着其应用场景远比纯文本模型更为广泛。
从社交媒体上公开的信息来看,已有开发者开始对这款尚未正式发布的模型进行上手测试。这或许也从侧面反映出,Meta 内部正在进行小范围的灰度部署或早期合作测试。
