Meta确认LLaMA 3下月登场,参数量或超1400亿

每日热点 2024-04-11 09:40 阅读:

Meta即将推出全新的开源大模型LLaMA 3,消息在伦敦的一场活动上正式宣布。下月,LLaMA 3将正式登场,备受期待。虽然具体参数规模尚未公布,但Meta人工智能研究副总裁Joelle Pineau强调,公司致力于打造全球最实用的Meta AI助手,这需要付出大量的努力和投入。

据科技媒体The Information报道,LLaMA 3将是与GPT-4相抗衡的模型,其大规模版本参数量可能超过1400亿,远超LLaMA 2最大版本的700亿。LLaMA 3将具备多模态处理能力,可以同时处理文本和图像,这将为用户带来更加丰富的体验。

值得一提的是,LLaMA 3将延续Meta的开源传统。当前开源模型市场竞争激烈,谷歌、xAI、Mistral AI、StabilityAI等公司纷纷发布强大的开源大模型。然而,Meta在AI基础设施投资方面展现出显著实力,其计算能力储备仅次于微软。据悉,到2024年底,Meta将新增350000个英伟达H100 GPU,总计算能力相当于约600000个H100,投资规模高达约105亿美元。

LLaMA 3的推出标志着Meta在开源模型领域的持续领导地位,将继续推动LLM的小型化和平民化研究。Meta相信,开源模型在安全性、效率和成本效益上具有优势,通过社区审查和开发,能够促进技术的广泛传播和应用。

尽管具体参数规模尚未公布,但据The Information推测,LLaMA 3的大规模版本参数量可能超过1400亿,较LLaMA 2最大版本翻倍。随着谷歌、xAI等公司转向开源策略,开源大模型的竞争日益激烈。作为开源模型领域的领军者,Meta在AI基础设施上的投资力度不容小觑,将继续致力于构建开放且负责任的通用人工智能(AGI),造福大众。

扎克伯格因在AI领域的巨额投入,福布斯2024全球亿万富豪榜上跃居第四,个人资产净值达到历史新高1770亿美元,过去一年资产净值增长1126亿美元,增幅高达174.8%。Meta的未来可期,LLaMA 3的发布将为开源模型领域带来新的活力和机遇。