微软研发规模达5000亿参数的AI大模型,挑战谷歌和OpenAI

科技 2024-05-07 15:01 阅读:

微软最新研发的AI大模型MAI-1规模庞大,达到5000亿个参数,超越了此前推出的开源模型。这一举措被认为是微软对谷歌和OpenAI发起的挑战,旨在在人工智能领域取得领先地位。

MAI-1的开发由前谷歌AI领导人穆斯塔法·苏莱曼领导,微软从AI初创公司Infection挖走了苏莱曼和其他关键人员,支付了超过6.5亿美元。这款全新的大语言模型将在性能上与谷歌的Gemini 1.5、Anthropic的Claude 3和OpenAI的GPT-4等知名大模型相匹敌。

为了训练MAI-1模型,微软配置了大量包含英伟达GPU的服务器集群,并收集了各类训练数据,包括来自OpenAI的GPT-4生成的文本和公共互联网数据。这使得MAI-1与OpenAI的GPT-4在参数规模上相似,后者据传拥有超过1万亿个参数。

微软在AI领域采取了双重策略,一方面为移动设备开发小型本地模型,另一方面开发由云端支持的更大规模的模型。MAI-1的确切用途尚未确定,但体现了微软不希望完全依赖于合作伙伴OpenAI的技术。

微软首席技术官凯文·斯科特在领英上表示,公司正在构建AI模型,并计划囤积180万块AI芯片,预计将在GPU和数据中心上花费约1000亿美元。这一举措旨在实现在AI领域的突破,确保微软在未来取得更大的成功。