近日，英伟达宣布与大型语言模型开发商 Mistral AI 达成合作，旨在加速开发和部署一系列新的开放源模型。根据双方的合作协议，英伟达将利用其强大的平台来支持 Mistral 最新推出的模型家族 ——Mistral 3。
Mistral 3 系列被描述为开放源、多语言和多模态的，且针对英伟达的超级计算和边缘平台进行了优化。该模型采用混合专家（MoE）架构，这种架构的特点是只有与特定任务相关的部分会被激活，从而实现更高效和更精确的部署。英伟达表示，结合其 GB200 NVL72 系统与 Mistral 的 MoE 架构，将使企业能够更高效地部署和扩展大型模型，充分利用 “先进的并行性” 和硬件优化。
Mistral 3 模型具有 410 亿个活跃参数、6750 亿个总参数以及 256K 的大上下文窗口，能够为企业 AI 工作负载提供良好的可扩展性、效率和适应性。双方还透露，该新模型将于 12 月 2 日全面上线，可在云端、数据中心及边缘设备上使用。
此次合作还延续了两家公司之前的合作基础，包括为聊天机器人和编码任务开发的 Mistral NeMo 12B 语言模型。Mistral 还发布了九个小型语言模型，旨在帮助开发者在各种设备上运行 AI。这些模型设计用于在英伟达的硬件上运行，包括 Spark、RTX PC 和笔记本电脑，以及 Jetson 设备。开发者可以通过 AI 框架 Llama.cpp 和 Ollama 访问这些模型。
Mistral 3 家族对研究人员和开发者开放，这一举措被认为是帮助 “民主化” 前沿 AI 的努力。值得一提的是，英伟达还在同一周内宣布对芯片制造商 Synopsys 投资 20 亿美元，这进一步强调了公司在 AI 和计算领域的实力。
划重点：