Nvidia和Llama 3.1帮助企业构建超级计算机

英伟达是一家跨国公司和技术公司，宣布推出一项新服务，帮助企业和国家使用Meta最新的LLM Llama 3.1构建定制和专用的超级计算机。

Nvidia发布了两项针对企业和国家的新服务。这家科技巨头在Nvidia AI Foundry中发布了一项服务，并在Nvidia NIM中发布了推理微服务。这两项服务都利用了Meta最新的开源LLM库Llama 3.1，并可以创建生成式AI超级计算机。

Nvidia AI Foundry将帮助企业和国家创建针对特定行业要求和需求定制的超级LLM模型。这可以通过使用Llama 3.1和Nvidia的软件、硬件和人才来实现。企业和国家将可以选择使用Llama 3.1和英伟达Nemotron奖励模型生成的专有数据或合成数据来训练这些超级模特。

另请阅读：埃隆·马斯克表示，特斯拉将于2025年开始使用人形机器人

今天发布的Llama 3.1有4050亿个参数，可以与ChatGPT和Gemini等闭源AI模型竞争。Meta通过提供与模型一起工作的其他组件来不断改进Llama。Meta和Nvidia合作将Llama 3.1集成到Nvidia的服务中，从一开始就提供该解决方案。英伟达首席执行官黄仁勋表示：，

“…NVIDIA AI Foundry已全面集成Llama 3.1，并准备帮助企业构建和部署定制的Llama超级模型。”

Llama 3.1的生成AI模型在16000多个Nvidia H100 Tensor Core GPU上训练。此外，它们还针对Nvidia的加速计算和软件进行了优化，可以在数据中心、云端和GPU驱动的个人电脑上进行部署。

另请阅读：Meta发布了Llama 3 AI模型的最大版本

目前，全球许多公司都可以为Llama使用NIM微服务。埃森哲是第一个为阿美、AT&T和优步定制Llama超级模特的客户。这些公司将率先使用Llama 3.1访问NIM微服务。成功创建自定义模型后，企业可以选择Nvidia的微服务、OP平台和云平台来运行模型。

上周，Mistral AI与Nvidia合作发布了一款名为Mistral NeMo的新12B型号。该模型可作为Nvidia NIM推理微服务提供。关于新的GPU硬件，一位泄密者声称，硬件技术公司将仅针对中国市场发布新一代RTX 5090D。新的GPU将成为RTX 4090D的继任者。