Nvidia和Llama 3.1帮助企业构建超级计算机

2024-07-31 17:19

英伟达是一家跨国公司和技术公司,宣布推出一项新服务,帮助企业和国家使用Meta最新的LLM Llama 3.1构建定制和专用的超级计算机。

英伟达是一家跨国公司和技术公司,宣布推出一项新服务,帮助企业和国家使用Meta最新的LLM Llama 3.1构建定制和专用的超级计算机。

Nvidia发布了两项针对企业和国家的新服务。这家科技巨头在Nvidia AI Foundry中发布了一项服务,并在Nvidia NIM中发布了推理微服务。这两项服务都利用了Meta最新的开源LLM库Llama 3.1,并可以创建生成式AI超级计算机。

Nvidia AI Foundry将帮助企业和国家创建针对特定行业要求和需求定制的超级LLM模型。这可以通过使用Llama 3.1和Nvidia的软件、硬件和人才来实现。企业和国家将可以选择使用Llama 3.1和英伟达Nemotron奖励模型生成的专有数据或合成数据来训练这些超级模特。

另请阅读:埃隆·马斯克表示,特斯拉将于2025年开始使用人形机器人

今天发布的Llama 3.1有4050亿个参数,可以与ChatGPT和Gemini等闭源AI模型竞争。Meta通过提供与模型一起工作的其他组件来不断改进Llama。Meta和Nvidia合作将Llama 3.1集成到Nvidia的服务中,从一开始就提供该解决方案。英伟达首席执行官黄仁勋表示:,

“…NVIDIA AI Foundry已全面集成Llama 3.1,并准备帮助企业构建和部署定制的Llama超级模型。”

Llama 3.1的生成AI模型在16000多个Nvidia H100 Tensor Core GPU上训练。此外,它们还针对Nvidia的加速计算和软件进行了优化,可以在数据中心、云端和GPU驱动的个人电脑上进行部署。

另请阅读:Meta发布了Llama 3 AI模型的最大版本

目前,全球许多公司都可以为Llama使用NIM微服务。埃森哲是第一个为阿美、AT&T和优步定制Llama超级模特的客户。这些公司将率先使用Llama 3.1访问NIM微服务。成功创建自定义模型后,企业可以选择Nvidia的微服务、OP平台和云平台来运行模型。

上周,Mistral AI与Nvidia合作发布了一款名为Mistral NeMo的新12B型号。该模型可作为Nvidia NIM推理微服务提供。关于新的GPU硬件,一位泄密者声称,硬件技术公司将仅针对中国市场发布新一代RTX 5090D。新的GPU将成为RTX 4090D的继任者。

免责声明:星云链(XingYunLian.com)对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。文章仅是作者个人观点,不应作为投资依据。读者应详细了解所有相关投资风险,并请自行承担全部责任。部分文章是网络作者投稿发布,版权归投稿作者所有。作者应对文章及图片的真实性及版权负责。一旦因此引发版权纠纷,权利人提出异议,星云链(XingYunLian.com)将根据相关法律法规的规定,删除相应内容。侵权责任由投稿者自行承担,如由此造成星云链(XingYunLian.com)损失,投稿者应承担赔偿责任。如对本文有任何异议,请联系我们。