每經記者 楊卉    每經編輯 梁梟    

7月24日，《每日經濟新聞》記者從英偉達處獲悉，英偉達推出了全新NVIDIA AI Foundry服務和NVIDIA NIM^TM推理微服務，與同樣剛推出的Llama 3.1系列開源模型一起，為全球企業提供生成式AI相關服務。

根據英偉達方面的數據，Llama 3.1多語種大語言模型（LLM）集合是一個具有8B、70B和405B三種參數規模的生成式AI模型集合。當與適用于Llama 3.1 405B的NVIDIA NIM推理微服務結合使用時，NeMo Retriever NIM微服務可以為RAG工作流中的開放和商業文本問答帶來極高的檢索準確性。NVIDIA AI Foundry能提供一種可用于快速構建自定義超級模型的端到端服務。

根據英偉達的說法，借助NVIDIA AI Foundry，企業能使用Llama 3.1模型和NVIDIA NeMo平臺（包含在Hugging Face RewardBench上排名第一的NVIDIA Nemotron-4 340B Reward模型）創建自定義模型；還可以使用自有數據以及由Llama 3.1 405B和NVIDIA Nemotron Reward模型生成的合成數據，來訓練這些超級模型。

創建自定義模型后，企業可構建NVIDIA NIM推理微服務，以便在其首選的云平臺和全球服務器制造商提供的NVIDIA認證系統上，使用自己選擇的最佳機器學習運維（MLOps）和人工智能運維（AIOps）平臺在生產中運行這些模型。

英偉達創始人兼首席執行官黃仁勛提出，Llama 3.1開源模型標志著全球企業采用生成式AI的關鍵時刻已經到來，Llama 3.1將掀起各個企業與行業創建先進生成式AI應用的浪潮。

Meta創始人兼首席執行官馬克·扎克伯格則表示，全新的Llama 3.1模型是開源AI邁出的極其重要的一步，英偉達還和Meta一起為Llama 3.1提供了一種提煉方法，供開發者為生成式AI應用創建更小的自定義模型。