NVIDIA今日宣布推出多項新服務和產品，旨在幫助企業更快速、更精準地開發和部署客製化生成式AI應用。其中，企業和國家可以透過 NVIDIA AI Foundry 使用自己的資料並搭配 Llama 3.1 405B 和 NVIDIA Nemotron 模型來建立「超級模型」。

NVIDIA AI Foundry 提供全面的生成式 AI 模型服務，涵蓋集合管理、合成資料產生、微調、檢索、防護和評估，並且協助企業使用最新的Llama 3.1開源模型系列，為特定領域創建客製化的「超級模型」。AI Foundry由NVIDIA DGX Cloud AI平台驅動，根據需求靈活擴展運算資源。

創始人兼CEO黃仁勳表示「Llama 3.1模型的開放發布代表著企業採用生成式AI的關鍵時刻。NVIDIA AI Foundry已全面整合Llama 3.1，準備協助企業建置和部署客製化的Llama超級模型。」

Llama 3.1模型的NIM（NVIDIA Inference Microservices）推論微服務，相比不使用NIM，可將推論吞吐量提高2.5倍。企業可通過ai.nvidia.com網站下載使用。

此外，NVIDIA還推出了NeMo Retriever NIM微服務，可與Llama 3.1 NIM配合使用，為AI應用提供高精度的檢索增強生成（RAG）能力。NeMo Retriever包含最新的嵌入和重新排序模型，可顯著提升AI回答的準確性。

以下文章來自: https://www.chinatimes.com/realtimenews/20240724002554-260410