GTC——Oracle 和 NVIDIA 今天宣布將 NVIDIA 加速計算和推理軟體與 Oracle 的 AI 基礎設施和生成式 AI 服務進行首次集成，以幫助全球組織加快創建代理 AI 應用程式。
Oracle 雲端基礎架構 (OCI) 與 NVIDIA AI Enterprise 軟體平台之間的新整合將使 160 多種 AI 工具和 100 多種 NVIDIA NIM™ 微服務可透過 OCI 控制台原生使用。此外，Oracle 和 NVIDIA 正在合作實作 Oracle 和 NVIDIA AI 藍圖的無程式碼部署，並使用 NVIDIA cuVS 函式庫加速 Oracle Database 23ai 中的 AI 向量搜尋。
甲骨文執行長薩弗拉·卡茲 (Safra Catz) 表示：“甲骨文已成為人工智慧訓練和推理的首選平台，此次合作增強了我們幫助客戶實現更大創新和業務成果的能力。” “NVIDIA 的產品與 OCI 的靈活性、可擴展性、性能和安全性相結合，將加速 AI 的採用並幫助客戶從其數據中獲取更多價值。”
NVIDIA 創辦人兼執行長黃仁勳表示：“Oracle 和 NVIDIA 是推理時代的完美合作夥伴——一家人工智慧和加速計算公司與處理全球大量企業數據的關鍵參與者合作。” “我們共同幫助企業利用代理人工智慧進行創新，為他們的客戶和合作夥伴提供令人驚嘆的產品。”
滿足企業 AI 需求的專用解決方案
NVIDIA AI Enterprise 將透過 OCI 控制臺本地提供，從而減少部署推理模型所需的時間，使客戶能夠快速輕鬆地存取 AI 工具，包括 NVIDIA NIM – 一組針對領先 AI 模型優化的 100 多種雲原生推理微服務，包括用於高級 AI 推理的最新 NVIDIA Llama Nemotron 模型。
NVIDIA AI Enterprise 將作為 OCI 裸機實例和使用 OCI Kubernetes Engine 的 Kubernetes 叢集的部署映像。 OCI 控制台客戶可享有透過 Oracle 直接計費和客戶支援的好處。
企業可以在資料中心、公有雲或邊緣部署 OCI 的 150 多種 AI 和雲端服務，以及 NVIDIA 加速運算和 NVIDIA AI Enterprise。該產品提供了整合的 AI 堆疊，以幫助解決資料隱私、自主 AI 和低延遲要求。
生物技術公司 Soley Therapeutics 正在部署 OCI AI 基礎設施、NVIDIA AI Enterprise 和 NVIDIA Blackwell GPU，以建立其 AI 藥物發現平台，透過捕捉、解碼和解釋細胞語言來預測細胞命運，從而解鎖複雜疾病的可能治療方法。
Soley Therapeutics 聯合創始人兼首席執行官 Yerem Yeghiazarians 表示：“我們相信人工智慧在開發新解決方案方面的潛力，這些解決方案可以幫助治療癌症和其他複雜疾病。” “OCI 和 NVIDIA 的結合提供了全端 AI 解決方案，為我們在開發 AI 藥物發現平台時利用 PB 級數據更快地進行創新提供了必要的存儲、計算、軟體工具和支持。”
利用客製化藍圖大規模部署人工智慧
OCI AI Blueprints 提供無程式碼部署方案，使客戶能夠快速運行 AI 工作負載，而無需對軟體堆疊做出決策或手動配置基礎架構。該藍圖為 NVIDIA GPU、NIM 微服務和預先包裝的可觀察性工具提供了明確的硬體建議，幫助企業將其 AI 專案的時間從數週縮短至數分鐘。
此外，NVIDIA Blueprints 為開發人員提供了跨 NVIDIA 堆疊的統一體驗，為企業 AI 用例提供了參考工作流程。使用 NVIDIA Blueprints，組織可以使用 NVIDIA AI Enterprise 和 NVIDIA Omniverse™ 軟體、應用程式介面和微服務建置和運行客製化 AI 應用程式。例如，開發人員可以從針對客戶服務 AI 助理的 NVIDIA AI 藍圖開始，並根據自己的用途進行客製化。
為了簡化高階實體 AI 和類比應用程式及工作流程的開發、部署和擴展，NVIDIA Omniverse 平台和 NVIDIA Isaac Sim™ 開發工作站以及 Omniverse Kit App Streaming 預計將於今年稍後在 Oracle 雲端基礎設施市場上線，並預先配置了由 NVIDIA L40S GPU 加速的運算裸機實例。
Pipefy 是用於業務流程管理的人工智慧自動化平台，它使用推理藍圖進行文件預處理和影像處理。
Pipefy 首席軟體工程師 Gabriel Custodio 表示：“我們採用 OCI AI Blueprints 來啟動 NVIDIA GPU 節點並快速部署多模式大型語言模型，以滿足文件和圖像處理用例的需求。” “使用這些預先打包並經過驗證的藍圖，在 OCI 上部署我們的 AI 模型現在完全自動化，而且速度顯著加快。”
OCI 資料科學中使用 NVIDIA NIM 進行即時 AI 推理
為了進一步加速企業 AI 的採用並協助以最少的設定實現快速的 AI 部署，資料科學家可以直接在 OCI Data Science 中存取預先最佳化的 NVIDIA NIM 微服務。這支援即時 AI 推理用例，而無需管理基礎架構的複雜性。
為了幫助維護資料安全性和合規性，模型在客戶的 OCI 租賃中運作。客戶可以透過靈活的、現收現付、以小時定價模式購買這些模型，或使用他們的 Oracle 通用積分。
組織可以使用此整合在幾分鐘內部署具有預先配置、優化的 NIM 推理引擎的推理端點，從而快速加快 AI 助理、即時推薦引擎和副駕駛等用例的價值實現時間。此外，這允許客戶開始使用整合來處理較小的工作負載，並無縫擴展到企業範圍的部署。
NVIDIA 加速運算平台增強 Oracle 資料庫 23ai 中的 AI 向量搜尋
Oracle 和 NVIDIA 正在合作使用 NVIDIA GPU 和 NVIDIA cuVS 加速建立向量嵌入和向量索引（Oracle Database 23ai 中 AI 向量搜尋工作負載的運算密集部分）。
組織可以透過對大量輸入資料（例如文字、圖像和影片）進行批次向量化以及快速建立和維護向量索引來實現向量嵌入。借助 NVIDIA 加速的 AI 向量搜索，Oracle 資料庫客戶可以顯著提高其 AI 管道的性能，以幫助支援大量 AI 向量工作負載。
DeweyVision 提供先進的電腦視覺和人工智慧功能，將媒體轉化為數據，使其可存取、可搜尋、可發現、可檢索和可操作。 DeweyVision 在 Oracle 自治資料庫上使用 Oracle Database 23ai 作為其 AI 驅動的無程式碼倉儲工具。這些工具使製作專業人員能夠連接他們的工作流程，透過在幾分鐘內對素材進行分類並提供直覺的搜尋功能來快速編輯影片素材。
DeweyVision 執行長 Majid Bemanian 表示：“帶有 AI Vector Search 的 Oracle Database 23ai 可以顯著提高 Dewey 的搜尋性能，同時提高 DeweyVision 平台的可擴展性。” 「使用 NVIDIA GPU 建立我們載入到 Oracle 資料庫中的向量嵌入可加速我們平台對新資料的提取，而 Autonomous Database 和 Oracle Database 23ai 的融合功能將有助於在我們發展和開拓新機遇的同時降低營運成本。我們相信，DeweyVision、Oracle Database 23ai 和在 ONVIA 中運作的
NVIDIA Blackwell 談 OCI 輔助 AI 無所不在
Oracle 和 NVIDIA 繼續在 OCI 的公共區域、政府雲端、主權雲、OCI 專用區域、Oracle Alloy、OCI Compute Cloud@Customer 和 OCI Roving Edge 設備中推出新的 NVIDIA GPU 類型，以改善 AI 基礎架構。
這包括 NVIDIA Quantum-2 InfiniBand 叢集網路環境、NVIDIA Spectrum™ 乙太網路交換器以及針對市場上一些最大的 AI 超級叢集最佳化的 NVIDIA NVLink™ 和 NVLink 交換器功能。
OCI 將在 OCI 超級叢集上提供 NVIDIA GB200 NVL72 系統（即將上市，最多可搭載 131,072 個 NVIDIA GPU），並且正在接受搭載 NVIDIA Blackwell Ultra GPU 的雲端最大 AI 超級電腦之一的訂單。
OCI 將成為首批提供新一代 NVIDIA Blackwell 加速運算平台的雲端服務供應商之一。 Blackwell Ultra 基於一年前推出的突破性 Blackwell 架構構建，包括 NVIDIA GB300 NVL72 機架級解決方案和 NVIDIA HGX™ B300 NVL16 系統。 GB300 NVL72 的 AI 性能比 NVIDIA GB200 NVL72 高出 1.5 倍，同時與使用 NVIDIA Hopper™ 建造的工廠相比，Blackwell 的 AI 工廠的收入機會提高了 50 倍。
SoundHound 是會話智慧領域的全球領導者，提供語音和會話 AI 解決方案，為全球品牌數百萬種產品提供語音相關體驗。其語音AI平台運行在OCI上，每年處理數十億次查詢，並使用NVIDIA GPU為客戶提供快速、準確的語音服務。
SoundHound AI 首席產品長 James Hom 表示：“SoundHound 與 OCI 建立了長期合作關係，我們相信我們持續的合作將在支持未來成長方面發揮關鍵作用。” “NVIDIA GPU 將極大地加速我們下一代語音 AI 的訓練。”
來源：NVIDIA Newsroom