HPE在NVIDIA 2023年超級運算大會宣佈生成式AI超級運算解決方案開放訂購，企業可透過預先配置並經過測試的全端解決方案，開發與訓練大型AI模型。該解決方案採用NVIDIA技術，專為加速開發生成式AI及深度學習項目而設計，最多可支援168個NVIDIA GH200 Grace Hopper超級晶片。

方案可協助大型企業、研究機構及政府組織簡化模型開發流程。透過AI/ML軟體堆疊，客戶可以加速生成式AI及深度學習專案，包括大型語言模型（LLM）、推薦系統及向量數據庫。該方案亦提供安裝與設定服務，協助AI研究中心及大型企業加快流程，並將訓練速度提升2至3倍。更多資訊或訂購，請參閱HPE生成式AI超級運算解決方案。

HPE生成式AI企業運算解決方案已在2023 Discover Barcelona大會搶先曝光。企業客戶現可直接購買或透過HPE GreenLake，以靈活、可擴充且按使用量付費的方式購買。HPE與NVIDIA共同開發並預先配置的調校和推論解決方案，可為企業提供開發生成式AI應用所需的運算、儲存、軟體、網路和諮詢服務，並減少準備時間和成本。這套AI原生的端對端解決方案可讓企業獲得所需的運算速度、規模和控制力，使用企業專屬數據調校基礎模型，並在混合雲端環境中部署生成式AI應用程式。

該解決方案採用HPE和NVIDIA的高效能AI運算叢集和軟體，非常適合用於輕量級模型微調、RAG及橫向擴展式推論。運行該解決方案時，調整一個擁有700億參數的Llama 2模型的所需時間，會隨節點數量增加而線性下降。在一個擁有16個節點的系統上只需6分鐘即可完成[1]。這種速度和效能有助客戶更快地實現商業價值，通過使用虛擬助手、智慧聊天機器人及企業搜尋等AI應用程式提升企業生產力，加快創新流程。

方案採用HPE ProLiant DL380a Gen11伺服器，並預先配置了NVIDIA GPU、NVIDIA Spectrum-X以太網路平台和NVIDIA BlueField-3資料處理單元（DPU），同時搭載HPE的機器學習平台和分析軟體、NVIDIA AI Enterprise 5.0軟體（包括新的NVIDIA NIM微服務，用於優化生成式AI模型的推論）、以及NVIDIA NeMo Retriever和其他數據科學和AI程式庫。

為應對AI人手短缺的問題，HPE Services專家將協助企業設計、部署和管理此解決方案，包括適當的模型調校技術應用。了解更多資訊或訂購，請參閱HPE生成式AI企業級運算解決方案。

HPE與NVIDIA正合作開發軟體解決方案，協助企業將AI和機器學習從概念驗證轉化為生產應用程式。HPE客戶可以透過技術預覽版使用HPE機器學習推論軟體，迅速且安全地大規模部署機器學習模型。新解決方案將與NVIDIA NIM整合，利用預先建置的容器提供經優化的NVIDIA基礎模型。

為協助企業快速建置和部署運用專屬資料的生成式AI應用程式，HPE開發了採用NVIDIA NeMo Retriever微服務架構的企業級RAG參考架構，由HPE Ezmeral Data Fabric軟體和HPE GreenLake for File Storage提供完整的資料基礎架構，為企業提供創建客製化聊天機器人、生成器或智慧助理的藍圖。

為協助數據準備、AI訓練和推論運算，該解決方案融合了從HPE Ezmeral Unified Analytics軟體和HPE AI軟體的開源工具和解決方案，其中包括HPE機器學習數據管理軟體（HPE Machine Learning Data Management Software）、HPE機器學習開發環境軟體（HPE Machine Learning Development Environment Software）和全新HPE機器學習推論軟體（HPE Machine Learning Inference Software）。HPE的AI軟體可應用於HPE生成式AI超級運算和企業級運算解決方案，讓客戶在一致的環境中管理生成式AI工作負載。

HPE將基於新宣布的NVIDIA Blackwell平台上開發產品。該平台整合第二代Transformer引擎，以加速生成式AI工作負載運行。關於NVIDIA GB200 Grace Blackwell超級晶片、HGX B200和HGXB100的詳細資訊和面市時間將另行公布。

###