안토니오 네리(Antonio Neri) HPE 회장 겸 최고경영자(CEO)는 “AI는 기업에 엄청난 기회를 가져오고 있으며, 이를 널리 적용하기 위해서는 통합되고 효율적인 솔루션 포트폴리오가 필요하다. HPE와 엔비디아는 AI의 잠재력을 최대한 활용하기 위해 기업의 가치 실현 시간을 단축하여 생산성을 높이고 새로운 수익원을 창출하는 포괄적인 AI 솔루션 포트폴리오를 시장에 출시한다”고 말했다.

젠슨 황(Jensen Huang) 엔비디아 회장 겸 CEO는 “AI는 모든 산업의 변화를 이끌고 있으며, 기업은 인텔리전스 생산을 위한 AI 팩토리 구축에 속도를 내고 있다. 엔비디아와 HPE는 생성형 AI와 에이전틱 AI는 물론 로보틱스, 디지털 트윈까지 아우르는 풀스택 인프라를 제공해, 기업이 AI를 개발, 학습, 배포할 수 있도록 지원한다. 이번 협력을 통해 AI 기반 비즈니스 혁신이 가속되고, 기업의 생산성과 혁신이 한층 도약할 것”이라고 말했다.

HPE 프라이빗클라우드 AI로 에이전트 데이터 및 애플리케이션을 위한 턴키 접근 방식 제공

HPE는 새로운 엔비디아 AI 데이터 플랫폼(NVIDIA AI Data Platform)을 통해 HPE 프라이빗 클라우드 AI(HPE Private Cloud AI)를 확장한다. HPE 프라이빗 클라우드 AI와 엔비디아 AI 데이터 플랫폼의 결합은 기업 데이터의 가치를 극대화하고 AI 기반 비즈니스 추진을 가속하는 가장 빠른 길을 제공한다.

HPE 프라이빗 클라우드 AI는 HPE 그린레이크의 셀프 서비스 클라우드 환경을 기반으로, AI 모델의 훈련과 튜닝, 추론을 위한 인프라를 제공한다. HPE와 엔비디아가 함께 지속적으로 개발하고 있는 HPE 프라이빗 클라우드 AI는, 엔비디아 AI-Q 블루프린트(NVIDIA AI-Q Blueprints), 그리고 리즈닝(reasoning) 역량을 갖춘 엔비디아 라마 네모트론 (NVIDIA Llama Nemotron) 모델을 위한 엔비디아 NIM 마이크로서비스(NVIDIA NIM microservices) 등 엔비디아 AI 데이터 플랫폼의 핵심 블루프린트 및 모델을 가장 빠르게 배포할 수 있도록 설계되었다.

엔비디아 AI 데이터 플랫폼(NVIDIA AI Data Platform)은 엔비디아의 가속 컴퓨팅, 네트워킹, AI 소프트웨어와 엔터프라이즈 스토리지를 활용하는 연속적 데이터 프로세싱을 통해, 기업의 데이터를 활용 가능한 인텔리전스로 변환한다. 이는 현재 HPE 프라이빗 클라우드 AI에 모두 포함되어 있다.

HPE 프라이빗 클라우드 AI (HPE Private Cloud AI)의 추가 업데이트 사항은 다음과 같다:

• 새로운 HPE 프라이빗 클라우드 AI 개발자 시스템: HPE 프라이빗 클라우드 AI 포트폴리오에 즉시 사용 가능한 AI 개발 환경이 추가된다. 엔비디아 가속 컴퓨팅으로 구동되는 이 시스템은 통합 컨트롤 노드, 엔드투엔드 AI 소프트웨어, 32TB의 통합 스토리지를 포함한다.
• 통합된 엣지-투-클라우드 데이터 액세스: HPE 데이터 패브릭 소프트웨어(HPE Data Fabric Software)는 HPE 프라이빗 클라우드 AI 데이터 레이크하우스(lakehouse)의 핵심이자 HPE의 새로운 통합 데이터 레이어이다. 이는 AI 모델이 하이브리드 클라우드 환경에서 최적화된 고품질의 정형, 비정형 및 스트리밍 데이터를 일관되게 공급받을 수 있도록 보장한다.
• 사전 검증된 엔비디아 블루프린트를 통한 가치 실현 시간 단축: HPE 프라이빗 클라우드 AI는 엔비디아 블루프린트의 신속한 배포를 지원함으로써, 엔비디아의 광범위한 에이전틱 AI 및 물리적 AI 애플리케이션 라이브러리를 통해 AI 서비스를 즉각적으로 활용할 수 있도록 한다. HPE 프라이빗 클라우드 AI는 멀티모달 PDF 데이터 추출 블루프린트(Multimodal PDF Data Extraction Blueprint)와 디지털 트윈 블루프린트(Digital Twins Blueprint)를 비롯한 사전 검증된 블루프린트를 통해 복잡한 AI 워크로드를 간소화하고 성능을 향상시켜 더 빠른 가치 실현을 가능하게 한다.

HPE 옵스램프(OpsRamp)를 통한 새로운 AI 네이티브, 풀스택 가시성 HPE 옵스램프는 AI 네이티브 소프트웨어 스택에 대한 가시성을 포함하는 GPU 최적화 기능을 지원하며, 이를 통해 대규모 엔비디아 가속 컴퓨팅 클러스터에서 실행되는 훈련 및 추론 워크로드의 성능을 관리할 수 있는 풀스택 가시성을 제공한다. 새로운 GPU 최적화 기능은 HPE 프라이빗 클라우드 AI 번들 및 독립형으로 대규모 클러스터에 확장할 수 있다.

새로운 GPU 최적화 기능은 또한 HPE가 제공하는 AI를 위한 새로운 2일차 (Day 2) 운영 서비스로 제공된다. 이 서비스는 HPE 컴플리트 케어 서비스(HPE Complete Care Service)와 GPU 관리 기능을 결합하여 IT 운영팀이 하이브리드 배포 환경에서 AI 워크로드를 관리, 최적화 및 사전 문제 해결하는 방식을 개선할 수 있도록 지원한다.

새로운 에이전틱 AI 활용 사례 및 서비스

• HPE 프라이빗 클라우드 AI에 배포된 딜로이트(Deloitte)의 조라 AI™(Zora AI™): 딜로이트의 조라 AI™ 포 파이낸스 (Zora AI™ for Finance)는 HPE 프라이빗 클라우드 AI에서 제공되는 새로운 공동 솔루션으로, 전 세계 고객에게 제공될 예정이다. HPE는 딱딱한 경영진 보고서를 동적인 온디맨드 상호작용 경험으로 재구성하는 에이전틱 AI 플랫폼을 배포하는 최초의 고객이 될 예정이다. 구체적인 활용 사례로는 재무제표 분석, 시나리오 모델링, 경쟁 및 시장 분석 등이 있다.
• 크루AI(Crew.AI), 언리시 AI(Unleash AI) 프로그램에 참여하여 다중 에이전트 자동화 제공: 크루AI는 기업이 에이전틱 AI 솔루션을 신속하게 구축하여 팀 전반의 효율성, 적응성, 더 스마트한 의사결정을 촉진할 수 있도록 지원한다. HPE 프라이빗 클라우드 AI와 결합된 이 솔루션은 특정 비즈니스 요구사항에 맞게 에이전트 기반 자동화를 안전하게 배포하고 확장할 수 있다.
• HPE, 에이전틱 AI를 위한 전문 서비스 추가: 새로운 서비스는 엔비디아 NIM 마이크로서비스와 엔비디아 NeMo를 활용하여 다양한 비즈니스 프로세스에 에이전틱 AI 모델을 식별, 구축 및 배포할 수 있도록 하여 비즈니스 가치를 실현하는 속도를 높인다. 두 기술 모두 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise) 소프트웨어 플랫폼의 일환이다.

엔비디아 블랙웰 울트라 및 블랙웰 아키텍처를 탑재한 새로운 HPE AI 서버

HPE 기반 엔비디아 AI 컴퓨팅은 최신 AI 서버를 제공하여 엔비디아 블랙웰 울트라(NVIDIA Blackwell Ultra) 및 블랙웰 플랫폼을 기반으로 AI 모델 학습, 튜닝, 추론을 지원한다. 각 AI 서버는 차세대 AI 시대를 위한 최적의 성능, 효율성, 안정성 및 확장성을 보장하기 위해 엔비디아 가속 컴퓨팅, 네트워킹 및 엔비디아 AI 엔터프라이즈 소프트웨어와 함께 배포할 수 있다.

• HPE 기반 엔비디아 GB300 NVL72(NVIDIA GB300 NVL72 by HPE)는 서비스 제공기업과 첨단 기업들이 조 단위의 파라미터 모델 학습을 위한 복잡한 대규모 AI 클러스터를 배포할 수 있도록 지원하며, HPE 수냉 기술과 함께 제공된다. 엔비디아 GB300 NVL72는 최적화된 컴퓨팅, 확장된 메모리, 고성능 네트워킹을 통해 AI 추론, 에이전틱 AI, 비디오 추론 애플리케이션에서 뛰어난 성능을 제공한다.
• HPE 프로라이언트 컴퓨트 XD(HPE ProLiant Compute XD) 서버는 엔비디아 HGX B300(NVIDIA HGX B300) 플랫폼 지원을 통해 고객이 에이전틱 AI와 테스트 타임 리즈닝 추론(test-time reasoning inference)을 포함한 가장 복잡한 워크로드를 처리하는 대규모 AI 모델을 학습하고 튜닝하며 실행할 수 있도록 돕는다.
• HPE 프로라이언트 컴퓨트 DL384b Gen12(HPE ProLiant Compute DL384b Gen12)는 엔비디아 GB200 그레이스 블랙웰 NVL4 슈퍼칩(NVIDIA GB200 Grace Blackwell NVL4 Superchip)을 탑재하여 과학적 컴퓨팅, 그래프 신경망(GNN) 학습, AI 추론 애플리케이션을 포함한 HPC(고성능컴퓨터)와 AI 워크로드에서 혁신적인 성능을 제공한다.
• HPE 프로라이언트 컴퓨트 DL380a Gen12(HPE ProLiant Compute DL380a Gen12)는 엔비디아 RTX™ 프로 6000 블랙웰(NVIDIA RTX™ PRO 6000 Blackwell) 서버 에디션을 탑재한 PCIe 기반 데이터센터 솔루션으로, 엔터프라이즈 AI 추론 및 시각적 컴퓨팅 워크로드에 대한 뛰어난 성능을 제공한다.

새로운 HPE 프로라이언트 Gen12 서버의 풀 라이프사이클 보안

HPE iLO는 업계 최고의 실리콘 루트 오브 트러스트(silicon root of trust)를 통해 서버 라이프사이클의 모든 단계를 보호한다. 최신 HPE 프로라이언트 컴퓨트 Gen12(HPE ProLiant Compute Gen12) 포트폴리오는 '시큐어 엔클레이브(secure enclave)'라는 강화된 보안 프로세서를 탑재하여 기업 보안의 새로운 표준을 제시한다. 이 보안 프로세서는 펌웨어 공격으로부터 보호할 수 있는 안전한 신뢰 체인을 구축하고, 공장에서부터 HPE의 신뢰할 수 있는 공급망 전반에 걸쳐 모든 과정의 가시성을 완벽하게 제공한다. 또한, HPE iLO 7은 FIPS 140-3 레벨 3 인증을 충족하는 포스트 퀀텀 암호화를 지원하는 최초의 서버로, 첨단 암호화 보안 표준을 충족한다.

AI를 위한 모듈형 에너지 효율적인 데이터센터

• 50년 간 쌓아온 수냉 기술 전문성: HPE는 지난 50년 동안 AI와 HPC와 같은 데이터 집약적인 워크로드로 인해 증가하는 전력 요구사항과 데이터센터 집적도 문제를 해결하는 데 지원해왔다. HPE는 복잡한 수냉 환경을 설계, 구축 및 관리하는 데 오랜 역사를 가지고 있다. 이러한 전문성 덕분에 HPE는 세계에서 가장 에너지 효율적인 슈퍼컴퓨터를 선정하는 Green500 리스트에서 상위 15위 내에 8대의 슈퍼컴퓨터를 올린 바 있다.
• AI 및 HPC 워크로드를 위한 모듈형 성능 최적화 데이터센터: HPE 데이터센터 서비스(HPE Data Center Service) - AI Mod POD는 AI 및 HPC 워크로드를 위한 모듈형 고성능 데이터센터로, 엔비디아 가속 컴퓨팅을 포함한다. 이는 모듈당 최대 1.5MW를 지원하며, 빠른 공급을 통해 시장 출시 시간을 대폭 단축할 수 있다. HPE의 AI Mod POD는 HPE의 AI 및 HPC 서버와 HPE 프라이빗 클라우드 AI를 지원한다. 또한, HPE의 특허 기술인 적응형 캐스케이드 냉각(Adaptive Cascade Cooling) 기술을 제공하며, 이는 공냉과 100% 하이브리드 수냉을 지원하는 단일 하이브리드 시스템으로 데이터 집약적인 워크로드에 대한 에너지 요구를 해결한다.

출시 일정

• HPE 프라이빗 클라우드 AI 개발자 시스템(Private Cloud AI developer system)은 2025년 2분기에 일반 출시될 예정이다.
• HPE 프라이빗 클라우드 AI 내 HPE 데이터 패브릭은 2025년 3분기에 일반 출시될 예정이다.
• HPE 기반 NVIDIA GB300 NVL72(NVIDIA GB300 NVL72 by HPE) 및 NVIDIA HGX B300가 탑재된 HPE 프로라이언트 컴퓨트 XD는 2025년 하반기에 출시될 예정이다.
• 엔비디아 GB200 NVL4를 탑재한 HPE 프로라이언트 컴퓨트 DL384b Gen12은 2025년 4분기에 일반 출시될 예정이다.
• HPE 프로라이언트 컴퓨트 DL380a Gen12 및 NVIDIA RTX™ PRO 6000 블랙웰 서버 에디션은 2025년 3분기에 일반 출시될 예정이다.
• 멀티모달 PDF 데이터 추출 블루프린트 및 디지털 트윈 블루프린트를 포함한 추가 사전 검증된 엔비디아 블루프린트(NVIDIA Blueprint)에 대한 지원은 2025년 2분기에 일반 출시될 예정이다.
• HPE 옵스램프(OpsRamp) GPU 최적화 및 AI Mod POD는 현재 이용 가능하다.

추가자료:

• 블로그: HPE 프라이빗 클라우드 AI로 에이전틱 AI 개발 가속화 및 최적화
• 블로그: HPE 데이터 패브릭으로 AI 혁신 지원
• 블로그: HPE 프로라이언트와 엔비디아 블랙웰로 엔터프라이즈 AI 성능 극대화
• 블로그: AI 인프라를 신뢰하고 운영하는 방법
• 블로그: 엔비디아 NIM과 NeMo로 HPE 생성형 AI 구현 서비스 강화
• 블로그: 대담한 접근법: HPE 서비스가 AI 라이프사이클을 재정의하는 방식