Press release
HPE, 엔비디아와 협력 확대로 엔터프라이즈급 풀스택 생성형 AI 솔루션 제공
목적 기반 AI 네이티브 제품 포트폴리오의 확장 통해 기업 고객의 AI 모델 훈련, 튜닝, 추론 가속화 지원
2023년 12월 18일(월), 서울 – Hewlett Packard Enterprise (NYSE: HPE)가 생성형 AI용 엔터프라이즈 컴퓨팅 솔루션 개발을 위한 NVIDIA(엔비디아)와의 협력 확대를 발표했다. 양사가 공동 설계한 사전 구성 형식의 AI 튜닝 및 추론 솔루션을 기반으로, 다양한 규모의 기업들이 프라이빗 데이터를 활용해 파운데이션 모델을 신속하게 맞춤화 할 수 있게 되었다. 또한, 엣지에서 클라우드에 이르기까지 어디서나 프로덕션 애플리케이션을 배포할 수 있다. 기업들은 HPE와 엔비디아의 풀스택 AI 튜닝 및 추론 솔루션이 포함된 포트폴리오를 통해 생성형 AI 인프라 개발과 배치 과정에서 발생하는 복잡성을 줄일 수 있다.
기업은 대화형 검색, 비즈니스 프로세스 자동화, 콘텐츠 생성 등을 위한 생성형 AI 모델을 개발하고 배포하기 때문에, 필요한 곳에 신속하게 구축할 수 있는 소프트웨어 및 인프라 스택이 필요하다. 이에 HPE와 엔비디아는 파트너십 확대의 일환으로 획기적인 풀스택 AI 솔루션인 신규 생성형 AI용 엔터프라이즈 컴퓨팅 솔루션을 선보인다. 해당 솔루션은 NVIDIA NeMo(엔비디아 네모) 프레임워크를 포함한 NVIDIA AI Enterprise(엔비디아 AI 엔터프라이즈) 소프트웨어 제품군과 HPE Machine Learning Development Environment Software(HPE MLDE 소프트웨어), HPE Ezmeral Software(HPE 에즈메랄 소프트웨어), HPE ProLiant Compute(HPE 프로라이언트 컴퓨트) 및 HPE Cray Supercomputers(HPE 크레이 슈퍼컴퓨터)를 통합하여 제공한다.
안토니오 네리(Antonio Neri) HPE 회장 겸 CEO는 “HPE와 엔비디아는 사전 구성된(pre-configured) 솔루션 포트폴리오를 통해 AI 모델을 개발하고 배포하는 여정을 획기적으로 간소화할 수 있는, 포괄적인 AI 네이티브 솔루션 제공자로서 독보적인 위치에 있다.”며, “HPE와 엔비디아의 전략적 협력은 AI로 비즈니스를 혁신하고자 하는 고객의 장벽을 크게 낮출 것이다.”라고 말했다.
젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 “기업들이 비즈니스를 재구상하기 위해 경쟁하면서 생성형 AI의 시대가 본격화되고 있다. HPE와의 협력 확대를 통해 기업은 비즈니스 데이터와 연결하여 보다 정확한 어시스턴트, 정보 기반 챗봇 그리고 시맨틱 검색을 지원하는 AI 애플리케이션을 통해 전례 없는 생산성 향상을 이룰 수 있을 것이다.”이라고 말했다.
- 목적 기반 AI 튜닝 및 추론 솔루션으로 AI 속도 향상
생성형 AI용 엔터프라이즈 컴퓨팅 솔루션은 새롭게 선보이는 AI 튜닝 및 추론 데이터 센터 솔루션으로, 바로 사용할 수 있어 다양한 규모의 기업이 신속하게 AI를 도입할 수 있게 한다.
기업은 해당 솔루션을 활용해 사전 훈련된 파운데이션 모델을 프라이빗 데이터와 함께 사용함으로써 AI 챗봇과 같은 생산 애플리케이션을 만들 수 있다. 또한 RAG(검색 증강 생성, retrieval-augmented generation) 기술 기반 업무처리를 통해 애플리케이션의 데이터 품질과 정확도를 더욱 향상시킬 수 있다.
- AI에 최적화된 목적 기반 맞춤형 설계: 시장을 선도하는 HPE ProLiant Compute DL380a (HPE 프로라이언트 컴퓨트 DL380a)는 NVIDIA L40S GPUs(엔비디아 L40S GPU), NVIDIA BlueField-3 DPUs(엔비디아 블루필드-3 DPU), NVIDIA Spectrum-X Ethernet Networking Platform(엔비디아 스펙트럼-X 이더넷 네트워킹 플랫폼)으로 사전 구성된 랙 규모(rack-scale)의 아키텍처다. 해당 솔루션은 700억 개 파라미터로 구성된 Llama 2 model (라마 2 모델)을 미세 조정(Fine-tuning) 할 수 있는 크기이며, 16개의 HPE ProLiant Compute DL380a 서버와 64개의 L40S GPU를 포함한다.
- HPE AI 소프트웨어: 모델을 빠르게 프로토타입하고 테스트할 수 있는 새로운 생성형 AI 스튜디오 기능을 갖춘 HPE Machine Learning Development Environment Software (HPE MLDE 소프트웨어). 하이브리드 클라우드 전반에 걸쳐 배포과정을 단순화하고 AI 워크로드를 위한 데이터 준비 과정을 가속화하는 새로운 GPU 인식 기능을 갖춘 HPE Ezmeral Software(HPE 에즈메랄 소프트웨어). 해당 두 가지 제품이 포함되어 제공된다
- 엔비디아 AI 소프트웨어: NVIDIA AI Enterprise(엔비디아 AI 엔터프라이즈)를 통해 보안, 안정성, 관리성 확보 및 지원을 통해 프로덕션 AI의 개발과 배포를 가속화한다. 또한, 기업용 생성형 AI를 간소화하기 위해 NVIDIA NeMo 프레임워크, 가드레일 툴킷, 데이터 큐레이션 도구, 사전 훈련된 모델을 제공한다.
- 기업의 AI 여정을 돕는 HPE 서비스(HPE Services)
HPE 서비스는 이제 컨설팅 서비스, 인력 훈련, 배포 솔루션이 포함된 광범위한 포트폴리오를 제공한다. 새로운 AI 서비스는 생성형 AI 및 LLM 디스커버리부터 구현에 이르기까지 고객이 AI를 도입 및 활용하는 모든 단계에 걸쳐 서비스를 제공한다. 이 과정을 통해 고객들은 솔루션을 구축, 배포, 확장해 혁신적인 결과를 만들어 내는데 필요한 최적의 운영 모델과 하이브리드 클라우드 데이터 전략을 개발하게 된다. 이러한 포괄적인 서비스는 AI 및 데이터를 위한 새로운 글로벌 CoE(Centers of Excellence)를 통해 이용할 수 있고, 현재 스페인, 미국, 불가리아, 인도, 튀니지에서 사용 가능하다.
- HPE, 엔비디아 기반의 새로운 턴키 솔루션으로 AI 훈련 가속화
지난 고성능 컴퓨팅 국제 컨퍼런스 ‘SC23’에서 HPE는 대기업, 연구기관, 정부 조직이 AI 생애주기의 첫 단계인 파운데이션 모델을 개발하고 훈련할 수 있도록 돕는 엔비디아 기반 슈퍼컴퓨팅 턴키 솔루션을 발표한 바 있다. 금번 공개된 생성형 AI용 엔터프라이즈 컴퓨팅 솔루션은 튜닝 및 추론에 초점을 맞춘 기업 고객을 위한 더 작은 폼팩터 AI 솔루션이다.
- AI 모델 개발 및 배포 가속화를 위한 새로운 AI 네이티브 아키텍처 및 하이브리드 클라우드 솔루션
HPE 디스커버 바르셀로나(HPE Discover Barcelona 2023)에서 HPE는 새로운 개방형 풀스택 AI 네이티브 아키텍처와 머신러닝 개발, 데이터 분석, AI 최적화 파일 저장, AI 튜닝 및 추론, 전문 서비스를 위한 AI 네이티브 및 하이브리드 클라우드 제품 시리즈를 발표한 바 있다.
- 구매 정보
생성형 AI를 위한 엔터프라이즈 컴퓨팅 솔루션은 2024년 1분기에 주문 가능하다.
휴렛팩커드 엔터프라이즈 소개
휴렛팩커드 엔터프라이즈는(Hewlett Packard Enterprise, 이하 HPE, NYSE:HPE)는 기업 고객을 대상으로 데이터의 새로운 가치를 발견하기 위해 엣지에서 클라우드까지 아우르는 하이브리드 IT 솔루션 및 서비스를 제공하는 글로벌 IT 기업입니다. HPE는 사람들의 삶의 방식과 터전에 혁신을 불러일으키기 위해 오랫동안 노력해오며 HPE만의 개방적이고 스마트한 기술을 애즈어서비스(as-a-Service) 형태로 제공하고 있습니다. 이는 기업 IT의 핵심 인프라인 클라우드 서비스, 컴퓨팅, 고성능컴퓨팅과 AI, 인텔리전트 엣지, 소프트웨어, 스토리지뿐 아니라 이를 효과적으로 도입, 구축 및 운영하기 위한 IT 라이프사이클에 걸친 컨설팅 및 운영관리 서비스를 아우릅니다. 나아가 새로운 IT 환경을 기반으로 클라우드에서 엣지까지 기업 고객이 새로운 비즈니스 모델을 개발하고, 새로운 방식에 적응하여 운영 성능을 최적화할 수 있는 지속적인 경험을 제공하고 있습니다.
홈페이지: www.hpe.com
a50009828kop