생성형 AI 솔루션, 가치실현 시간 개선해 AI구축 간소화
관리 간편 '온프레미스 AI 플랫폼 솔루션' 제공까지
[디지털포스트(PC사랑)=남지율 기자] 델 테크놀로지스(Dell Technologies, 한국 대표: 김경진)는 '델 AI 팩토리(Dell AI Factory)' 포트폴리오에 AMD 환경을 지원하는 솔루션을 추가했다고 밝혔다. 델 테크놀로지스는 업계에서 가장 광범위한 생성형 AI 제품군에 AMD 탑재 서버 신제품을 추가함으로써 기업들이 AI 관련 솔루션을 선택할 때 강력한 확장성과 유연성을 확보할 수 있게끔 지원한다.
델 파워엣지 포트폴리오에 추가된 신제품은 광범위한 AI 활용 사례와 더불어 기존 워크로드 또한 지원하며 서버 관리 및 보안을 간소화한다. 새로운 제품군은 커스터마이징이 가능한 플랫폼으로서 관리를 간소화하고 현대적인 엔터프라이즈 환경에 대한 고성능 워크로드를 지원한다.
엔터프라이즈 AI 워크로드용으로 설계된 델 파워엣지 XE7745(Dell PowerEdge XE7745) 서버는 4U 공냉식 섀시에서 최대 8개의 이중 폭(double-width) 또는 16개의 단일 폭(single-width) PCIe GPU와 AMD 5세대 에픽(EPYC) 프로세서를 지원한다. AI 추론, 모델 미세 조정 및 고성능 컴퓨팅을 위해 특별히 설계된 내부 GPU 슬롯은 네트워크 연결을 위한 8개의 추가 5세대 PCIe 슬롯과 결합되어 기존 대비 2배의 고밀도의 DW PCIe GPU 용량을 제공한다.
델 파워엣지 R6725(Dell PowerEdge R6725)와 델 파워엣지 R7725(Dell PowerEdge R7725) 서버는 고성능 AMD 5세대 에픽 프로세서를 탑재하고 확장성에 특화된 설계를 선보인다. 새로운 DC-MHS 섀시 설계로 향상된 공랭식 냉각과 듀얼 500W CPU를 지원하여 까다로운 발열 문제를 해결하고 전력 효율성을 높였다. 이 플랫폼은 확장성에 최적화된 구성으로 엄격한 데이터 분석 및 AI 워크로드를 유지하며 가상화, 데이터베이스, AI와 같은 워크로드에 획기적인 성능을 제공한다. R7725는 최고 성능 구성에서 최대 66% 향상된 성능과 최대 33% 향상된 효율을 제공한다.
3가지 모델 모두 최대 50% 더 많은 코어를 지원할 수 있으며 코어당 성능을 최대 37% 향상하는 등 성능과 효율성 및 TCO5)를 개선했다. 이러한 이점을 통해 5년된 서버 7대를 최신 서버 1대로 통합하여, CPU 전력 소비를 최대 65%까지 절감할 수 있다.
AMD 5세대 에픽 프로세서를 탑재한 델 파워엣지 R6715(Dell PowerEdge R6715)와 델 파워엣지 R7715(Dell PowerEdge R7715) 서버는 향상된 성능, 효율성 및 최대 37% 증가된 드라이브 용량을 통해 스토리지 밀도를 높였다. 다양한 구성 옵션으로 제공되는 싱글 소켓 서버로서 24개의 DIMM(2DPC)을 지원하여 2배의 메모리를 지원하며, 컴팩트한 1U 또는 2U 폼팩터에서 다양한 워크로드 요구 사항을 충족하고 성능을 극대화한다. 특히 R6715는 AI 및 가상화 작업에서 세계 최고 수준의 성능을 발휘한다.
델 테크놀로지스는 대규모로 AI를 구축하는 기업이나 공공기관들을 위해 파워엣지 XE 서버에서 AMD 인스팅트(AMD Instinct) 가속기의 최신 기술을 계속해서 지원할 계획이다.
델 파워엣지 서버는 iDRAC(Integrated Dell Remote Access Controller)을 통해 원격으로 모니터링, 관리 및 업데이트가 가능하다. 더욱 빨라진 프로세서, 증가된 메모리, 보안 전용 코프로세서(co-processor)를 통해 iDRAC은 서버 관리 및 보안을 간소화하여 IT 조직이 보다 안정적이고 효율적으로 요구사항에 대응할 수 있도록 지원한다.
델 AI 팩토리(Dell AI Factory)는 PC에서 데이터 센터, 클라우드에 이르는 세계에서 가장 광범위한 AI 솔루션 포트폴리오를 통해 다양한 AI 요구 사항을 지원함으로써 기업과 기관들이 AI 투자 규모를 적절하게 조정할 수 있도록 돕는다:
‘AMD 기반 델 생성형 AI 솔루션(Dell Generative AI Solutions with AMD)’은 AMD 인스팅트 MI300X(AMD Instinct MI300X) 가속기가 탑재된 델 파워엣지 XE9680(Dell PowerEdge XE9680) 서버를 사용하여 AI 추론, 검색 증강 생성(RAG) 및 맞춤화를 제공한다. 이를 통해 AI 구축을 간소화하고, 보안을 강화하며, 확장 가능한 모듈식 아키텍처를 구현함으로써 가치 실현 시간(Time-To-Value)을 최대 86%까지 단축하여 AI 투자 최적화에 기여한다.
‘델 엔터프라이즈 허브 온 허깅페이스(Dell Enterprise Hub on Hugging Face)’ 지원 인프라에 AMD 인스팅트 MI300X 가속기 탑재형 XE9680이 추가됐다. 커스텀 컨테이너 및 스크립트를 통해 라마(Llama) 및 믹스트랄(Mixtral)과 같은 모델을 안전하고 간편하게 구축할 수 있도록 돕는다. 이러한 컨테이너화 모델은 모델 및 서버 기반의 추론 성능을 향상시키고, 백엔드에서 허깅 페이스 TGI(Text Generation Inference)를 활용하도록 설계됐다.
생성형 AI를 위한 델 프로페셔널 서비스에 AMD 환경 지원이 추가된다. AMD 기반의 ‘생성형 AI 플랫폼을 위한 델 구현 서비스(Dell Implementation Services for GenAI Platform)’는 쿠버네티스(Kubernetes) 구성, 고급형 AI 프레임워크 구축, 모범 사례에 대한 고객 지식 이전 등 맞춤형 운영 플랫폼을 제공하여 ROI를 극대화를 이끈다. 델 전문 인력이 전략 수립부터 데이터 준비, 플랫폼 및 모델 구현, 솔루션 확장에 이르기까지 수명주기 전반에 걸쳐 AI를 통해 비즈니스 성과를 달성할 수 있도록 지원한다.
김경진 한국 델 테크놀로지스의 총괄사장은 "델은 AMD 최신 기술을 통합하며 포트폴리오를 대거 확장함으로써 고객의 현재와 미래를 모두 만족시킬 수 있는 성능과 효율성을 확보했다”고 말하며, “델 AI 팩토리는 AI 성능에 대한 새로운 기준을 제시하는 동시에 현대적인 데이터 중심 환경에 필수적인 강력하고 비용 효율적인 인프라 솔루션 경험을 제공한다"고 덧붙였다.
델 파워엣지 XE7745 서버는 2025년 1월부터 전 세계에 출시되며, 델 파워엣지 R6715, R7715, R6725 및 R7725 서버는 2024년 11월부터 전 세계에 출시될 예정이다. AMD 기반 델 생성형 AI 솔루션은 2024년 4분기부터 전 세계에 제공되며, 델 엔터프라이즈 허브 온 허깅 페이스 업데이트는 현재 사용이 가능하다.
