Intel Partner Alliance Titanium

디에스앤지

차별화된 AI 워크로드 솔루션

데이터 센터 AI 워크로드 서버의 97%가 Intel 프로세서 기반이며, AI 연산 특화 DL Boost 기술 적용 등 Intel AI 솔루션은 지속 성장 중입니다. Intel Partner Alliance의 Titanium으로 등록된 디에스앤지는 이미지 인식, 사물 감지, 컨텐츠 추천 등 AI 어플리케이션에 맞는 서버 솔루션을 제공합니다.

Habana

AI 성능에 최적화되어 설계된 Gaudi는 8개의 AI Tensor Core 프로세서 및 32GB HBM2 메모리 등을 제공하여 기존 프로세서 아키텍처보다 높은 효율성을 제공합니다.

Gaudi HL-205 프로세서

Accelerator Module Gaudi HL-205
Node 16nm
Host Interface PCIe Gen 4.0 X 16
Memory 32GB HBM2
Memory Bandwidth 1TB/s
TDP 350W
Interconnect 2Tbps: 20 56Gbps PAM4 Tx/Rx Serdes
(10x100GbE RoCE RDMA)
Form Factor and SKUs HL-205: OCP Accelerator Module 0.9 spec
compliant

Supermicro Habana-Gaudi System

  • 효율성

    Gaudi는 기존 AI 컴퓨팅 솔루션보다 최대 40% 더 나은 가격 대비 성능을 제공합니다. 비용 효율성을 통해 더 큰 데이터 세트에서 더 적은 비용 및 더 많은 빈도로 모델을 트레이닝할 수 있습니다.

  • 확장성

    Gaudi AI 프로세서는 확장 용량을 위해 10개의 100기가비트 이더넷 RoCE 포트를 통합합니다. 업계 표준 이더넷을 기반으로 하는 Gaudi 시스템은 광범위한 표준 이더넷 스위치 솔루션을 사용하여 시스템을 구축할 수 있어, 전체 시스템 비용을 낮출 수 있습니다.

  • 사용성

    Gaudi는 Habana SynapseAI® 소프트웨어 스택 및 새 모델 구축을 단순화하거나 기존 모델을 Gaudi 플랫폼으로 마이그레이션하는 도구로 지원됩니다. 데이터 센터 운영이 Gaudi 시스템을 배포하는 데 상당한 시간, 리소스 또는 노력을 들이지 않고 모델 트레이닝 비용을 절감할 수 있습니다.

Gaudi Chip Diagram

Source: Habana