NVIDIA 공식 파트너 디에스앤지

GPU 및 인공지능 컴퓨팅 분야의 세계적 기업

인공지능 컴퓨팅 분야의 선도 기업인 NVIDIA는 GPU 컴퓨팅의 세계적 리더로 인정받고 있습니다. 최신 NVIDIA H100 GPU 등 디에스앤지는 가장 강력한 딥러닝 플랫폼을 지원하여, 새로운 비즈니스 기회 발굴을 돕습니다.

세계에서 가장 큰 컴퓨팅 문제를 해결하기 위해 특별히 제작되었습니다.

NVIDIA Grace CPU

NVIDIA Grace™ CPU는 새로운 유형의 데이터 센터를 위해 설계되었습니다. 즉, 엄청난 양의 데이터를 처리하여 최대 에너지 효율로 지능을 생성하는 데이터 센터입니다.
이러한 데이터 센터는 AI, 데이터 분석, 하이퍼스케일 클라우드 애플리케이션, 고성능 컴퓨팅(HPC) 과 같은 다양한 워크로드를 실행합니다. 가장 까다로운 데이터 센터 요구 사항을 충족하기 위해 Grace는 오늘날의 선도적인 서버에 비해 와트당 2배의 성능, 2배의 패키징 밀도, 가장 높은 메모리 대역폭을 제공합니다.

Grace Hopper Superchip

NVIDIA Grace Hopper™ 슈퍼칩은 NVLink-C2C를 사용하여 Grace 및 Hopper 아키텍처를 결합하여 가속화된 AI 및 고성능 컴퓨팅(HPC) 애플리케이션을 위한 CPU+GPU 일관성 메모리 모델을 제공합니다.

System Spec GH200 GH200 NVL2
CPU core count 72 Arm Neoverse V2 cores 144 Arm Neoverse V2 cores
L1 cache 64KB i-cache + 64KB d-cache
L2 cache 1MB per core
L3 cache 114MB 228MB
Base frequency
| all-core single instruction,multiple data
(SIMD) frequency
LPDDRSX size
3.1GHz | 3.0GHz
LPDDR5X size 480GB
120GB, 240GB
960GB
240GB, 480GB
Memory bandwidth 최대 384GB/s
최대 512GB/s
최대 768GB/s
최대 1024GB/s
PCIe links 최대 4x PCIe x16 (Gen5) 최대 8x PCIe x16 (Gen5)
FP64 34 teraFLOPS 68 teraFLOPS
FP64 Tensor Core 67 teraFLOPS 134 teraFLOPS
FP32 67 teraFLOPS 134 teraFLOPS
TF32 Tensor Core 989 teraFLOPS* |
494 teraFLOPS
1979 teraFLOPS* |
990 teraFLOPS
BFLOAT16 Tensor Core 1,979 teraFLOPS* |
990 teraFLOPS
3958 teraFLOPS* |
1979 teraFLOPS
FP16 Tensor Core 1,979 teraFLOPS* |
990 teraFLOPS
3958 teraFLOPS* |
1979 teraFLOPS
INT8 Tensor Core 3,958 teraFLOPS* |
1,979 teraFLOPS
7916 teraFLOPS* |
3958 teraFLOPS
High-bandwidth memory (HBM) size 30 teraFLOPS 7916 TOPS* | 3958 TOPS
Memory bandwidth 96GB HBM3e |
144GB HBM3e
최대 288GB HBM3e
Memory bandwidth 최대 4TB/s | 최대 4.9TB/s 최대 9.8TB/s
NVIDIA NVLink-C2C CPU-to-GPU bandwidth 900 GB/s 900 GB/s
Power Configurable 450 to 1000W
(Memory + CPU + GPU) ™
Configurable 900W to 2000W
(Memory + CPU + GPU)
Thermal solution Air cooled or liquid cooled

SYSTEM(공랭식)

  • High Performance Computing

  • AI/Deep Learning Training and Inference

  • Large Language Model (LLM) and Generative AI

ARS-111GL-NHR
Form Factor 1U
Motherboard Super G1SMH-G
GPU NVIDIA: H100 Tensor Core GPU on GH200 Grace Hopper™ Superchip (Air-cooled)
Up to 1 onboard GPU
Memory Max Memory: Up to 480GB ECC LPDDR5X
Additional GPU Memory: Up to 96GB ECC HBM3
Drive Bays / Storage 8 front hot-swap E1.S NVMe drive bays
2 M.2 NVMe slots (M-key)
Expansion Slots 2 PCIe 5.0 x16 FHFL slots
Power Supply 2x 2000W Redundant Titanium Level (96%) power supplies

SYSTEM(수랭식)

  • High Performance Computing

  • AI/Deep Learning Training and Inference

  • Large Language Model (LLM) and Generative AI

ARS-111GL-DNHR-LCC
Form Factor 1U Rackmount
Motherboard Super G1SMH-G
GPU NVIDIA: H100 Tensor Core GPU on GH200 Grace Hopper™ Superchip (Liquid-cooled)
Up to 1 onboard GPU
Memory Slot Count: Onboard Memory
Max Memory: Up to 480GB ECC LPDDR5X
Additional GPU Memory: Up to 96GB ECC HBM3
Drive Bays / Storage 4 front hot-swap E1.S NVMe drive bays
2 M.2 NVMe slots (M-key)
Expansion Slots 2 PCIe 5.0 x16 FHFL slots
Power Supply 2x 2700W Redundant Titanium Level (96%) power supplies