디에스앤지

고객의 미래가 디에스앤지의 미래입니다.

공지사항

[신기술] Intel AI solution 소개 (Deep Learning Boost)

작성일 : 2019.06.03 조회수 : 2377

안녕하세요, 디에스앤지입니다.

Intel의 AI solution인 최신 Intel® Deep Learning Boost(인텔 딥러닝 부스트)에 대해 소개 드리겠습니다.

​

​Intel이 올해 선보인 2세대 Xeon Scalable (코드명: Cascade Lake) 프로세서는 AI Deep Learning 추론을 가속화하기 위해 Intel® Optane™ DC Persistent Memory와 Intel® DL Boost를 지원합니다. Intel® DL Boost 기술은 정수 VNNI (Vector Neural Network Instruction)가 특징이며, VNNI는 int8 및 int16 데이터 유형을 사용하는 곱셈-덧셈 연산의 처리량(throughput)을 향상시키고 심층 신경망에서 사용되는 low-precision convolution 및 matrix-matrix 곱셈 연산에서 성능을 달성하는데 사용됩니다. 이를 통해, Cascade Lake는 특히 AI 분야 연산에 최적화되어 있습니다.

실제로, CAFFE RESNET-50 기준 Intel® Xeon® Platinum 9200 프로세서는 Intel® Xeon® Platinum 8100 프로세서의 기본 성능 대비 약 30배 뛰어난 Inference(추론) 성능을 제공합니다.

​
게다가 Intel® DL Boost는 뛰어난 성능을 제공하는 한편, 가능한 높은 정확도를 유지한다는 이점을 제공합니다. 다음 그래프는 Intel® Xeon® Platinum 8180 프로세서를 이용한 FP32 성능 및 정확도 대비, Cascade Lake를 이용한 DL Boost (VNNI) 성능 및 정확도의 변화를 어플리케이션 별로 보여줍니다. 특히, 이미지 인식의 경우 3.5배 이상의 Inference(추론) 성능을 제공하면서도 정확도는 1% 미만으로 거의 떨어지지 않는 것을 확인할 수 있습니다.

​

또한, Intel은 이를 지원하는 에코시스템을 기반으로 하여, 최고의 AI 성능을 발휘하기 위해 Intel® DL Boost와 최적화된 소프트웨어를 제시합니다:

​

이렇듯 Intel® DL Boost를 지원하는 2세대 Xeon Scalable 프로세서(Cascade Lake)는 Deep Learning 성능을 극대화할 수 있어, 이미지 인식, 사물 감지, 자동 언어 번역, 컨텐츠 추천 등 다양한 AI 어플리케이션에 접목할 수 있습니다.

 

곧 Intel AI solution에 대한 더 심층적인 소개로 다시 돌아오겠습니다.

감사합니다 : )

LIST