Alibaba Cloud, AI 응용 프로그램 가속화

Analytics Zoo 및 bfloat16은 7세대 Alibaba Cloud ECS 인스턴스에서 AI 응용 프로그램의 성능을 향상합니다.

개요:

  • 7세대 Alibaba Cloud 고주파 ECS 인스턴스는 3세대 X-Dragon 아키텍처와 3세대 인텔® 제온® 스케일러블 프로세서를 사용합니다.

  • 3세대 인텔 제온 스케일러블 프로세서는 내장형 인공 지능(AI) 가속 기능인 향상된 인텔® Deep Learning Boost(인텔® DL Boost)를 사용하여 업계를 선도하는 워크로드 최적화 플랫폼을 제공합니다. 향상된 인텔 DL Boost는 업계 최초로 bfloat16에 대한 x86 지원을 제공하여 AI 추론 및 훈련 성능을 강화합니다.

author-image

기준

개요

이 문서에서는 Analytics Zoo 및 bfloat16(Brain Floating Point 16비트)를 사용하여 7세대 Alibaba Cloud Elastic Compute Service(ECS) 인스턴스에서 실행되는 인공 지능(AI) 응용 프로그램의 성능을 향상하는 방법을 설명합니다.

7세대 Alibaba Cloud ECS 인스턴스는 3세대 인텔® 제온® 스케일러블 프로세서를 기반으로 하며, bfloat16을 지원합니다.

3세대 인텔 제온 스케일러블 프로세서는 복잡한 AI 워크로드를 처리할 수 있습니다. 3세대 인텔 제온 스케일러블 프로세서는 향상된 인텔 DL Boost를 사용하여 최대 1.93배 증가한 AI 훈련 성능,1 이미지 분류 시 최대 1.87배 증가한 AI 추론 성능,2 자연어 처리(NLP) 시 최대 1.7배 증가한 AI 트레이닝 성능,3 NLP 시 최대 1.9배 증가한 AI 추론 성능을 제공할 수 있습니다(이전 세대 프로세서 대비)4 의료, 금융, 소매업 등 산업 부문의 많은 AI 훈련 워크로드에서는 이러한 프로세서가 제공하는 bfloat16 지원의 혜택을 누릴 수 있습니다.

화이트 페이퍼 - Analytics Zoo 및 Bfloat16을 사용하여 Alibaba Cloud에서 AI 응용 프로그램 가속화를 읽어 보십시오.