Performance-Core(P-core)를 갖춘 인텔® 제온® 6 프로세서

P-core를 갖춘 인텔® 제온® 6에 대한 인사이트 확보: AI 및 분석 워크로드용으로 제작

P-core를 갖춘 인텔® 제온® 6700 시리즈 프로세서는 P-core를 갖춘 인텔® 제온® 6의 전체 오퍼링을 완성합니다. 컴퓨팅 집약적인 인공 지능 및 HPC 사용 사례부터 미션 크리티컬 관계형 데이터베이스 및 분석 응용 프로그램에 이르기까지 데이터 센터 성능에 대한 수요가 이보다 더 커진 적이 없습니다. 인텔® 제온® 6 프로세서는 IT 팀이 P-core 및 E-core(Efficient-core) 오퍼링이라는 두 가지 제품 라인 오퍼링에서 다양한 워크로드를 대상으로 개선할 수 있도록 강화된 기능으로 설계되었습니다.

P-core 오퍼링은 컴퓨팅 집약적인 인공 지능, HPC 및 데이터 서비스 워크로드를 가속하는 내장 매트릭스 엔진을 갖춘 하이퍼스레드 코어로 차별화되는 반면, E-core 오퍼링은 매트릭스 엔진을 생략하고 더 높은 단일 스레드 코어 밀도를 선호합니다.

모든 인텔® 제온® 6 프로세서는 P-core 또는 E-core의 중점과 관계없이 동일한 명령 세트, BIOS 및 내장 I/O 가속기를 제공합니다. 여기에는 인텔® QuickAssist Technology(인텔® QAT), 인텔® Data Streaming Accelerator(인텔® DSA), 인텔® In-Memory Analytics Accelerator(인텔® IAA), 인텔® Dynamic Load Balancer(인텔® DLB)가 포함됩니다.

또한 데이터 센터가 사용하는 동일한 드라이버, 운영 체제 및 응용 프로그램과 동일한 신뢰성, 가용성 및 서비스 가능성(RAS) 기능을 지원합니다.

P-core를 갖춘 인텔® 제온® 6 프로세서의 장점 살펴보기

기업은 언어, 비전 및 이미지 인식, 추천 시스템을 위한 최첨단 인공 지능 모델을 배포하는 데 드는 비용과 시간을 절약하고, HPC 기반 시뮬레이션과 고급 분석에서 더 심층적인 인사이트를 생성하려고 합니다. P-core를 갖춘 인텔® 제온® 6 프로세서는 혁신적인 매트릭스 및 벡터 엔진과 초고밀도 메모리 및 I/O 대역폭을 갖춘 다수의 고성능 코어를 제공하여 기업이 이러한 기회를 활용할 수 있도록 지원합니다.

방대한 워크로드를 위한 고성능 배포

소켓당 최대 128개의 코어, 12개의 메모리 채널 및 96개의 PCIe 레인으로 확장할 수 있는 유연성이 있는 P-core를 갖춘 인텔® 제온® 6 프로세서는 기업이 다양한 응용 프로그램 요구 사항을 충족하도록 지원합니다. 메모리 대역폭 병목 현상을 완화하려는 IT 팀을 위해, 혁신적인 MRDIMM(Multiplexed Combined Rank)는 초당 최대 8,800 메가 전송(MT/s)을 제공하는 동시에 작업을 빠르게 완료하여 낮은 TCO에 기여합니다. 내장 가속기가 목표 워크로드를 추가로 향상하여 더 큰 성능과 효율성을 제공합니다.

P-core를 갖춘 인텔® 제온® 6700/6500 시리즈는 확장할 수 있도록 설계되었으며 4S/8S 옵션과 1소켓 SKU 세트를 제공합니다. 1소켓 플랫폼은 주변 장치 및 스토리지 장치에 대한 PCIe 레인(다중 소켓 플랫폼의 소켓당 88레인에 비해 136레인)을 증가시켜 단일 소켓에서 훨씬 더 많은 I/O를 제공합니다. 이렇게 소켓당 I/O 향상으로 전력/지연 비효율성을 제거하고 플랫폼 비용 최적화를 향상시킵니다. 고객은 단일 소켓 플랫폼으로 I/O 요구 사항을 충족할 수 있다면 TCO를 개선할 수 있습니다. 필요한 CPU 리드가 줄어들어 서버 비용이 절감되고 와트당 성능이 향상되고 CPU당 라이센싱 비용이 절감됩니다.

CPU에서 강력한 인공 지능 성능 활용

P-core를 갖춘 인텔® 제온® 6 프로세서는 많은 까다로운 인공 지능 사용 사례를 지원하도록 설계되었습니다. P-core는 현재 int8, BF16 및 FP16(신규) 데이터 유형을 지원하는 인텔® Advanced Matrix Extensions(인텔® AMX)와 같은 가속화를 갖춘 내장 인공 지능에서 4세대의 인텔의 리더십을 확장합니다. 그 결과, P-core는 객체 감지부터 중간 규모 GenAI에 이르는 여러 인공 지능 모델에 대한 서비스 수준 계약(SLA)을 준수하도록 지원하는 동시에, 필요에 따라 개방형 표준, 고성능, RAS 기능 및 추가 가속기 지원을 제공합니다.

P-core를 갖춘 인텔® 제온® 6은 또한 AI 가속 시스템에서 인공 지능 가속기와 결합하여 최상의 호스트 CPU 옵션으로 작동합니다. 호스트 CPU는 탁월한 I/O 성능, 높은 단일 스레드 성능, 높은 메모리 대역폭 및 용량을 제공할 것으로 예상됩니다. P-core를 갖춘 인텔® 제온® 6이 최상의 호스트 CPU 옵션인 5가지 이유를 자세히 알아보세요.

범용 워크로드를 위한 와트당 성능 최적화

P-core를 갖춘 인텔® 제온® 6 프로세서는 메인스트림 오퍼링에서 8~86개의 코어, 이중 CPU 기반 시스템에서 네트워킹 및 스토리지 애드인 카드를 위한 최대 176개의 PCIe 5.0 레인, 단일 CPU 기반 시스템을 위해 놀라운 136개의 PCIe 레인을 보유한 단일 소켓 오퍼링이 특징인 메인스트림 시리즈를 통해 전체 워크로드 스펙트럼에서 탁월한 성능을 발휘합니다. 모든 인텔® 제온® 6 프로세서의 효율성은 서버 사용률이 증가함에 따라 와트당 확장 가능한 성능을 제공하는 능력이 강조되어, 로드라인 전반에서 선형에 가까운 전력 성능 소비를 제공합니다. 성능이 까다로운 워크로드의 경우, 이것은 작업을 빠르게 완료하도록 높은 부하에서 플랫폼이 전력을 효율적으로 사용하는 것을 의미합니다.

Performance-core 워크로드 성능 이점:

5세대 인텔® 제온® 프로세서와 비교:

• 광범위한 워크로드에서 평균 40% 성능 향상¹
• 인텔® AMX 사용 시 최대 3배 향상된 Llama2 성능²
• 최대 2배 향상된 HammerDB MySQL 성능³
• 일반적인 40% 서버 이용률에서 최대 1.58배 더 높은 와트당 성능⁴
• 최대 1.45배 더 높은 데이터베이스 분석 성능⁵
• NGINX 에지 워크로드에서 1.5배 더 나은 성능 및 와트당 성능⁶
• 최대 2.5배 향상된 MRDIMM 탑재 HPCG 벤치마크 성능⁷

2세대 인텔® 제온® 프로세서와 비교:

• 최대 17배 향상된 INT8 사용 ResNet – 50 BSX 성능⁸
• 평균 3.9배의 일반 컴퓨팅 성능¹
• 유지된 성능 수준에서 2세대 인텔 제온과 비교되는 17:1 서버 통합 인텔 제온 6900 시리즈⁹
• 평균 40%의 TCO 향상으로 유지된 성능 수준에서 2세대 인텔 제온과 비교되는 인텔 제온 6700 시리즈의 평균 5:1 서버 통합¹⁰

경쟁 제품과 비교:

• AMD EPYC 9755에 비해 평균 인공 지능 성능 최대 2배 향상¹¹
• AMD EPYC 9655에 비해 최대 1.52배 더 높은 HPCG 성능¹²

향상된 보안 기능으로 비즈니스 성장 지속

민감한 데이터 또는 규제 데이터로 작업하는 경우에도 온프레미스, 에지 및 클라우드 서버 전반에서 새로운 비즈니스 모델과 데이터 공유를 추구합니다. 신뢰 실행 환경(TEE)을 사용한 기밀 컴퓨팅으로 데이터와 사용 중인 인공 지능 모델을 보호할 수 있습니다. P-core를 갖춘 인텔® 제온® 6 프로세서를 통해 고객은 비즈니스 및 규제 요구 사항에 가장 적합한 기밀 컴퓨팅 기술을 선택할 수 있습니다.

P-core를 갖춘 인텔® 제온® 6 제품 모두 인텔® TDX Connect를 지원합니다. 인텔® Trust 도메인 확장(인텔® TDX)은 가상 시스템(VM) 수준에서 워크로드를 보호하는 기밀 컴퓨팅 기술입니다. 2023년 초 Open Confidential Computing Conference(OC3)에서 처음 공개된 인텔 TDX Connect는 기밀 VM과 지원되는 PCI Express 장치 간에 원활하게 암호화된 통신을 지원합니다. 이 기능은 CPU를 넘어, GPU, 스마트 NIC, 스토리지 드라이브 등의 연결 장치로 확장하는 기밀 사용 모델을 구현하는 데 매우 중요합니다. 인텔 TDX Connect는 기밀 컴퓨팅 인프라를 향상시키도록 설계된 아키텍처의 간단한 확장이며, I/O 가상화 성능을 향상시키도록 설계되었습니다.

인텔은 파트너와 신속하게 협력하여 파트너 에코시스템 전반에서 인텔 TDX Connect 기능의 배포를 확장하고 있습니다. Microsoft는 이미 Microsoft Azure 인스턴스에서 인텔 TDX Connect 지원을 활성화하기 위해 노력했습니다.

"Microsoft는 인텔 TDX Connect를 하드웨어 및 소프트웨어 개발자 간에 초기 개발 단계에 있는 미래 세대의 Azure 기밀 VM으로 제품화하게 되어 기쁘게 생각합니다. 인텔 TDX Connect는 기밀 컴퓨팅 성능과 확장성을 향상시키려는 인텔의 여정에서 중요한 이정표를 나타냅니다. 가격이나 성능 저하 없이 기존 및 순 신규 워크로드에 기밀 컴퓨팅의 개인 정보 보호 보장의 이점을 제공할 수 있습니다."

-Vikas Bhatia, Microsoft Azure 기밀 컴퓨팅 제품 책임자

또한, 인텔은 다른 장치 및 가속기 공급업체와 적극적으로 협력하여 인텔 TDX Connect를 기반으로 하는 PCIe 프로토콜을 지원하도록 보장함으로써 다양한 고객 요구 사항에 맞춰 인텔 TDX 기반 기밀 컴퓨팅 기능을 성공적으로 확장할 수 있습니다.

• 응용 프로그램 격리: 인텔® Software Guard Extensions(인텔® SGX)는 사용 중인 데이터를 보호하도록 설계된 응용 프로그램의 격리를 제공합니다. 인텔® SGX는 현재 시중의 데이터 센터에서 가장 많이 연구되고 업데이트되고 있는 기밀 컴퓨팅 기술입니다.
• 가상 머신(VM) 수준 격리: 인텔® Trust Domain Extensions(인텔® TDX)는 VM 수준에서 격리 및 기밀성을 제공합니다. 인텔® TDX 기밀 VM에서 게스트 OS 및 VM 응용 프로그램은 클라우드 호스트, 하이퍼바이저 및 플랫폼의 기타 VM에 의해 액세스로부터 격리됩니다.

P-core에 최적화된 대상 워크로드 향상

인공 지능, HPC 및 관계형 데이터베이스와 같은 사용 사례에서 컴퓨팅 집약적인 워크로드를 관리하는 IT 의사 결정자는 P-core를 갖춘 인텔® 제온® 6 프로세서의 배포에서 가장 큰 영향을 받게 됩니다. MRDIMM 메모리 지원이 추가되어, 인메모리 데이터베이스나 메모리 공간이 큰 LLM(대규모 언어 모델)과 같은 사용 사례의 메모리 액세스 제약 조건을 완화하는 데 도움이 될 수 있습니다.

인공 지능 워크플로를 가속하여 경쟁력 유지

향상된 코어, 더 높은 메모리 대역폭, 강력한 매트릭스 엔진과 함께 P-core를 갖춘 인텔® 제온® 6 프로세서는 추론, 미세 조정 및 검색 증강 생성(RAG) 사용 사례를 위한 중소형 인공 지능 모델을 지원하는 충분한 컴퓨팅을 제공합니다. 또한, 인텔® 제온® 프로세서를 위한 최적화는 TensorFlow와 PyTorch 같은 인기 딥러닝 프레임워크의 메인스트림 배포에 이미 통합되어 있습니다.

점점 더 복잡한 HPC 계산 및 시뮬레이션 관리

P-core를 갖춘 인텔® 제온® 6 프로세서는 내장 매트릭스 엔진뿐만 아니라 인텔® Advanced Vector Extensions 512(인텔® AVX-512)를 보유하여 과학 시뮬레이션에 일반적인 벡터 기반 수학을 가속합니다. 이 플랫폼 기반 클러스터는 3D 렌더링, 과학 연구, 금융 시뮬레이션, 컴퓨터 지원 엔지니어링이 힘을 발휘하여 결과를 도출하는 시간을 단축하도록 지원할 수 있습니다.

새로운 차원의 인프라 및 스토리지 최적화 달성

P-core와 E-core는 동일한 하드웨어 플랫폼을 공유하므로, 조직은 각 유형의 코어와 시스템을 혼합하여 인프라에서 다양한 워크로드를 관리하는 동시에 전력 예산을 유지하고 데이터 개인정보 보호 및 주권 규정을 준수할 수 있습니다. 컴퓨팅 집약적인 P-core는 SAS와 같은 강력한 비즈니스 분석 소프트웨어를 지원하는 반면, E-core는 시스템 백업 및 소프트웨어 업데이트와 같은 저강도의 높은 유휴 시간 워크로드를 실행하는 데 사용할 수 있습니다.

에지에서 생산성 향상 및 대기 시간 제거 지원

고성능 컴퓨팅 리소스를 최종 사용자 및 장치에 더 가깝게 배치하여 에지 생산성과 대기 시간을 향상합니다. P-core를 갖춘 인텔® 제온® 6 프로세서는 에지 서버에서 고급 인공 지능 모델을 배포할 수 있으며, 수천 개의 IoT 장치에서 빠른 인사이트를 전달하는 데 필요한 컴퓨팅 성능을 제공합니다. 136개의 PCIe 레인을 갖춘 단일 소켓 옵션은 또한 단일 프로세서당 더 많은 애드인 카드를 허용하여 공간이 제한된 배포에서 인프라를 통합하도록 지원합니다.

빠르고 반응적인 분석을 유지하면서 관계형 데이터베이스 성장

P-core 프로세서의 고급 벡터 엔진은 고급 데이터베이스 및 분석 사용 사례에 공통된 단일 명령, 다중 데이터(SIMD) 편향 워크로드를 효과적으로 실행할 수 있습니다. 인텔® 제온® 6 프로세서는 또한 매우 낮은 대기 시간 캐시를 활용하여 리소스 충돌과 관련된 지연을 방지합니다. 이 플랫폼과 인텔® QAT와 같은 가속기를 갖춘 다목적 구성은 복잡한 데이터 유형을 분석하고 저장할 때 빠른 결과를 생성할 수 있습니다.

인텔® 제온® 6 프로세서 자세히 알아보기

E-core 및 P-core를 갖춘 인텔® 제온® 6 프로세서를 모두 배포하면 많은 이점이 있습니다. 두 가지 모두의 기술 및 경쟁 우위를 더 잘 이해하려면 Prowess Consulting의 이 분석서를 다운로드하여 읽고, 인텔 담당자에게 연락하여 시작하십시오.