Performance-Core(P-core)를 갖춘 인텔® 제온® 6 프로세서

P-core를 갖춘 인텔® 제온® 6에 대한 인사이트 확보: AI 및 분석 워크로드를 위한 설계

P-core를 갖춘 인텔® 제온® 6900 시리즈 프로세서가 찾아왔습니다. 컴퓨팅 집약적인 AI 및 HPC 사용 사례부터 미션 크리티컬 관계형 데이터베이스 및 분석 응용 프로그램에 이르기까지 데이터 센터 성능에 대한 수요가 이보다 더 커진 적이 없습니다. 인텔® 제온® 6 프로세서는 IT 팀이 P-core 및 E-core(Efficient-core) 오퍼링이라는 두 가지 제품 라인 오퍼링에서 다양한 워크로드를 대상으로 개선할 수 있도록 강화된 기능으로 설계되었습니다.

P-core 오퍼링은 컴퓨팅 집약적인 AI, HPC 및 데이터 서비스 워크로드를 가속하는 내장 매트릭스 엔진을 갖춘 하이퍼스레드 코어로 차별화되는 반면, E-core 오퍼링은 매트릭스 엔진을 생략하고 더 높은 단일 스레드 코어 밀도를 선호합니다.

모든 인텔® 제온® 6 프로세서는 P-core 또는 E-core의 중점과 관계없이 동일한 명령 세트, BIOS 및 내장 I/O 가속기를 제공합니다. 여기에는 인텔® QuickAssist Technology(인텔® QAT), 인텔® Data Streaming Accelerator(인텔® DSA), 인텔® In-Memory Analytics Accelerator(인텔® IAA), 인텔® Dynamic Load Balancer(인텔® DLB)가 포함됩니다.

또한 데이터 센터가 사용하는 동일한 드라이버, 운영 체제 및 응용 프로그램과 동일한 신뢰성, 가용성 및 서비스 가능성(RAS) 기능을 지원합니다.

P-core를 갖춘 인텔® 제온® 6 프로세서의 장점 살펴보기

기업은 언어, 비전 및 이미지 인식, 추천 시스템을 위한 최첨단 AI 모델을 배포하는 데 드는 비용과 시간을 절약하고, HPC 기반 시뮬레이션과 고급 분석에서 더 심층적인 인사이트를 생성하려고 합니다. P-core를 갖춘 인텔® 제온® 6 프로세서는 혁신적인 매트릭스 및 벡터 엔진과 초고밀도 메모리 및 I/O 대역폭을 갖춘 다수의 고성능 코어를 제공하여 기업이 이러한 기회를 활용할 수 있도록 지원합니다.

방대한 워크로드를 위한 고성능 배포

소켓당 최대 128개의 코어, 12개의 메모리 채널 및 96개의 PCIe 레인으로 확장할 수 있는 유연성이 있는 P-core를 갖춘 인텔® 제온® 6 프로세서는 기업이 다양한 응용 프로그램 요구 사항을 충족하도록 지원합니다. 메모리 대역폭 병목 현상을 완화하려는 IT 팀을 위해, 혁신적인 MRDIMM(Multiplexed Combined Rank)는 초당 최대 8,800 메가 전송(MT/s)을 제공하는 동시에 작업을 빠르게 완료하여 낮은 TCO에 기여합니다. 내장 가속기가 목표 워크로드를 추가로 향상하여 더 큰 성능과 효율성을 제공합니다.

CPU에서 강력한 AI 성능 활용

P-core를 갖춘 인텔® 제온® 6 프로세서는 많은 까다로운 AI 사용 사례를 지원하도록 설계되었습니다. P-core는 현재 int8, BF16 및 FP16(신규) 데이터 유형을 지원하는 인텔® Advanced Matrix Extensions(인텔® AMX)와 같은 가속화를 갖춘 내장 AI에서 4세대의 인텔의 리더십을 확장합니다. 그 결과, P-core는 객체 감지부터 중간 규모 GenAI에 이르는 여러 AI 모델에 대한 서비스 수준 계약(SLA)을 준수하도록 지원하는 동시에, 필요에 따라 개방형 표준, 고성능, RAS 기능 및 추가 가속기 지원을 제공합니다.

범용 워크로드를 위한 와트당 성능 최적화

P-core를 갖춘 인텔® 제온® 6 프로세서는 메인스트림 오퍼링에서 8~86개의 코어, 이중 CPU 기반 시스템에서 네트워킹 및 스토리지 애드인 카드를 위한 최대 176개의 PCIe 5.0 레인, 단일 CPU 기반 시스템을 위해 놀라운 136개의 PCIe 레인을 보유한 단일 소켓 오퍼링이 특징인 메인스트림 시리즈를 통해 전체 워크로드 스펙트럼에서 탁월한 성능을 발휘합니다. 모든 인텔® 제온® 6 프로세서의 효율성은 서버 사용률이 증가함에 따라 와트당 확장 가능한 성능을 제공하는 능력이 강조되어, 로드라인 전반에서 선형에 가까운 전력 성능 소비를 제공합니다. 성능이 까다로운 워크로드의 경우, 이것은 작업을 빠르게 완료하도록 높은 부하에서 플랫폼이 전력을 효율적으로 사용하는 것을 의미합니다.

Performance-core 워크로드 성능 이점:

5세대 인텔® 제온® 프로세서와 비교:

• 인텔® AMX 사용 시 최대 3배 향상된 Llama2 성능¹
• 최대 2배 향상된 HammerDB MySQL 성능²
• 최대 2.5배 향상된 MRDIMM 탑재 HPCG 벤치마크 성능³

2세대 인텔® 제온® 프로세서와 비교:

• 최대 17배 향상된 INT8 사용 ResNet – 50 BSX 성능⁴

경쟁 제품과 비교:

• AMD EPYC 대비 최대 5.5배 향상된 MRDIMM 탑재 AI 추론 성능⁴

향상된 보안 기능으로 비즈니스 성장 지속

민감한 데이터 또는 규제 데이터로 작업하는 경우에도 온프레미스, 에지 및 클라우드 서버 전반에서 새로운 비즈니스 모델과 데이터 공유를 추구합니다. 신뢰 실행 환경(TEE)을 사용한 기밀 컴퓨팅으로 데이터와 사용 중인 AI 모델을 보호할 수 있습니다. P-core를 갖춘 인텔® 제온® 6 프로세서를 통해 고객은 비즈니스 및 규제 요구 사항에 가장 적합한 기밀 컴퓨팅 기술을 선택할 수 있습니다.

• 응용 프로그램 격리: 인텔® Software Guard Extensions(인텔® SGX)는 사용 중인 데이터를 보호하도록 설계된 응용 프로그램의 격리를 제공합니다. 인텔® SGX는 현재 시중의 데이터 센터에서 가장 많이 연구되고 업데이트된 기밀 컴퓨팅 기술입니다.
• VM(가상 머신) 수준 격리: 인텔® Trust Domain Extensions(인텔® TDX)는 VM 수준에서 격리 및 기밀성을 제공합니다. 인텔® TDX 기밀 VM에서 게스트 OS 및 VM 응용 프로그램은 클라우드 호스트, 하이퍼바이저 및 플랫폼의 기타 VM에 의해 액세스로부터 격리됩니다.

P-core에 최적화된 대상 워크로드 향상

AI, HPC 및 관계형 데이터베이스와 같은 사용 사례에서 컴퓨팅 집약적인 워크로드를 관리하는 IT 의사 결정자는 P-core를 갖춘 인텔® 제온® 6 프로세서의 배포에서 가장 큰 영향을 받게 됩니다. MRDIMM 메모리 지원이 추가되어, 인메모리 데이터베이스나 메모리 공간이 큰 LLM(대규모 언어 모델)과 같은 사용 사례의 메모리 액세스 제약 조건을 완화하는 데 도움이 될 수 있습니다.

AI 워크플로를 가속하여 경쟁력 유지

향상된 코어, 더 높은 메모리 대역폭, 강력한 매트릭스 엔진과 함께 P-core를 갖춘 인텔® 제온® 6 프로세서는 추론, 미세 조정 및 검색 증강 생성(RAG) 사용 사례를 위한 중소형 AI 모델을 지원하는 충분한 컴퓨팅을 제공합니다. 또한, 인텔® 제온® 프로세서를 위한 최적화는 TensorFlow와 PyTorch 같은 인기 딥러닝 프레임워크의 메인스트림 배포에 이미 통합되어 있습니다.

점점 더 복잡한 HPC 계산 및 시뮬레이션 관리

내장된 매트릭스 엔진에 더해, P-core를 갖춘 인텔® 제온® 6 프로세서는 인텔® Advanced Vector Extensions 512(인텔® AVX-512)를 통해 과학 시뮬레이션에 일반적인 벡터 기반 수학을 가속합니다. 이 플랫폼 기반 클러스터는 3D 렌더링, 과학 연구, 금융 시뮬레이션, 컴퓨터 지원 엔지니어링이 힘을 발휘하여 결과를 도출하는 시간을 단축하도록 지원할 수 있습니다.

새로운 차원의 인프라 및 스토리지 최적화 달성

P-core와 E-core는 동일한 하드웨어 플랫폼을 공유하므로, 조직은 각 유형의 코어와 시스템을 혼합하여 인프라에서 다양한 워크로드를 관리하는 동시에 전력 예산을 유지하고 데이터 개인정보 보호 및 주권 규정을 준수할 수 있습니다. 컴퓨팅 집약적인 P-core는 SAS와 같은 강력한 비즈니스 분석 소프트웨어를 지원하는 반면, E-core는 시스템 백업 및 소프트웨어 업데이트와 같은 저강도의 높은 유휴 시간 워크로드를 실행하는 데 사용할 수 있습니다.

에지에서 생산성 향상 및 대기 시간 제거 지원

고성능 컴퓨팅 리소스를 최종 사용자 및 장치에 더 가깝게 배치하여 에지 생산성과 대기 시간을 향상합니다. P-core를 갖춘 인텔® 제온® 6 프로세서는 에지 서버에서 고급 AI 모델을 배포할 수 있으며, 수천 개의 IoT 장치에서 빠른 인사이트를 전달하는 데 필요한 컴퓨팅 성능을 제공합니다. 136개의 PCIe 레인을 갖춘 단일 소켓 옵션은 또한 단일 프로세서당 더 많은 애드인 카드를 허용하여 공간이 제한된 배포에서 인프라를 통합하도록 지원합니다.

빠르고 반응적인 분석을 유지하면서 관계형 데이터베이스 성장

P-core 프로세서의 고급 벡터 엔진은 고급 데이터베이스 및 분석 사용 사례에 공통된 단일 명령, 다중 데이터(SIMD) 편향 워크로드를 효과적으로 실행할 수 있습니다. 인텔® 제온® 6 프로세서는 또한 매우 낮은 대기 시간 캐시를 활용하여 리소스 충돌과 관련된 지연을 방지합니다. 이 플랫폼과 인텔® QAT와 같은 가속기를 갖춘 다목적 구성은 복잡한 데이터 유형을 분석하고 저장할 때 빠른 결과를 생성할 수 있습니다.

인텔® 제온® 6 프로세서 자세히 알아보기

E-core 및 P-core를 갖춘 인텔® 제온® 6 프로세서를 모두 배포하면 많은 이점이 있습니다. 두 가지 모두의 기술 및 경쟁 우위를 더 잘 이해하려면 Prowess Consulting의 분석서를 다운로드하여 읽고, 인텔 담당자에게 연락하여 시작하십시오.