TECHnalysis Research: AI PC의 기회
PC에서 AI의 모든 잠재력 활용
AI의 폭발적인 증가는 기술 업계에 흥분을 불러일으켰지만, 이러한 흥분과 더불어 클라우드가 모든 AI 응용 프로그램을 실행할 수 있을 만큼 크지 않을 수 있다는 인식이 커지고 있습니다. 제한된 인프라의 한계를 넘어, 퍼블릭 클라우드로 데이터를 전송할 때의 보안 및 개인정보 보호 문제를 고려하는 기업이 많습니다. AI PC가 등장합니다. 지난 1년 동안 그 어느 때보다 강력하고 효율적인 방식으로 AI 워크로드를 실행하는 데 활용할 수 있는 새로운 PC SOC(System on Chip) 아키텍처가 몇 가지 출시되었습니다. 이에 대한 한 가지 강력한 예는 새로운 인텔 코어 Ultra 프로세서입니다. 이 프로세서에는 더 유연한 CPU, 더 강력한 GPU, 다양한 유형의 AI 워크로드에 특별히 최적화된 NPU(신경망 처리 장치)라는 새로운 유형의 구성 요소가 포함되어 있습니다. TECHnalysis Research의 Bob O’Donnell이 제공하는 인텔이 후원한 이 백서는 현재의 한 세대에서 한 번 뿐인 진정한 AI PC 기회를 살펴보고, PC가 새롭고 흥미로운 방식으로 다시 태어나는 이유를 설명합니다.
지금까지 AI 기반 컴퓨팅은 대부분 클라우드에서 실행되는 응용 프로그램과 서비스에 집중되어 었습니다. 그러나 PC에서 이러한 종류의 응용 프로그램을 직접 실행하는 것은 엄청난 이점이 있습니다. 다음 사실을 고려하십시오.
최근 기술이 빠르게 발전했습니다. 오픈 소스 기반 모델의 축소와 모델 양자화와 같은 기술 발전으로 인해, 현재 온디바이스 AI 솔루션이 갑자기 가능해지고 있습니다. 사실, 장치에서 일어나는 혁신 속도는 GenAI가 발전하는 전반적인 속도보다 훨씬 더 빠릅니다.
기존 클라우드 인프라는 수요를 감당할 수 없습니다. 온디바이스 AI에 관심이 몰리는 가장 큰 이유는 매우 실용적인 문제에서 비롯됩니다. 특히 GenAI 도구의 놀라운 도입 속도와 온라인에 출시되는 수많은 새로운 서비스를 고려할 때 기존 퍼블릭 클라우드 데이터 센터 인프라로는 예상되는 수요를 감당할 수 없다는 인식이 널리 받아들여지고 있습니다.
로컬로 실행할 때 성능과 출력이 더 좋을 수 있습니다. PC 및 기타 클라이언트 장치에서 AI 응용 프로그램을 직접 실행하는 것은 가능할 뿐만 아니라, 많은 상황에서 로컬로 실행할 때 성능과 출력이 더 좋을 수 있습니다.
개인정보 및 보안 강화. 자체 장치에서 데이터를 활용하고 퍼블릭 클라우드 환경에 보내지 않을 수 있으면 데이터가 훨씬 더 안전해집니다.
4가지 핵심 사항
균형 잡힌 SOC의 중요성. 2023년에는 이전 세대보다 더 강력하고 효율적인 방식으로 AI 워크로드를 실행하는 데 활용할 수 있는 몇 가지 새로운 PC SOC(System on Chip) 아키텍처가 출시되었습니다. 새로운 인텔 코어 Ultra 프로세서와 같은 칩에는 이제 더 유연한 CPU, 더 강력한 GPU, 다양한 유형의 AI 워크로드에 특별히 최적화된 NPU(신경망 처리 장치)라는 새로운 유형의 구성 요소가 포함됩니다.
적합한 AI 소프트웨어 도구의 중요성. 시스템 수준의 개선 외에도 특정 응용 프로그램에서 가능한 최고의 성능을 얻으려면 일반적으로 소프트웨어 개발자와 직접 협력하여 코드가 특정 아키텍처에 맞게 최적화되도록 해야 합니다. 인텔의 규모와 수많은 내부 소프트웨어 개발자들이 AI 기반 PC 응용 프로그램으로 작업하는 많은 ISV(독립 소프트웨어 공급업체)와 연락하고 협업할 수 있다는 점은 종종 이점이 될 수 있습니다.
PC AI 응용 프로그램은 점점 더 발전하고 있습니다. AI 기능을 활용하는 여러 PC 응용 프로그램과 시스템 수준 기능이 이미 시장에 나와 있습니다. Microsoft의 Windows Studio Effects 기능은 PC의 NPU에서 실행하도록 특별히 최적화되어 있으며, 실시간 메시징 기능에서 개선된 비디오 배경 흐림 효과와 향상된 오디오 노이즈 감소 기능을 제공합니다.
PC가 재탄생하고 있습니다. 실리콘 아키텍처의 흥미로운 발전부터 PC 기반 소프트웨어 응용 프로그램 및 도구의 중요한 개발까지, PC는 새롭고 흥미로운 방식으로 재탄생하고 있습니다.
"오픈 소스 기반 모델의 급격한 진화와 축소, 모델 양자화와 같은 기술 발전으로 인해 업계 관찬자들이 몇 년 동안 클라이언트 장치에서 일어날 것으로 예상하지 못한 일들이 갑자기 몇 달 만에 가능해지고 있습니다."
Bob O'Donnell, TECHnalysis Research
"비용, 보안, 효율성과 관련된 문제는 모두 클라우드에서 모든, 또는 대부분의 AI 워크로드를 실행하는 것이 지속 가능한 장기적인 옵션이 아니라는 사실을 지적합니다. 그 결과, AI 기반 응용 프로그램의 추진력이 계속 성장할 수 있도록 온디바이스 AI 솔루션은 빠르게 필수적인 요소로 자리잡고 있습니다. 이러한 AI 워크로드 중 더 많은 부분을 PC로 옮겨야 합니다."
Bob O'Donnell, TECHnalysis Research