AI 기술 스택이란 무엇입니까?
인공 지능을 위한 기술 스택은 AI 응용 프로그램의 개발과 배포를 용이하게 하는 하드웨어, 소프트웨어 및 도구로 구성된 완전한 엔드투엔드 솔루션입니다. 범용 소프트웨어 응용 프로그램을 구축하는 데 사용되는 기술 스택과 유사하지만, AI 기술 스택에는 머신 러닝 및 딥 러닝을 가능하게 하는 AI 모델 구축을 지원하는 특수 도구가 포함되어 있습니다.
AI 기술 스택에는 응용 프로그램 계층, 모델 계층, 데이터 계층, 인프라 계층이라는 4가지 주요 기본 계층이 포함됩니다.
응용 프로그램 계층
AI 기술 스택의 응용 프로그램 계층에는 사용자가 기본 AI 모델과 AI 솔루션을 구동하는 데이터 세트와 상호 작용할 수 있도록 지원하는 모든 소프트웨어, 사용자 인터페이스 및 접근성 기능이 포함됩니다. 예를 들어, 브라우저 기반 인터페이스를 통해 사용자는 ChatGPT와 같은 생성형 AI 모델에 질문을 보낼 수 있으며, 데이터 분석 제품군은 사용자가 AI 모델의 결과를 이해하는 데 도움이 되도록 그래프와 차트 형태로 시각화를 제공할 수 있습니다.
모델 계층
AI 기술 스택의 모델 계층은 AI 모델을 개발, 훈련 및 최적화하는 곳입니다. AI 모델은 AI 프레임워크, 도구 세트 및 라이브러리의 조합을 사용하여 개발되며, 이후 방대한 분량의 데이터로 훈련되어 의사 결정 프로세스를 개선하는 데 도움이 됩니다.
데이터 계층
이 계층은 데이터 수집, 저장 및 관리에 중점을 두며, 다른 모든 계층과 상호 작용하고 이를 지원합니다. 이 계층의 데이터는 모델 계층으로 공급되고, 응용 프로그램 계층의 새 데이터는 향후 모델 분석을 위해 여기에 캡쳐되며, 인프라 계층은 데이터를 확장, 보안 유지 및 안정적으로 처리하는 데 필요한 리소스를 제공합니다.
인프라 계층
AI 기술 스택의 인프라 계층에는 AI 모델과 사용자 대면 소프트웨어를 실행하는 데 필요한 모든 하드웨어 및 컴퓨팅 리소스가 포함됩니다. 여기에는 엔터프라이즈 데이터 센터, 클라우드 서버, 노트북 및 데스크탑 AI PC와 같은 클라이언트 장치, 또는 센서 및 스마트 카메라와 같은 에지 장치가 포함될 수 있습니다.
AI 워크플로
AI 기술 스택을 성공적으로 배포하는 것은 데이터, 모델, 배포의 순서에 따라 AI 모델을 개발하고 훈련하는 순차적 단계인 AI 워크플로우에 따라 달라집니다.
- 데이터 단계에는 공식적인 데이터 수집 또는 생성 프로세스가 포함되며, 일반적으로 사전 처리와 저장이 뒤따릅니다. 이 단계에서는 AI 모델에서 훈련 또는 추론에 사용할 데이터를 준비합니다.
- 두 번째 단계인 AI 모델링은 알고리즘을 계층화하여 인간 마음의 논리적 패턴과 의사 결정 패턴을 시뮬레이션하는 뉴럴 네트워크를 생성하는 AI 모델을 개발하는 것을 포함합니다.
- 마지막 단계인 배포는 인간의 개입을 최소화하거나 전혀 없이 사용자 쿼리에 답변하는 맞춤형 AI 챗봇과 같은 실제 사용 사례에 AI 모델을 배포할 때 이루어집니다.
AI 솔루션 구성 요소
AI 기술 스택의 기본 구성 요소 중 상당수는 기술을 다루는 전문가들에게 친숙할 것이며, 하드웨어, 네트워킹 및 소프트웨어가 포함됩니다. 그러나 AI 기술 스택 구성 요소와 도구는 AI 워크로드의 고유한 요구 사항과 수요를 처리하도록 특별히 설계되었습니다.
AI 하드웨어
AI 하드웨어에는 AI 배포를 구성하고 AI 기술 스택의 기본 계층을 형성하는 실리콘 또는 베어 메탈 구성 요소가 포함됩니다.
CPU
CPU(중앙 처리 장치) 또는 프로세서는 컴퓨터를 실행하는 논리적 명령을 내립니다. 프로세서의 아키텍처 내에서 단일 스레드 프로세서 코어는 한 번에 하나의 명령어를 실행할 수 있고, 멀티스레드 코어는 두 개의 명령을 동시에 실행할 수 있습니다. AI 워크로드의 경우, 멀티스레드 코어는 단일 스레드 코어보다 더 높은 성능을 제공하며, AI 모델을 더 효율적으로 훈련하는 데 도움이 될 수 있습니다.
GPU
GPU(그래픽 처리 장치)는 병렬로 작동하는 많은 수의 실행 장치를 사용하여 그래픽 워크로드를 처리하도록 설계된 특수 구성 요소입니다. 그래픽 워크로드와 AI 워크로드는 동일한 유형의 작업에 의존하므로 AI 배포에 GPU가 일반적으로 사용됩니다. 그래픽 처리 장치는 CPU의 아키텍처에 내장된 dGPU(별도 그래픽 처리 장치) 플러그인 카드 또는 iGPU(통합 그래픽 처리 장치)로 제공됩니다. AI 서버에서는 dGPU가 더 일반적이지만, 클라이언트 컴퓨터나 에지 장치에서는 iGPU가 더 일반적으로 사용됩니다.
AI를 위한 그래픽 처리 장치에 대해 자세히 알아보십시오.
FPGA
FPGA(Field-Programmable Gate Array)는 데이터를 처리하기 위한 별도의 플러그인 카드로, 제조 후 기능을 맞춤화할 수 있습니다. 이를 통해 FPGA는 AI를 포함한 다양한 워크로드의 데이터 이동, 암호화 또는 처리를 가속화하는 데 도움이 되는 높은 수준의 유연성을 제공합니다.
AI 가속기
별도 AI 가속기는 AI 워크로드를 처리하도록 설계된 특수 하드웨어 구성 요소로, 스케일 아웃 데이터 센터 배포에 이상적입니다. 일부 별도 AI 가속기는 내장형 네트워킹과 같은 기능을 제공하여 인프라 비용을 절감하는 동시에 그래픽 처리 장치와 유사한 AI 훈련 및 추론 성능을 제공할 수 있습니다.
에지 AI
에지에서의 AI는 CPU, 그래픽 처리 장치, FPGA, AI 가속기 등과 같이 앞에서 나열한 많은 AI 하드웨어 구성 요소를 사용합니다. 주요 차이점은 시스템이 배포되는 위치입니다. 많은 기업이 데이터 센터에 AI를 배포하지만, 에지 AI는 도시 교차로, 소매점, 공장 현장과 같은 에지 환경에 배포되는 AI 시스템을 가리킵니다.
에지 AI는 거의 실시간에 가까운 분석 및 조치를 위해 생성 시점에 데이터를 추론합니다. 이로 인해 에지 AI는 네트워크 인프라와 클라우드 기반 리소스가 더 적게 필요하므로, 추론을 위해 데이터를 클라우드로 전송했다가 다시 받는 것보다 비용 효율적일 수 있습니다.
AI 서버
AI 서버는 기업과 최종 사용자가 사용하는 다른 시스템에 서비스, 응용 프로그램 및 데이터를 제공하는 AI 워크로드 요구 사항에 맞게 설계된 컴퓨터입니다. AI 서버는 AI 프로세서, 가속기, 네트워킹 하드웨어를 결합하여 데이터 저장 및 준비뿐만 아니라 AI 모델 훈련 및 추론을 지원합니다. 엔터프라이즈 데이터 센터는 여러 개의 AI 서버로 구성되지만, 에지 AI 배포는 하나 이상의 에지 AI 서버에 의존하여 목적을 달성할 수 있습니다.
AI 네트워킹
고성능 네트워킹은 AI 응용 프로그램을 효율적이고 안전하게 운영하도록 지원하는 기술 인프라의 중요한 구성 요소입니다. AI를 위한 네트워킹은 강력하고 효율적이며 안전하며 유연한 안정적인 연결을 제공해야 합니다. AI는 어디에서나 구현할 수 있으므로 네트워크 솔루션에는 AI 데이터 센터, 클라이언트, 클라우드 및 에지의 서로 다른 시스템과 장치 간의 유선, 무선 및 가상 연결이 포함될 수 있습니다. 머신 러닝 알고리즘과 기타 AI 프로그램에 제공되는 사용자의 개인 정보를 포함한 방대한 데이터 세트를 보호하려면 강력한 네트워크 보안 기능 또한 필수적입니다.
ai 소프트웨어
다른 소프트웨어와 마찬가지로 AI는 하드웨어에서 실행되는 코드입니다. AI 소프트웨어는 Python, Java, C++ 등과 같은 다양한 코딩 언어를 사용할 수 있습니다. 개발자는 AI 프레임워크를 사용하여 AI 모델을 구축, 훈련 및 배포하며, AI 프레임워크는 AI 라이브러리와 툴킷을 사용하여 사전 구축된 요소 및 코드 샘플로 AI를 더 쉽게 개발할 수 있도록 합니다. AI 소프트웨어는 AI 기술 스택의 모델 및 응용 프로그램 계층을 모두 개발하는 데 기여합니다.
AI 프레임워크
AI 프레임워크는 플랫폼이며 응용 프로그램으로도 간주됩니다. 개발자는 AI 프레임워크를 사용하여 AI 솔루션을 구축, 훈련 및 배포합니다. AI 프레임워크는 다양한 방법론을 결합하고, 한 개 이상의 코딩 언어를 지원하며, 코드를 더 쉽게 탐색하고 편집할 수 있는 인터페이스를 제공할 수도 있습니다. AI 프레임워크의 예로는 PyTorch, TensorFlow가 있습니다.
AI 라이브러리
AI 라이브러리는 개발자가 처음부터 직접 생성할 필요 없이 자체 AI 모델을 개발하는 데 사용할 수 있는 모듈식의 사전 구축된 AI 함수 및 코드 샘플 모음입니다. AI 프레임워크는 AI 라이브러리를 사용하여 AI 개발 프로세스를 가속화하는 데 도움이 됩니다. AI 라이브러리의 예로는 Keras, Scikit-learn이 있습니다.