에지에서 AI의 역할
최종 목표가 의료 영상 워크플로를 자동화하여 진단을 더 빠르게 하는 것이든, 금속 제조 공장에서 운영 효율성을 개선하는 것이든, 에지에서 AI의 역할은 동일합니다. 즉, 데이터를 활용하여 더 신속하게 조치를 취하는 것입니다. AI의 영역에서 이는 추론이라고 하는 작업을 통해 이루어집니다.
추론 과정에서 실시간 입력 데이터는 의사 결정, 알림 전송, 인사이트 제공 또는 이미지 정렬과 같은 작업을 수행하도록 사전에 학습된 AI 모델에 입력됩니다.
에지 AI는 카메라, 데이터 소스, 센서를 포함한 사물 인터넷(IoT) 장치를 사용하여 실제 환경에서 데이터를 수집하고 분석하는 경우가 많습니다. 에너지 또는 유틸리티 회사가 타워, 파이프라인, 그리드를 악의적인 행위자로부터 안전하게 보호하고자 한다고 가정해 보겠습니다. 보안 비디오 및 센서 데이터를 에지에서 처리하여 거의 실시간으로 운영자에게 위협에 대한 경고를 자동으로 보낼 수 있습니다. 거의 즉각적으로 데이터를 수집하고 처리할 수 있는 기능을 갖춘 에지 AI는 조직의 역량을 크게 확장하여 에지에서 다양한 AI 기반 애플리케이션과 경험을 구현할 수 있도록 지원합니다. 은행 키오스크에서 실행되는 챗봇을 비롯하여 자동 차선 유지 및 충돌 방지 기능을 갖춘 자동차, 도심 거리나 공장 현장에서 발생하는 안전 위험이나 사고를 거의 실시간으로 경고하는 것에 이르기까지 산업 전반에 걸쳐 에지 AI의 사용 사례는 매우 광범위합니다.
에지 AI와 기존 AI 비교
전통적으로 AI는 주로 클라우드 기반이었으며, 이 경우 데이터는 데이터 센터로 전송되어 처리되고 분석 후 반환됩니다. 이러한 클라우드 중심 컴퓨팅 인프라 모델은 시간에 민감한 엔터프라이즈 프로세스 및 운영에 적합하지 않습니다.
많은 엔터프라이즈 추론 사용 사례에서 보듯 엔터프라이즈는 데이터를 매우 빠르게 분석하는 것에서 이점을 얻습니다. 실시간 데이터 처리가 필요하고 지연 시간에 대한 요구 사항이 엄격한 경우가 많습니다. 연결성이 좋지 않은 곳에서 구현해야 하는 경우가 많기 때문에 클라우드와의 전송 중 데이터 패킷 손실로 인한 지연과 오류에 취약할 수 있습니다.
이러한 요구와 과제를 해결하기 위해 에지 AI는 공장 현장, 병원 또는 매장과 같은 데이터 소스에서 데이터 분석을 수행합니다. 알고리즘이 현장에 배포되어 데이터를 중앙 허브 또는 내장 프로세서가 탑재된 에지 장치에서 직접 처리합니다.
하이브리드 에지 AI
이 두 가지 접근 방식인 에지 AI와 클라우드 AI는 상호 배타적이지 않습니다. 에지에서의 AI가 발전함에 따라 추론 워크로드를 에지와 클라우드 간에 분산하는 하이브리드 에지 접근 방식이 널리 채택될 것으로 예상됩니다. 이 아이디어의 핵심은 에지의 실시간에 가까운 경량의 인사이트를 클라우드의 심층적인 컨텍스트로 강화할 수 있다는 것입니다.
하이브리드 에지는 에지의 속도와 효율성을 확장 가능한 클라우드 기반 리소스와 결합하여 다양한 배포 환경과 성능 요구 사항을 갖는 최첨단 애플리케이션을 지원할 수 있습니다. 또한 하이브리드 접근 방식을 통해 기업은 여러 모델로부터의 입력을 프로세스에 통합할 수 있습니다.
에지 AI가 흔히 컴퓨터 비전과 연계되기는 하지만, 에지 AI 환경은 생성형 AI(GenAI), 자연어(텍스트 음성 변환, 챗봇) 및 로봇 공학과 관련된 다중 모델 애플리케이션을 포함하여 빠르게 확장되고 있습니다. 이러한 새로운 사용 사례는 산업에 혁신을 가져올 것으로 기대됩니다. 제조 분야에서는 생성형 AI 기반 소프트웨어가 민첩하고 역동적인 공급망을 촉진할 수 있으며, 자율 주행 차량과 스마트 인프라는 스마트 시티가 환경에 미치는 부담을 줄이고 교통 흐름을 최적화하는 데 도움이 될 수 있습니다.
에지 AI의 이점
에지 AI는 기업이 수많은 복잡한 과제를 해결하여 실제로 마주하는 문제를 해결하는 데 도움이 될 수 있습니다. 에지에 AI를 도입하면 다음과 같은 이점이 있습니다.
- 운영 속도 및 효율성: 혁신을 위한 중요한 요소인 에지 AI 기반 자동화는 실시간에 가까운 자율 운영을 가능하게 하여 클라우드 기반 처리와 관련된 지연을 제거합니다. 지연 시간 및 네트워크 병목 현상을 최소화하여 데이터 전송 속도를 개선합니다.
- 비용 효율성: 센서와 장치에서 입력되는 데이터의 양이 증가함에 따라 데이터를 클라우드로 전송하고 다시 받는 것보다 에지 컴퓨팅이 더 비용 효율적입니다. 대역폭 소모가 감소하고 클라우드 기반 리소스가 더 적게 필요하므로 운영 비용을 절감할 수 있습니다.
- 에너지 절약: 에너지 효율적인 에지 AI 장치는 저전력 컴퓨팅이 용이하도록 설계되어 클라우드 기반 처리보다 훨씬 더 효율적일 수 있습니다. 또한 데이터 센터와 주고받는 트래픽이 최소화되므로 라우터와 스위치와 같은 네트워킹 하드웨어가 사용하는 전력 소비량이 줄어듭니다.
- 보안 및 데이터 주권: 민감한 데이터를 에지에 보관하면 로컬 제어, 자율성, 규정 준수를 보장하여 보안 및 개인정보 보호 위험을 줄이는 데 도움이 됩니다.
에지 AI 고려 사항
AI를 에지 환경에 도입하면 퍼블릭 또는 프라이빗 클라우드에서 AI를 실행하는 것과 비교할 때 다음과 같은 새로운 과제가 발생합니다.
- 기존 투자에 AI 추가하기: 많은 에지 환경에 다양한 배타적 전용 장비 및 소프트웨어에 의존하는 기존의 고정 기능 인프라가 있습니다. 호환되지 않는 형식의 배타적 독점 기술을 에지 솔루션과 통합하려는 경우 기술적 어려움이 있을 수 있습니다.
- 모델 교육 및 미세 조정: 에지 AI 모델은 고유하여 특정 산업 또는 사용 사례에 맞게 조정되어야 합니다. 이러한 경우 인간의 도메인 지식이 중요할 때가 많습니다. 기업은 데이터 과학자가 아닌 전문가들이 자신의 전문 지식을 AI 기능으로 전환하는 데 도움이 되는 간단한 도구가 필요합니다.
- 하드웨어 다양성 해결: 에지 네이티브 응용 프로그램은 여러 노드, 운영 체제, 연결 프로토콜, 컴퓨팅 및 스토리지 요구 사항, 에너지 및 비용 제약, 규정 준수 문제에 걸쳐 확산될 가능성이 높습니다. 개발자는 이러한 복잡성을 처리하고 분산된 이기종 컴퓨팅 환경을 지원할 수 있는 방법이 필요합니다.
- 분산 응용 프로그램 보안 및 관리: 기업은 에지에서 고급 AI를 지원하고자 할 때 새로운 과제에 직면합니다. AI를 대규모로 적용하려면 관리 효율성이 중요하며, 모든 단계에서 보안은 필수적입니다.
- 열악하거나 제약이 있는 조건에 대한 계획: 에지 환경은 AI 하드웨어에 열, 습기, 진동 등 다양한 종류의 스트레스를 가합니다. 트래픽 모니터링이나 품질 보장과 같은 사용 사례를 위한 에지 AI 솔루션은 실제 공간이 적은 지역에 배치해야 하는 경우가 많습니다. 낮은 전력 사용량으로 이 모든 것을 실현하는 것도 비용 관리와 지속 가능성 증진을 위해 중요한 고려 사항입니다.
에지 AI 솔루션
에지 AI 기술로 비즈니스 운영을 현대화하는 방법은 심도 있는 다각적 고려가 필요한 주제입니다. 제조 및 산업 분야와 같은 일부 조직은 실시간에 가까운 데이터를 사용하여 가치를 제공하는 디지털 기업으로 진화함에 따라 기존 운영 장비에 에지 기술과 '인텔리전스'를 추가하고자 할 것입니다. 한편, 금융 및 의료 산업과 같은 다른 분야는 사람이 모니터링하고 분석하기에는 너무 방대하거나 이질적인 대규모 데이터 중심 운영을 하고 있습니다. 이러한 조직은 패턴과 인사이트를 더 빠르게 찾아내고 효율성 향상, 규정 준수 및 데이터 보안 개선을 목적으로 데이터 프로세스를 디지털화하고 자동화하는 방향으로 나아가고 있습니다.
조직이 해결하고자 하는 과제가 무엇이든 간에 단계적으로 AI 활성화를 구현하는 것이 좋습니다. 첨단의 광범위한 사용 사례에는 에지 투 클라우드 기술의 AI 기술 스택이 필요하지만, 에지 AI를 시작하는 데는 큰 인프라 투자가 필요하지 않습니다. 현재 에지 환경이 갖춰진 기업이라면 지금 바로 AI를 시작할 준비가 되어 있을 것입니다. POS(판매 시점) 시스템, 산업용 PC, 의료 사무실의 로컬 서버와 같은 기존의 에지 컴퓨팅 리소스는 컴퓨터 비전을 비롯한 많은 AI 워크로드를 지원할 수 있습니다.
통합 고려 사항
에지 AI 솔루션 구현 시 주요 과제는 컴퓨팅 인프라, IoT 장치 및 레거시 장비를 비롯한 솔루션을 구성하는 다양한 요소의 조율에 내재된 복잡성을 극복하는 것입니다. 통합 기술 플랫폼은 이러한 복잡성을 줄이고 여러 AI 환경 간의 상호 운용성과 이기종 인프라 전반의 표준화를 촉진하여 에지에서 클라우드까지 통합 패브릭을 만드는 데 도움이 될 수 있습니다.
하드웨어 고려사항
클라우드에서 모델을 훈련하든, 미세 조정하든, 또는 에지에 배포하든, 적절한 AI 하드웨어를 선택하면 기업이 투자 규모를 적절히 조절하면서 성능 요구 사항을 지원하는 데 도움이 될 수 있습니다.
AI 프로세서는 매우 복잡한 모델 학습부터 최종 사용자 기기에 AI를 통합하는 것과 같은 보다 간단한 AI 요구 사항에 이르기까지 전체 AI 파이프라인을 지원합니다.
- 가속기 엔진이 내장된 중앙 처리 장치(CPU)는 특수 하드웨어 없이도 많은 고급 에지 AI 워크로드를 처리하는 데 도움이 될 수 있습니다.
- GPU 솔루션은 데이터 센터, 에지 또는 최종 사용자 기기에서 가장 까다로운 워크로드를 처리하는 데 도움이 될 수 있습니다.
- FPGA는 종종 에지에서 클라우드에 이르기까지 AI 워크로드를 지원하는 AI 가속기와 AI 프로세서로 사용됩니다. CPU 및 GPU에 비해 FPGA는 더 다재다능하며 다양한 사용 사례에 맞게 재구성할 수 있습니다. FPGA는 속도, 프로그래밍 가능성 및 유연성의 조합을 제공하여 맞춤형 칩 개발에 드는 비용과 복잡성 없이도 필요한 성능을 제공합니다.
채택 접근 방식 선택
AI 애플리케이션을 에지로 확장하려는 조직은 일반적으로 목적에 맞게 구축된 AI 솔루션 또는 애플리케이션을 구매하려는 조직, 자체 AI 애플리케이션을 개발하려는 조직, 그리고 이 두 접근 방식을 조합하여 AI 목표를 달성하려는 조직, 이렇게 세 가지 범주로 나뉩니다.
AI 솔루션 구축: 자체 에지 AI 솔루션을 처음부터 구축하려는 조직의 경우, 공급업체에 구애받지 않는 에지 네이티브 소프트웨어 플랫폼은 AI 워크플로를 구축, 배포 및 반복하는 데 도움이 되며, 가장 광범위한 상호 운용성 및 프로토콜 지원을 제공합니다. 또한 배포 후 에지 네이티브 플랫폼을 사용하면 모든 분산 에지 환경에서 AI 소프트웨어를 보다 간편하게 관리하고 업데이트할 수 있습니다.
플랫폼을 검토할 때 다음과 같은 조건을 충족하는지 확인하는 것이 중요합니다.
- 에지 전반에서 흔히 볼 수 있는 이기종 컴퓨팅 환경 지원
- 미래 지향적인 AI 노력을 지원하는 개방형 표준
- 프로 및 로우 코드 개발 옵션
- 기존 애플리케이션을 가져올 수 있는 기능
- 하드웨어의 규모를 적절히 조정하고 애플리케이션을 최적화하는 데 도움이 될 수 있는 통합 원격 측정 대시보드
- 통합 보안 기능
- 클라우드와 유사한 자동 확장 및 컨테이너화 기능
기성 AI 솔루션 구매: 기업 조직은 솔루션 공급업체 또는 시스템 통합업체로부터 AI 솔루션을 구매할 수도 있습니다. 이러한 공급업체는 특정 산업 사용 사례 및 요구 사항에 맞게 구성된 통합 하드웨어 및 소프트웨어 시스템을 제공합니다. 상호 운용 가능한 AI 기능과 성공적인 산업 및 도메인별 배포에 대한 입증된 실적이 있는 준비된 상용 솔루션을 선택하는 것이 중요합니다.
결합된 접근 방식 채택: 많은 조직이 자체 개발 노력과 이미 구축되어 있는 구성 요소를 결합하는 것이 AI 성공을 달성하는 가장 효율적인 방법일 수 있다는 것을 인식하게 됩니다. 에지 AI 사용 사례를 보여주는 다양한 튜토리얼과 리소스를 사용할 수 있으며, 이를 통해 가치 실현 시간을 단축하고 개발을 간소화할 수 있습니다. 또한 프레임워크, 툴킷, 산업별 개발 도구, 참조 아키텍처 및 참조 구현을 비롯해 개발 부담을 덜어줄 수 있는 매우 다양한 소프트웨어 리소스가 있습니다.