AI at the Edge 역할
최종 목표가 진단 가속화를 위한 의료 영상 워크플로 자동화하든, 금속 제조 공장의 운영 효율성을 개선하는 것이든, 에지에서 AI의 역할은 동일합니다. 데이터를 활용하여 더 빠르게 조치를 취하는 것입니다. AI 영역 내에서 이는 추론으로 알려진 작업을 통해 달성됩니다.
추론 과정에서 실시간 입력 데이터는 의사 결정, 경고 전송, 인사이트 제공 또는 이미지 정렬과 같은 작업 완료 등의 기능을 수행하도록 이전에 훈련된 AI 모델에 전달됩니다.
에지 AI는 카메라, 데이터 소스 및 센서를 포함한 사물 인터넷 (IoT) 장치를 자주 사용하여 실제 세계에서 데이터를 수집 및 분석합니다. 에너지 또는 유틸리티 회사가 악의적인 행위자로부터 타워, 파이프라인 또는 그리드를 안전하게 유지하려고 한다고 가정해 보십시오. 보안 비디오 및 센서 데이터를 에지에서 처리하여 운영자에게 거의 실시간으로 위협에 대한 경고를 자동으로 전송할 수 있습니다. 거의 즉각적으로 데이터를 수집 및 처리할 수 있는 에지 AI는 조직의 역량을 크게 확장하여 에지에서 다양한 AI 기반 응용 프로그램 및 경험을 지원합니다. 은행 키오스크에서 실행되는 채팅봇에서부터 자동 차선 보조 및 충돌 방지 기능을 갖춘 자동차, 도시 거리나 공장 현장에서 거의 실시간에 가까운 안전 위험 또는 사건에 대한 경고에 이르기까지, 업계 전반에서 에지 AI의 사용 사례는 상당히 방대합니다.
에지 AI와 전통적 AI 비교
전통적으로 AI는 주로 클라우드에 기반을 두고 있으며, 데이터는 데이터 센터로 전송되어 처리 및 분석 후 반환되었습니다. 이러한 클라우드 중심 컴퓨팅 인프라 모델은 시간에 민감한 엔터프라이즈 프로세스 및 운영에 적합하지 않습니다.
많은 엔터프라이즈 추론 사용 사례는 매우 빠른 데이터 분석의 혜택을 누릴 수 있습니다. 실시간 데이터 처리가 필요하며 대기 시간 요구 사항이 엄격한 경우가 많습니다. 연결이 열악한 위치에 구현해야 하는 경우가 많아 클라우드와 클라우드 간 전송 중 데이터 패킷 손실로 인한 지연과 오류에 취약합니다.
이러한 요구 사항과 문제를 해결하기 위해 에지 AI는 공장 현장, 병원 또는 상점과 같은 데이터 소스에서 데이터 분석을 수행합니다. 알고리즘은 현장에 배포되며, 여기에서 데이터는 중앙 허브 또는 내장형 프로세서가 탑재되어 있는 에지 장치에서 직접 처리됩니다.
하이브리드 에지 AI
에지 AI와 클라우드 AI라는 두 가지 접근 방식은 상호 배타적이지 않습니다. AI at the Edge가 발전함에 따라, 에지와 클라우드 간에 추론 워크로드를 분산하는 하이브리드 에지 접근 방식이 널리 채택될 것으로 예상됩니다. 아이디어는 에지에서 가볍고 실시간에 가까운 인사이트를 클라우드의 더 심층적인 컨텍스트로 강화할 수 있다는 것입니다.
하이브리드 에지는 에지의 속도와 효율성을 확장 가능한 클라우드 기반 리소스와 결합하여 다양한 배포 환경과 성능 요구 사항을 가진 최첨단 응용 프로그램을 촉진할 것입니다. 하이브리드 접근 방식은 기업들이 다양한 모델의 입력 데이터를 자사 프로세스로 통합하도록 지원합니다.
에지 AI는 종종 컴퓨터 비전과 관련이 있지만, 에지 AI 환경은 생성형 AI(GenAI), 자연어 (텍스트 음성 변환, 챗봇) 및 로봇 공학과 관련된 다중 모델 응용 프로그램을 포함하도록 급격히 확장되고 있습니다. 이러한 새로 생겨난 사용 사례는 업계에 혁명을 가져올 것으로 예상됩니다. 제조 분야에서 생성형 AI 기반 소프트웨어는 민첩하고 동적인 공급망을 촉진할 수 있는 반면, 자율 주행 차량과 스마트 인프라는 스마트 시티가 환경에 미치는 부담을 줄이고 교통 흐름을 최적화하도록 지원할 수 있습니다.
에지 AI의 이점
에지 AI는 기업들이 실제 문제를 해결하기 위해 수많은 복잡한 과제를 해결하도록 지원할 수 있습니다. 에지에 AI를 도입하는 이점은 다음과 같습니다:
- 운영 속도 및 효율성: 혁신에 중요한 에지에서의 AI 기반 자동화는 거의 실시간으로 자율적인 운영을 가능하게 하여 클라우드 기반 처리와 관련된 지연을 제거합니다. 대기 시간 및 네트워크 병목 현상이 최소화되어 데이터 전송 속도가 향상됩니다.
- 비용 효율성: 센서 및 장치에서 데이터 양이 증가함에 따라 에지 컴퓨팅은 데이터를 클라우드로 보내 다시 가져오는 것보다 더 비용 효율적입니다. 대역폭 소비와 클라우드 기반 리소스 요구량은 줄어 운영 비용을 절감할 수 있습니다.
- 에너지 절약: 에너지 효율적인 에지 AI 장치는 저전력 컴퓨팅을 촉진하도록 설계되었으며 클라우드 기반 처리보다 훨씬 효율적일 수 있습니다. 한편, 라우터 및 스위치와 같은 네트워킹 하드웨어는 데이터 센터 측 트래픽이 최소화되므로 더 적은 전력을 소비합니다.
- 보안 및 데이터 주권: 에지에 민감한 데이터를 유지하면 로컬 제어 센터, 자율성, 규정 준수를 보장하여 보안 및 개인정보 보호 위험을 줄일 수 있습니다.
에지 AI 고려 사항
에지 환경에 AI를 도입하면 퍼블릭 또는 프라이빗 클라우드에서 AI를 실행하는 것과 비교할 때 다음과 같은 새로운 문제가 발생합니다:
- 기존 투자에 AI 추가하기: 많은 에지 환경은 다양한 전용 장비 및 소프트웨어가 있는 기존, 고정 기능 인프라를 갖추고 있습니다. 호환되지 않는 형식의 독점 기술을 에지 솔루션과 통합할 때 기술적 문제가 발생할 수 있습니다.
- 교육 및 미세 조정 모델: 에지 AI 모델은 고유하며 특정 산업 또는 사용 사례에 맞게 조정해야 합니다. 이러한 경우 인간의 도메인 지식이 중요할 때가 많습니다. 기업은 데이터 과학자가 아닌 전문가들이 자신의 전문 지식을 AI 기능으로 전환하는 데 도움이 되는 간단한 도구가 필요합니다.
- 하드웨어 다양성 해결: 에지 네이티브 응용 프로그램은 여러 노드, 운영 체제, 연결 프로토콜, 컴퓨팅 및 스토리지 요구 사항, 에너지 및 비용 제약, 규정 준수 문제에 걸쳐 확산될 가능성이 높습니다. 개발자는 이러한 복잡성을 처리하고 분산된 이기종 컴퓨팅 환경을 지원할 방법이 필요합니다.
- 분산 응용 프로그램 보안 및 관리: 기업은 고급 AI at the Edge를 지원하고자 할 때 새로운 과제에 직면합니다. AI를 대규모로 적용하려면 관리 효율성이 중요하며, 모든 단계에서 보안은 필수적입니다.
- 견고하거나 제약이 있는 조건 계획: 에지 환경은 AI 하드웨어에 열, 습기 또는 진동과 같은 다양한 종류의 스트레스를 가합니다. 트래픽 모니터링이나 품질 보장과 같은 사용 사례를 위한 에지 AI 솔루션은 실제 공간이 적은 지역에 배치해야 하는 경우가 많습니다. 낮은 전력 사용으로 모든 것을 실현하는 것도 비용을 제어하고 지속 가능성을 촉진하는 데 중요합니다.
에지 AI 솔루션
에지 AI 기술을 통해 비즈니스 운영을 현대화하는 방법은 심층적이고 다각적인 주제입니다. 제조 및 산업 부문에 종사하는 기업과 같은 일부 조직은 실시간에 가까운 데이터를 사용하여 가치를 제공하는 디지털 엔터프라이즈로 진화함에 따라, 레거시 운영 장비에 에지 기술과 "텔리전스"를 추가하는 방안을 모색할 것입니다. 금융 및 의료 업계에 종사하는 기업과 같은 다른 조직은 인간 모니터링 및 분석에 너무 방대하거나 분산된 데이터 중심 작업을 대규모로 하는 경향이 있습니다. 이러한 조직들은 패턴과 인사이트를 더 빠르게 발견하고 효율성, 규정 준수 및 데이터 보안을 개선하기 위해 데이터 프로세스를 디지털화하고 자동화하는 방향으로 나아가고 있습니다.
조직이 해결하려는 문제가 무엇이든 관계없이 단계적으로 AI 지원 문제를 해결하는 것이 좋습니다. 가장 최신의 광범위한 사용 사례는 에지에서 클라우드까지 AI 기술 스택을 필요로 하지만, 대규모 인프라 투자 없이 에지 AI를 시작할 수 있습니다. 현재 에지 환경을 보유한 기업은 오늘날 AI를 시작할 준비가 되어 있을 가능성이 높습니다. POS(Point of Sale) 시스템, 산업용 PC 및 의료 사무실의 로컬 서버와 같은 기존의 에지 컴퓨팅 리소스는 컴퓨터 비전을 비롯한 많은 AI 워크로드를 지원할 수 있습니다.
통합 고려 사항
에지 AI 솔루션을 구현하는 주요 과제는 컴퓨팅 인프라, IoT 장치 및 레거시 장비를 포함하여 솔루션을 구성하는 다양한 구성 요소를 조정하는 것과 관련된 내재적인 복잡성을 극복하는 것입니다. 통합 기술 플랫폼은 이러한 복잡성을 줄이고, 이기종 인프라에 걸쳐 여러 AI 환경 간의 상호 운영성과 표준화를 촉진하며, 에지에서 클라우드에 이르기까지 통합 패브릭을 구축할 수 있습니다.
하드웨어 고려사항
클라우드에서 모델을 교육하든, 미세 조정하든 또는 에지에 배포하든, 올바른 AI 하드웨어를 선택하면 기업들이 투자 규모를 적절하게 조정하고 성능 요구 사항을 지원하는 데 도움이 될 수 있습니다.
AI 프로세서는 대규모의 복잡한 모델 교육부터 최종 사용자 장치에 AI를 통합하는 등 더 간단한 AI 요구 사항에 이르기까지 전체 AI 파이프라인을 지원합니다.
- 내장형 가속기 엔진을 탑재한 중앙 처리 장치 (CPU) 는 특수 하드웨어 없이도 많은 고급 에지 AI 워크로드를 지원할 수 있습니다.
- GPU 솔루션은 데이터 센터, 에지 또는 최종 사용자 장치에서 가장 까다로운 워크로드를 지원하는 데 도움이 될 수 있습니다.
- FPGA는 종종 AI 가속기 및 AI 프로세서로 사용되어 에지에서 클라우드까지 AI 워크로드를 구현하도록 지원합니다. CPU 및 GPU에 비해 FPGA는 더 다재다능하며 다양한 사용 사례에 맞게 재구성할 수 있습니다. FPGA는 속도, 프로그래밍 가능성 및 유연성의 조합을 제공하여 맞춤형 칩의 개발 비용과 복잡성 없이 성능을 발휘합니다.
도입 방식 선택
AI 응용 프로그램을 에지로 확장하려는 조직은 일반적으로 세 가지 범주로 나뉩니다. 특수 목적 AI 솔루션 또는 응용 프로그램을 구매하려는 조직, 자체 AI 응용 프로그램을 개발하려는 조직, 이 두 접근 방식을 몇 가지로 조합하여 AI 목표를 달성하려는 조직입니다.
AI 솔루션 구축: 처음부터 자체적인 에지 AI 솔루션을 구축하려는 사람들을 위해, 공급업체 중심적, 에지 네이티브 소프트웨어 플랫폼은 AI 워크플로를 구축, 배포 및 반복하는 데 도움이 될 수 있으며 가장 광범위한 상호 운용성과 프로토콜을 지원합니다. 배포 후 에지 네이티브 플랫폼은 또한 모든 분산형 에지 환경에서 AI 소프트웨어를 더 간편하게 관리 및 업데이트하도록 지원합니다.
플랫폼을 심사할 때 다음을 고려하는 것이 중요합니다:
- 에지 전반에서 흔히 발견되는 이기종 컴퓨팅 환경에 대한 지원
- 미래 대비형 AI 노력을 지원하는 개방형 표준
- 프로 및 로우 코드 개발 옵션
- 기존 응용 프로그램을 가져오는 기능
- 적합한 크기의 하드웨어를 지원하고 응용 프로그램을 최적화할 수 있는 통합 원격 측정 대시보드
- 통합 보안 기능
- 클라우드 같은 자동 확장 및 컨테이너화 기능
기성품 AI 솔루션 구매: 엔터프라이즈 조직은 솔루션 제공업체 또는 시스템 통합업체로부터 AI 솔루션을 구매할 수도 있습니다. 이러한 공급업체는 특정 업계 사용 사례와 요구에 맞는 통합 하드웨어 및 소프트웨어 시스템을 제공합니다. 상호 운용 가능한 AI 기능과 성공적인 업계 및 도메인별 배포의 입증된 실적을 보유한 시장 출시 준비 완료 솔루션을 선택하는 것이 중요합니다.
결합 접근 방식 채택: 많은 조직이 자체 개발 노력과 사전 구축 구성 요소를 결합하는 것이 AI 성공을 달성하는 가장 효율적인 방법일 수 있다는 것을 알고 있습니다. 에지 AI 사용 사례를 보여주는 다양한 튜토리얼과 리소스를 사용할 수 있으며, 가치 창출 시간을 단축하고 개발을 간소화하는 데 도움이 될 수 있습니다. 또한 프레임워크, 툴킷, 업계별 개발 도구, 참조 아키텍처 및 참조 구현 등 개발 과정을 간소화하는 데 도움이 되는 광범위한 소프트웨어 리소스가 있습니다.