이종 플러그인과 인텔® 뉴럴 컴퓨트 스틱 2
HETERO(HeTERO)를 사용하면 여러 장치를 사용하여 한 네트워크에서 컴퓨팅 추론을 할 수 있습니다. 다음을 위해 이질적인 모드로 네트워크를 실행할 수 있습니다.
- 가속기에서 네트워크의 가장 무거운 부분을 계산하는 등 가속기의 힘을 활용하고 CPU와 같은 대체 장치에서 지원되지 않는 레이어를 실행합니다.
- 한 번의 추론으로 사용 가능한 모든 하드웨어를 보다 효율적으로 활용하십시오.
Heterogeneous Plugin을 사용하고 OpenVINO 벤치마크 응용 프로그램을 사용하여 인텔® 뉴럴 컴퓨트 스틱 2™ 추론을 실행하려면 아래 단계를 따르십시오.
- inference_engine/samples 디렉토리에 있는 buildsamples.sh(Linux용) 또는 build_samples_msvc.bat(Windows용)을 실행하여 C++ 샘플을 빌드합니다.
- 이 benchmark_app 사용하여 사용하려는 장치로 Hetero Plugin을 테스트하고 구성합니다. 예를 들어, -d HETERO:GPU,CPU 실행하면 GPU에 우선 순위가 부여되고 CPU는 대체 장치가 됩니다.
이종 플러그인 및 OpenVINO 툴킷에 대한 자세한 정보를 확인하십시오.