인텔 Inspector OpenVINO™ C++ 샘플을 실행할 때 메모리 누출 문제를 방지하는 방법.
- 실행 OpenVINO™ 이미지 분류 Async C++ 샘플인텔® Inspector 메모리 문제를 확인합니다.
사용 명령:
$ pwd
/home/centos/inference_engine_cpp_samples_build/intel64/Release
$ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -c mi3 ./classification_sample_async -m /opt/intel/openvino_2021.3.394/deployment_tools/open_model_zoo/tools/downloader/intel/image-retrieval-0001/FP16-INT8/image-retrieval-0001.xml -i /home/centos/images -nt 8
$ /opt/intel/oneapi/inspector/2021.3.0/bin64/inspxe-cl -report observations - 인텔® Inspector 메모리 문제를 자세히 설명하는 보고서를 생성했습니다.
벤치마크 앱은 추론 성능을 극대화하기 위한 참조로 사용되었습니다. 벤치마크 앱의 지연 시간 통계와 관련된 몇 가지 코드가 있었습니다.
코드의 관련 스니펫을 제거하면 메모리가 안정적입니다.
모든 지연 시간 값을 수집하고 지연 시간의 중간 값을 계산하는 InferRequestsQueue 클래스에서 개인 std::vector_latencies 사용하므로 스트레스 테스트에 benchmark_app 응용 프로그램을 사용하지 않는 것이 좋습니다.