주요 콘텐츠로 건너뛰기
지원 지식 베이스

모델의 복잡성과 추론 처리량 간의 관계는 무엇입니까?

콘텐츠 유형: 제품 정보 및 문서   |   문서 ID: 000059690   |   최종 검토: 2026-03-09

환경

NCS2 (엔씨에스2)

설명

벤치마크 도구가 GFLOP(기가 부동 소수점 연산)로 정의된 매우 다른 복잡성의 두 모델에 대해 유사한 추론 FPS를 보고하는 이유를 확인할 수 없습니다.

해결 방법

  • FLOP의 수가 많을수록 FPS의 수가 줄어드는 것에 정비례합니다. 그러나 FPS와 FLOP 사이에는 공정한 비교가 없습니다.
  • 벤치마크 도구에서 얻은 FPS에 영향을 줄 수 있는 요소:
    • 동기 및 비동기 모드에서 실행
    • 스트림 수
    • 추론 요청 수

관련 제품

이 문서는 1개의 제품에 적용됩니다.

부인 정보

이 페이지의 콘텐츠는 원본 영어 콘텐츠에 대한 사람 번역 및 컴퓨터 번역의 조합으로 완성되었습니다. 이 콘텐츠는 편의와 일반적인 정보 제공을 위해서만 제공되었으며, 완전하거나 정확한 것으로 간주되어선 안 됩니다. 이 페이지의 영어 버전과 번역 간 모순이 있는 경우, 영어 버전이 우선적으로 적용됩니다. 이 페이지의 영어 버전을 확인하십시오.

추가적인 도움이 필요하십니까?

지원팀 문의
지원팀 문의