성능

리벨리온 ATOM™ NPU 및 추론용으로 널리 사용되고 있는 GPU, NPU 가속기의 요약된 성능을 확인할 수 있습니다. 아래 테이블의 모든 성능 기록은 MLPerf^TM Inference v3.0 공식 결과를 기반으로 작성되었습니다.

• 비전 모델 / ResNet50

  Vendor	Accelerator	Single Stream Latency	Relative Latency
  Rebellions	RBLN ATOM™	0.239 ms	x1.0
  Qualcomm	Cloud AI100	0.336 ms	x1.4
  Nvidia	A2 (Ampere)	0.713 ms	x3.0
  Nvidia	T4 (Turing)	0.818 ms	x3.4

• 언어 모델 / BERT-Large

  Vendor	Accelerator	Single Stream Latency	Relative Latency
  Rebellions	RBLN ATOM™	4.297 ms	x1.0
  Qualcomm	Cloud AI100	7.547 ms	x1.8
  Nvidia	A2 (Ampere)	8.506 ms	x2.0
  Nvidia	T4 (Turing)	6.093 ms	x1.4

더 자세한 내용은 MLPerf^TM Inference v3.0 공식 홈페이지를 참고하시기 바랍니다.