콘텐츠로 이동

디바이스 관리

rbln-stat

rbln-stat은 사용자가 RBLN NPU의 상태를 관찰 및 관리할 수 있도록 도와주는 커맨드 라인 인터페이스(Command Line Interface) 유틸리티입니다. 사용자는 rbln-stat을 통해 다음과 같은 정보를 확인 할 수 있습니다.

  • ATOM™ 버전(Name)
    • RBLN-CA02: ATOM™
    • RBLN-CA12: ATOM™+
    • RBLN-CA22: ATOM™+
    • RBLN-CA25: ATOM™-Max
  • 파워 소비량(Power)

  • 성능 상태(Perf)

    P-state Clock (Neural Engine) PCIe Note
    P2 Nominal Gen5 -
    P4 Nominal Gen4 -
    P6 Half Gen4 -
    P10 Half (No update) Thermal Throttling
    P12 Minimal (No update) System Abort (Hang)
    P14 Off (No update) Idle

  • 현재 온도(Temp)

  • NPU 활용도(Util)
  • 프로세스 식별자(PID)
  • 컨텍스트 식별자(CTX)
  • 할당된 메모리 용량(Memalloc)

rbln-stat 유틸리티는 RBLN 드라이버 패키지에 포함되어있어 별도의 설치 없이 바로 사용할 수 있습니다.

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
$ rbln-stat
+-------------------------------------------------------------------------------------------------+
|                                 Device Information KMD ver: N/A                                 |
+-----+-----------+---------+---------------+------+---------+------+---------------------+-------+
| NPU |    Name   | Device  |   PCI BUS ID  | Temp |  Power  | Perf |  Memory(used/total) |  Util |
+-----+-----------+---------+---------------+------+---------+------+---------------------+-------+
| 0   | RBLN-CA12 | rbln0   |  0000:51:00.0 |  38C |  43.9W  | P2   |   2.4GB / 15.7GiB   |  98.7 |
| 1   | RBLN-CA12 | rbln1   |  0000:d8:00.0 |  25C |   6.1W  | P14  |    0.0B / 15.7GiB   |   0.0 |
+-----+-----------+---------+---------------+------+---------+------+---------------------+-------+
+-------------------------------------------------------------------------------------------------+
|                                       Context Information                                       |
+-----+---------------------+--------------+-----+----------+------+---------------------+--------+
| NPU | Process             |     PID      | CTX | Priority | PTID |            Memalloc | Status |
+-----+---------------------+--------------+-----------+----------+------+---------------+--------+
| 0   | python3             |   2928727    |  1  |   min    |  0   |              1.9GiB |  run   |
| 0   | python3             |   2930166    |  2  |   min    |  1   |            468.0MiB |  idle  |
| 0   | python3             |   2934705    |  3  |   min    |  2   |             88.0MiB |  idle  |
+-----+---------------------+--------------+-----------+----------+------+---------------+--------+

디바이스 지정

사용중인 시스템에서 여러개의 RBLN NPU 자원을 사용할 수 있는 경우, 아래와 같이 RBLN_DEVICES 환경변수를 통해 특정 자원을 지정할 수 있습니다. 환경변수에서 사용될 NPU 식별자(NPU ID)는 rbln-stat 유틸리티를 통해 확인 할 수 있습니다.

1
2
$ RBLN_DEVICES=0 python inference.py # NPU=0 사용
$ RBLN_DEVICES=1 python inference.py # NPU=1 사용