콘텐츠로 이동

대규모 모델 시각화

Perfetto의 메모리 부족 대화상자. 네이티브 트레이스 프로세서를 내려받아 실행하는 명령이 함께 있습니다.

대규모 모델의 경우 프로파일 데이터가 매우 커질 수 있습니다. Perfetto 공식 웹사이트의 시각화 페이지에서는 시각화 과정에서 사용하는 메모리의 크기를 2GB로 제한하고 있습니다. (이 제한에서 명시한 크기는 Protocol Buffer 파일의 크기를 의미하지 않습니다.) 이 절에서는 이러한 큰 모델과 로그를 분석하기 위해 Perfetto를 개인 환경에서 호스팅하는 방법에 대해 안내합니다.

큰 트레이스(trace) 파일을 처리하기 위한 더 자세한 정보는 Perfetto 공식 문서에서 확인할 수 있습니다.

1. trace processor의 다운로드 및 실행

Perfetto의 GitHub 저장소에서는 개인 환경에서 서버를 호스팅하고 해당 환경의 메모리 상에 트레이스 파일을 불러올 수 있도록 하는 실행 파일을 제공합니다. Windows OS에서 trace_processor_shell.exe 파일을 실행하는 방법과 macOS, Linux에서 trace_processor 파일을 실행하는 방법은 다음과 같습니다. 위 파일들을 실행할 때의 기본 포트 번호는 9001입니다.

  • Windows(PowerShell)

    1
    2
    3
    4
    > wget https://github.com/google/perfetto/releases/download/v49.0/windows-amd64.zip
    > unzip windows-amd64.zip
    > cd windows-amd64\windows-amd64\
    > ./trace_processor_shell.exe --httpd /path/to/rbln_xxxx.pb
    

  • macOS & Linux(bash)

    1
    2
    3
    $ curl -LO https://get.perfetto.dev/trace_processor
    $ chmod +x ./trace_processor
    $ ./trace_processor --httpd /path/to/rbln_xxxx.pb
    

2. 뷰어 열기

Note

아래 과정은 macOS의 Safari에서는 정상적으로 동작하지 않을 수 있습니다. 개인 환경에서 문제없이 Perfetto를 호스팅해서 사용하기 위해 Chrome 브라우저 사용을 권장합니다.

  • Perfetto UI에서 개인 환경 trace processor와의 버전 불일치를 탐지합니다. Open https://ui.perfetto.dev/v49.0-33a4fd078/를 눌러 개인 환경에서 호스팅한 trace processor에 접속합니다.

Perfetto의 버전 불일치 대화상자. 맞는 버전의 UI · 내장 WASM · 그대로 진행 중에서 고르게 합니다.

  • "YES, use loaded trace"를 눌러 프로파일링한 모델의 Protocol Buffer 파일을 시각화합니다.

로컬 트레이스 프로세서가 이미 불러온 트레이스를 쓸지 묻는 Perfetto 대화상자.

3. 최종 화면

화면 왼쪽에 "RPC@127.0.0.1:9001" 또는 "rbln_xxxx.pb(file 1)"이 표시되었다면 개인 환경의 trace processor에서 불러온 트레이스가 잘 시각화된 것입니다.

Perfetto 사이드바에 RPC @ 127.0.0.1:9001이 표시되고, 그 트레이스가 옆에 그려져 있습니다.