콘텐츠로 이동
SDK v0.12.0
릴리스 (2026년 10월). 릴리스 노트를 확인하세요.
지원 연산
English
한국어
검색 초기화
홈
AI 엔지니어
시스템 관리자
레퍼런스 디자인
지원
홈
홈
AI 엔지니어
AI 엔지니어
시작하기
시작하기
설치 가이드
빠른 시작
튜토리얼
컴파일 및 최적화
컴파일 및 최적화
RBLN 컴파일러
RBLN 컴파일러
설치
튜토리얼
튜토리얼
기본
기본
파이토치(비전)
파이토치(자연어처리)
텐서플로우(비전)
고급
고급
동시실행(Concurrent Processing)
버케팅(Bucketing)
문제해결
파이썬 API
언어 바인딩
언어 바인딩
C/C++
C/C++
설치
튜토리얼
튜토리얼
이미지 분류
객체 감지
API
딥다이브
RBLN Optimum
RBLN Optimum
설치
튜토리얼
튜토리얼
Rebel100™
Rebel100™
Llama3-8B
Qwen3-VL-2B
Gemma-4-31B
ATOM™
ATOM™
SDXL-turbo
Llama3-8B
Cosmos WFMs
Cosmos WFMs
Cosmos-Predict2.5
Cosmos-Transfer2.5
Cosmos-Reason2
Qwen3-VL-2B
Gemma-4-31B
문제해결
문제해결
다중 모듈 모델
KV 캐시 블록 추정
모델 API
모델 API
주요클래스
주요클래스
오토클래스
오토파이프라인
트랜스포머
트랜스포머
공통
텍스트 모델
텍스트 모델
공통
Bart
Bert
DistilBert
EXAONE
Gemma
Gemma2
GPT-2
GPT-OSS
Llama
Mi:dm
Mistral
OPT
Pegasus
Phi
Qwen2
Qwen3
RoBERTa
T5
XLM-RoBERTa
비전 모델
비전 모델
공통
DPT
ResNet
ViT
Depth Anything V2
오디오 모델
오디오 모델
AST
Wav2Vec
Whisper
멀티모달 모델
멀티모달 모델
Clip
BLIP2
ColPali
ColQwen2
Idefics3
LLaVa
LlavaNext
Qwen2 VL
Qwen2.5 VL
Qwen3 VL
Qwen3.5
Gemma3
Gemma4
Grounding DINO
PaliGemma
시계열 모델
시계열 모델
Time Series Transformer
디퓨저
디퓨저
공통
모델
모델
UNets
UNets(SVD)
VAE
VQModel
Prior Transformer
Transformer(SD3)
Transformer(Cosmos)
ControlNet
파이프라인
파이프라인
Cosmos
StableDiffusion
StableDiffusion XL
StableDiffusion 3
Kandinsky V2.2
StableVideoDiffusion
ControlNet(SD)
ControlNet(SDXL)
RBLN 파이토치
RBLN 파이토치
설치
실행 방식
튜토리얼
튜토리얼
실행 및 디버깅
Rebel100™ 프로파일링
rbln-ccl 집합 통신
Llama3.2-1B
API 및 지원 연산
환경 변수
문제 해결
RBLN vLLM
RBLN vLLM
Recipes
Recipes
Qwen
Qwen
Qwen2-7B-Instruct
Qwen2-VL-7B-Instruct
Qwen2.5-0.5B-Instruct
Qwen2.5-1.5B-Instruct
Qwen2.5-3B-Instruct
Qwen2.5-7B-Instruct
Qwen2.5-14B-Instruct
Qwen2.5-32B-Instruct
Qwen2.5-72B-Instruct
Qwen2.5-VL-7B-Instruct
Qwen3-0.6B
Qwen3-1.7B
Qwen3-4B
Qwen3-8B
Qwen3-30B-A3B
Qwen3-32B
Qwen3-Embedding-0.6B
Qwen3-Embedding-4B
Qwen3-Reranker-0.6B
Qwen3-Reranker-4B
Qwen3-VL-2B-Instruct
Qwen3-VL-4B-Instruct
Qwen3-VL-8B-Instruct
Qwen3-VL-30B-A3B-Instruct
Qwen3-VL-32B-Instruct
Qwen3.5-0.8B
Qwen3.5-2B
Qwen3.5-4B
Qwen3.5-9B
Qwen3.5-27B
Qwen3.6-27B
Qwen3.8-27B
Llama
Llama
Llama-2-7b-chat-hf
Llama-2-13b-chat-hf
Llama-3.1-8B-Instruct
Llama-3.1-70B-Instruct
Llama-3.2-1B-Instruct
Llama-3.2-3B-Instruct
Llama-3.3-70B-Instruct
Meta-Llama-3-8B-Instruct
DeepSeek
DeepSeek
DeepSeek-R1-Distill-Llama-8B
DeepSeek-R1-Distill-Llama-70B
DeepSeek-R1-Distill-Qwen-1.5B
DeepSeek-R1-Distill-Qwen-7B
DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-32B
DeepSeek-V3.2
Gemma
Gemma
gemma-2-2b-it
gemma-2-9b-it
gemma-2b-it
gemma-3-4b-it
gemma-3-12b-it
gemma-3-27b-it
gemma-4-26B-A4b-it
gemma-4-31B-it
gemma-7b-it
EXAONE
EXAONE
EXAONE-3.0-7.8B-Instruct
EXAONE-3.5-2.4B-Instruct
EXAONE-3.5-7.8B-Instruct
EXAONE-3.5-32B-Instruct
EXAONE-4.5-33B
Mistral
Mistral
Mistral-7B-Instruct-v0.3
MiniMax
MiniMax
MiniMax-M2.7
Phi
Phi
phi-2
OPT
OPT
opt-2.7b
opt-6.7b
opt-66b
opt-125m
GPT-2
GPT-2
gpt2
gpt2-large
gpt2-medium
gpt2-xl
GPT-OSS
GPT-OSS
gpt-oss-20b
gpt-oss-120b
SOLAR
SOLAR
SOLAR-10.7B-Instruct-v1.0
KONI
KONI
KONI-Llama3.1-8B-Instruct-20241024
Mi:dm
Mi:dm
Midm-2.0-Base-Instruct
Midm-2.0-Mini-Instruct
Salamandra
Salamandra
salamandra-7b-instruct
A.X
A.X
A.X-4.0-Light
A.X-K2
Idefics3
Idefics3
Idefics3-8B-Llama3
LLaVA
LLaVA
llava-1.5-7b-hf
llava-v1.6-mistral-7b-hf
Pixtral
Pixtral
pixtral-12b
PaliGemma
PaliGemma
paligemma2-3b-mix-224
paligemma-3b-mix-224
Cosmos
Cosmos
Cosmos-Reason1-7B
BLIP-2
BLIP-2
blip2-opt-2.7b
blip2-opt-6.7b
BGE
BGE
bge-base-en-v1.5
bge-large-en-v1.5
bge-m3
bge-reranker-base
bge-reranker-large
bge-reranker-v2-m3
bge-small-en-v1.5
RoBERTa
RoBERTa
twitter-roberta-base-emotion
Whisper
Whisper
whisper-base
whisper-large-v3
whisper-large-v3-turbo
whisper-medium
whisper-small
whisper-tiny
Feature Matrix
주요 기능
주요 기능
Attention 모드
RBLN Sampler
Prefix Caching
Speculative Decoding
KV 캐시 오프로딩
모델 병렬화
세부 디바이스 할당
동적 배치 크기
프로파일링 가이드
Compile Cache
Disaggregated Encoder
Disaggregated Prefill / Decode
설정 가이드
문제해결
RBLN 프로파일러
RBLN 프로파일러
RBLN NPU 아키텍쳐
프로파일링
Perfetto
Perfetto
소개
분석 방법
대규모 모델 시각화
여러 트레이스 병합
분석 사례
분석 사례
ATOM™
ATOM™
YOLOv8
Stable Diffusion 3
Llama3-8B
Rebel100™
Rebel100™
Qwen3-1.7B
gpt-oss-20b
gpt-oss-20b(데이터 병렬)
모델 서빙(Model Serving)
모델 서빙(Model Serving)
Nvidia Triton 추론 서버
Nvidia Triton 추론 서버
튜토리얼
튜토리얼
ResNet50 서빙
YOLOv8 서빙
Llama3-8B 서빙
Flash Attention을 이용한 Llama3.1-8B 서빙
TorchServe
TorchServe
튜토리얼
튜토리얼
ResNet50 서빙
YOLOv8 서빙
Llama3-8B 서빙
Flash Attention을 이용한 Llama3.1-8B 서빙
Ray Serve
Ray Serve
튜토리얼
튜토리얼
Resnet50 서빙
YOLOv8 서빙
Llama3-8B 서빙
Flash Attention을 이용한 Llama3.1-8B 서빙
기타
기타
모델주(Model Zoo)
지원하는 연산
지원하는 연산
파이토치
텐서플로우
에러 코드
시스템 관리자
시스템 관리자
베어메탈
베어메탈
RBLN 드라이버 설치
클라우드 네이티브 지원
클라우드 네이티브 지원
개요
컨테이너 지원
컨테이너 지원
Container Toolkit
NPU 할당
RBLN NPU Operator
RBLN NPU Operator
튜토리얼
튜토리얼
NPU Pod 실행하기
NPU 할당
NPU 할당
NPU 제품군을 선택해 Pod 배치하기
Pod 하나에 NPU 2개 할당하기
DRA로 NPU 요청하기
DRA로 NPU 할당 조건 지정하기
NPU Pod에서 RDS 장치 확인하기
드라이버 관리
드라이버 관리
드라이버 자동 업그레이드하기
노드별로 다른 드라이버 버전 사용하기
VM 노드 구성
VM 노드 구성
KubeVirt VM에 NPU 연결하기
컨테이너·VM용 NPU 노드 분리하기
Prometheus로 NPU 메트릭 수집하기
설치
설치
Kubernetes(Helm)
OpenShift(OLM)
망분리 · 에어 갭(OpenShift)
업그레이드
제거
드라이버 관리
드라이버 관리
NPU 드라이버 설치
NPU 드라이버 업그레이드
NPU 드라이버 업그레이드
수동 업그레이드
자동 업그레이드
여러 드라이버 버전 운영
NPU 할당
NPU 할당
Device Plugin
DRA Driver
모니터링
모니터링
Metrics Exporter
게이트웨이 모드
메트릭 레퍼런스
오퍼레이터 관찰가능성
고급 설정
고급 설정
NPU Feature Discovery
레이블 기반 워크로드 전환
OpenShift 커널 파라미터
OpenShift pciehp 분리
샌드박스형 워크로드(KubeVirt)
샌드박스형 워크로드(KubeVirt)
Sandbox Device Plugin
DRA Driver(VM 패스스루)
RDS 지원
레퍼런스
레퍼런스
Helm 구성 예제
Helm 차트 값
시스템 관리
시스템 관리
개요
관리 도구
관리 도구
RBLN 시스템 관리 데몬
장치 모니터링
대역폭 벤치마크
시스템 검증
펌웨어 업데이트
하드웨어 진단
가상화
가상화
개요
가상화 방식
가상화 방식
PCI 패스스루
플랫폼
플랫폼
OpenStack
파트너 솔루션
파트너 솔루션
Red Hat AI Enterprise
Red Hat AI Enterprise
설치
모델 배포
모델 배포
배포
서빙 기능
레퍼런스 디자인
레퍼런스 디자인
Coding Assistant
Coding Assistant
개요
하드웨어
소프트웨어 스택과 버전
Kubernetes 배포
Kubernetes 배포
노드 준비
디바이스 할당
클러스터 기반 구성
Pod 명세 요구 사항
컴파일 캐시
시작 및 준비 상태 프로브
서빙 스택 설치
차트 구성 참고 자료
서빙 설정
클라이언트 연동
운영
운영
모니터링
확장 및 업그레이드
장애 대응
검증 및 제한 사항
지원
지원
릴리스 노트
지원 버전
문의
지원 연산
¶
지원 연산 표는
API 및 지원 연산 › 지원 연산
으로 옮겼습니다.
맨위로