개요¶
클라우드 네이티브 지원¶
RBLN SDK는 컨테이너와 Kubernetes 기반의 클라우드 네이티브 AI 환경에서 RBLN NPU 제품군을 일관되게 사용할 수 있도록 설계되었습니다. 단일 서버의 컨테이너부터 대규모 Kubernetes 클러스터, 엔터프라이즈 OpenShift 플랫폼까지 동일한 소프트웨어 구성으로 NPU를 사용할 수 있도록 구성하고 AI 워크로드를 배포·운영할 수 있습니다.
RBLN NPU Operator¶
NPU 같은 특수 하드웨어를 Kubernetes 클러스터에서 운영하려면 디바이스를 워크로드에 노출하는 것 외에도 드라이버, 컨테이너 런타임, 라이브러리 같은 여러 소프트웨어가 노드 전체에서 서로 적합한 버전으로 갖춰져 있어야 합니다. 이 구성은 노드의 구성과 버전이 바뀔 때마다 다시 맞춰야 하므로 운영에는 반복적인 수작업이 따릅니다. RBLN NPU Operator는 Kubernetes 오퍼레이터 프레임워크로 이런 소프트웨어의 관리를 자동화하여, 관리자가 원하는 NPU 구성을 선언하는 것만으로 클러스터를 운영할 수 있게 합니다.
자세한 내용은 RBLN NPU Operator 문서에서 확인할 수 있습니다.
RBLN Container Toolkit¶
RBLN Container Toolkit은 NPU 기반 컨테이너 환경의 구축과 배포 과정을 단순화합니다. Container Device Interface(CDI) 스펙을 준수하여 이식성을 확보하고, 런타임 라이브러리와 NPU 디바이스를 컨테이너 내부로 주입하여 Kubernetes를 포함한 컨테이너 오케스트레이션 환경과 통합됩니다.
자세한 내용은 RBLN Container Toolkit 문서에서 확인할 수 있습니다.
RBLN Cloud Native Stack¶
RBLN Cloud Native Stack은 업스트림 Kubernetes 위에 RBLN NPU Operator를 구성하기 위한 레퍼런스 아키텍처입니다. Kubernetes 클러스터 구성, 컨테이너 런타임 설정, RBLN NPU Operator 배포, RBLN SDK를 위한 컨테이너 지원 구성 등 NPU 클러스터에 필요한 구성 요소를 검증된 조합으로 묶어 제공합니다. 여러 인프라 환경에 대한 예시를 포함하므로, 검증된 RBLN NPU 기반 Kubernetes 환경을 직접 구축해 볼 수 있습니다.
RBLN Cloud Native Stack은 새로운 NPU 서버나 SDK 버전을 도입하기 전에 검증된 구성으로 기능과 성능을 확인하거나, NPU 가속 컨테이너 애플리케이션을 빌드·테스트하는 표준 환경으로 사용할 수 있습니다. 여기서 검증한 구성은 RBLN NPU Operator를 사용하는 엔터프라이즈 Kubernetes 플랫폼에도 같은 방식으로 적용할 수 있습니다.
구성과 설치 절차는 RBLN Cloud Native Stack 저장소에서, 구성 요소별 지원 버전은 Support Matrix에서 확인할 수 있습니다.