About Us

Technology

Careers

News

Contact Us

Striving for excellence in
AI NPU software development

AI 모델의 추론 성능 최적화 및 최고의 하드웨어 활용성 제고를 통해
세계 최고 수준의 소프트웨어 기술을 지향합니다.

BOS NPU AI SW Development Verticals

최상의 소프트웨어 스택 및 툴을 활용해 업계 최고 수준의 AI 모델 추론 성능에 필요한
모델 bring-up 및 성능 최적화 작업을 수행합니다.

  • AI Model Compiler
    Development
    (Frontend/Backend)
  • AI Model Development
    & Performance Optimization
  • Runtime &
    Tensor IO API
    Development
  • Quantization
    Algorithms &
    PTQ/QAT Tools
  • AI Model Ops
    Kernel
    Development in
    C++/Python

Full NPU SoC SW Stack

최고의 AI 모델 추론 성능 및 하드웨어 사용 효율을 위한 풀스택 소프트웨어를 개발하고 있습니다.

AI Model Development SDK

BOS는 가장 쉽고 빠르게 다양한 분야의 AI 모델을 배포할 수 있는 다목적 AI 모델 최적화 개발 SDK를 개발 중입니다.

All-around Programming Model

"범용성(Generality)"과 "성능(Performance)"을 최적화하기 위해
두 개의 상호보완적인 NPU 소프트웨어 스택을 제공하여 다양한 고객의 요구에 상응하는
NPU 소프트웨어 개발 프로그래밍 모델을 제공합니다.

For “Generality”
Quick deployment and improving performance
  • Out of the box, run many AI models, small overhead incurred
  • Continuous Performance improvement
  • Support for all major frameworks including PyTorch and Tensorflow
For “Extreme Performance”
Complete low-level control of the hardware
  • Targeted AI models running higher performance at higher utilization
  • Completely open hardware allows you to program non-ML applications.
  • Useful for HPC, C++ environments and low-level AI model development.

출처: Tenstorrent Inc.의 공식 사이트. BOS와 Tenstorrent는 현재 AI 소프트웨어 기술을 공동 개발 중입니다.

Pre-trained AI Model Compilation Flow

BOS는 세계 최고의 AI 모델 추론 성능을 위해 가장 유연하고 호환성이 뛰어난
프론트엔드 및 백엔드 AI 모델 컴파일러를 개발 중입니다.

출처: Tenstorrent Inc.의 공식 사이트. BOS와 Tenstorrent는 현재 AI 소프트웨어 기술을 공동 개발 중입니다.