Pipeline 1. AI coach
AI의 발전으로, user interface가 text에서 speech로 빠르게 진화하고 있습니다.
문서, 홈페이지, 채팅 등의 방식보다 더 빠르고 효과적인 음성 기반의 서비스가 경쟁우위를 가지게 될 것입니다.
특히, AI 기반 언어 학습 시장에서의 가능성을 바탕으로, 학습자는 AI assistant로부터 도움을 받아 실력을 향상하며, AI agent와의 협업을 통해 문제를 해결하고, 관리자는 변화하는 상황에 맞게 다양한 AI agent를 손쉽게 변경, 새롭게 접목함으로써 사람이 AI agent를 리딩하는 구조를 만들어 가고 있습니다.
레이븐비는 LLM를 최대한 활용하여, AI coach가 사람과 지속적으로 1:1 대화를 가능하도록 플랫폼을 제공하며, 주요 요소별 템플릿을 통하여 자유롭게 페르소나를 생성하고 토픽과 역할 모델을 변경할 수 있도록 합니다.
Pipeline 2. AI frameworks for Digital Twin
AI는 언어 영역에서의 성과를 바탕으로, AI는 물리영역으로 발전해 나가고 있습니다. 우리 나라는 상대적으로 언어 사용자의 수적 제한이 있으나, 물리 영역 특히, 건설, 제조, 중공업 분야에서의 경쟁력은 전세계적입니다.
디지털 트윈 기반의 로봇과 물리 디바이스의 시뮬레이션과 공정최적화를 접목할 수 있는 시장은 국내 뿐만 아니라, 글로벌 시장에서도 가능성이 매우 높습니다. NVIDIA Omniverse는 단순한 3D 모델링 tool이 아니라, AI가 현실세계를 이해하고 학습할 수 있도록 물리환경을 가상 공간에 복제하는 산업용 디지털트윈 플랫폼입니다.
레이븐비는 옴니버스 플랫폼을 기반으로 Vision Language Model과 데이터 생성솔루션을 접목시켜 디지털 트윈 기반 시뮬레이션을 고도화시켜 나갑니다.
엔비디아의 Drive-CUDA-Omniverse-Isaac-AI factory로 이어지는 Physical AI 기반을 위하여, GPU 관리, 데이터 활용, AI 아키텍처/모델과의 통합을 제공합니다.
Pipeline 3. GPU clustering
AI 구현의 필수 인프라인 GPU장비는 AI 모델의 복잡도가 증가하고 대규모 데이터 처리가 요구됨에 따라, 병렬 컴퓨팅이 필수적이며, GPU 클러스터링이 이를 가능하게 하는 기반을 제공합니다.
GPU 클러스터링은 AI 모델 훈련, 딥러닝 추론, 그리고 대규모 데이터 분석을 위한, 병렬처리 및 워크로드를 가속화합니다.
레이븐비는, AI 개발자와 인프라 운영 관리자를 위하여 Kubernetes 기반의 GPU cluster 관리 솔루션을 제공함으로써, 자동 스케쥴링, 자동 분할(MPS/MIG), 멀티노드 분산 학습 지원 등 복잡한 AI 워크로드를 효율적으로 처리합니다.
또한, 권한관리, 보안 점검, 사용량 추적 등을 통하여 체계적인 운영을 지원하며, 효과적인 GPU 자원의 활용과 다양한 워크로드를 조정하기 위한 DevOps 전문인력에 대한 교육도 제공합니다.
Pipeline 4. Opensource PaaS
AI 소프트웨어/서비스를 운영하기 위해서는, 기존의 Tools, Libraries 또는 SDKs와는 새로운 관리 체계가 필요합니다.
클라우드 서비스에서의 DevOps처럼 AI분야에서의 지속적인 운영과 개선을 위해서는 ML Ops, LLM Ops, AI model Ops, Data Ops, DevSec Ops 등이 요구됩니다.
레이븐비는 가장 기초가 되는 VM/Container 운영에서부터, 현장에서 발생하는 opensource platform 제반 문제와 이슈들을 해결해 나갑니다.