▷ 작성일 : 2023.11.13
AI 반도체 선두기업 라벨럽(Rabelup)이 미국 덴버 콜로라도 컨벤션 센터에서 열리는 고성능 컴퓨팅, 네트워킹, 스토리지 분석에 초점을 맞춘 행사 'SC23'에서 12일부터 17일까지 국제무대에서 두각을 나타낼 예정입니다.
Rabelup은 컨퍼런스에서 컨테이너 기반 "GPU 가상화"를 지원하도록 설계된 Backend.AI 플랫폼을 선보일 예정입니다. 이 기술을 사용하면 단일 GPU를 더 작은 부분으로 나누어 여러 사용자가 GPU 리소스를 효과적으로 공유함으로써 GPU를 유연하게 사용할 수 있습니다. 이 접근 방식은 개인 정보 보호 및 공간에 대한 다양한 사용자 요구 사항을 수용하기 위해 대형 건물을 여러 개의 방으로 나누는 것과 마찬가지로 효율성을 높입니다.
Backend.AI는 GPU 지원을 넘어 최적화 기능과 함께 Google의 TPU(텐서 처리 장치), Graph Core, Revelion Atom, Puriosa Warboy 등 신경망 처리 장치(NPU)와 AI 반도체를 통합합니다. 이러한 통합을 통해 GPU-NPU 파이프라인을 통해 최적의 성능과 비용 효율성을 달성하는 동시에 AI 모델을 효율적으로 훈련할 수 있습니다.
또한 Backend.AI는 컨테이너 클러스터 내에 GPU Direct Storage 기술을 도입하여 GPU와 네트워크 스토리지를 직접 연결하여 고속 데이터 입출력을 제공합니다. 이러한 혁신은 PureStorage, NetApp 및 Dell EMC와 같은 고속 스토리지 시장 리더와의 파트너십으로 이어졌습니다.
또한 Backend.AI는 아시아 태평양 지역의 Nvidia DGX-Ready 프로그램의 일부로 선정되고 VMWare, RedHat 및 Canonical과 함께 Nvidia의 AI 가속 프로그램과 협력하는 등 인정과 파트너십을 받았습니다.
SC23에서 Backend.AI는 최첨단 기술을 사용하여 LLM(대형 언어 모델)을 직접 개발하고 운영하는 능력을 선보일 예정입니다. 그들은 FastTrack 자동화 시스템을 통해 온프레미스 환경에서 LLM 서비스의 유연성을 강조하면서 다양한 애플리케이션에 맞게 다양한 대규모 공용 언어 모델을 미세 조정했습니다. 또한 사용자가 제공한 사진을 기반으로 스토리, 이미지, 동화책을 생성하는 다중 모드 데모인 VisuTale도 선보일 예정입니다.
Backend.AI는 초고성능 AI에 탁월할 뿐만 아니라 다양한 슈퍼컴퓨터 솔루션과 고성능 컴퓨팅 애플리케이션에 맞게 플랫폼을 최적화하는 것을 목표로 합니다. 그들의 목표는 AI 기술을 통해 전 세계 연구자들에게 혁신적인 성능, 비용 효율성 및 비교할 수 없는 편의성을 제공하는 것입니다.
▷ 원문 보기 : https://digitalchosun.dizzo.com/site/data/html_dir/2023/11/13/2023111380171.html
