AI Appliance
대원씨티에스는 AI 가속기와 다양한 모델에 대한 이해를 바탕으로 추론 작업에 최적화된 어플라이언스를 제공합니다
주요 사업 분야
AI 모델의 수요가 다변화되고 있습니다. 특정 거대 모델에 의존하기 보다 이제는 어떤 용도로 활용할 것이지를 기준으로 다양한 모델을 활용하는 쪽으로 트렌드가 향하고 있습니다. 대원씨티에스는 GPU, NPU, LPU, VPU 등 특정 작업에서 GPU 못지 않은 성능과 높은 비용 효율을 보이는 AI 가속기 기반 어플라이언스로 여러 모델을 사용하는 트렌드를 주도하고 있습니다.
컨설팅
요구 사항과 운영 조건을 고려해 최적의 모델과 AI 가속기 조합 제안
어플라이언스 설계
고객의 AI 전략을 고려한 AI 어플라이언스 스펙 산정
맞춤형 설계
시스템 구축 후 지속적인 성능 최적화 방안 제시
기술 지원
하드웨어부터 소프트웨어까지 AI 풀스택 기술 지원을 원스톱으로 제공
대원씨티에스의 AI 어플라이언스 제안이 특별한 이유!
다양한 AI 가속기를 활용해 AI 모델을 비용 효율적으로 활용하고 최상의 사용자 경험을 제공하는 방안을 제시합니다.
맞춤형 제안
NPU, LPU, GPU 등 다양한 가속기(xPU) 기술에 대한 깊은 이해를 바탕으로 고객 워크로드에 가장 적합한 하드웨어 구성을 설계합니다. 단일 유형의 칩으로 모든 작업을 처리하는 대신 작업별로 전문화된 프로세서를 조합해 성능과 효율을 극대화합니다. 이러한 최적 구성 능력은 향상된 성능과 함께 전력 효율 및 비용 효율 측면에서도 경쟁력을 제공합니다.
단일 지원 창구
대원씨티에스는 하드웨어와 소프트웨어를 아우르는 통합 솔루션을 한 회사에서 모두 제공합니다. 따라서 고객은 여러 벤더를 조율할 필요 없이 단일 창구를 통해 기술 지원을 받을 수 있습니다. 설계, 구축부터 최적화, 유지보수까지 대원씨티에스가 책임지는 서비스를 제공합니다.
Partner Ecosystem
대원씨티에스는 고객의 다양한 요구에 맞춤형으로 AI 인프라 투자 효율과 자원 활용성을 높일 수 있는 방안을 제시하기 위해 글로벌 IT 기업과 파트너십을 확대해 나아가고 있습니다.
Orion AI 어플라이언스는 실시간에 가까운 속도로 추론 작업을 처리합니다.
강력한 하드웨어 스펙
16개의 LPU(Latency Processing Unit)로 구성된 병렬 아키텍처와 총 256GB HBM 메모리(대역폭 7.36TB/s), 144K DSP 연산 자원을 갖춰, 최대 1000억 개의 매개변수를 가진 초대형 모델까지 구동할 수 있는 강력한 성능을 제공합니다.
고속 처리 기술
Orion에는 SMA(Streamlined Memory Access)와 SXE(Streamlined Execution Engine)로 명명된 AI 추론 특화 아키텍처가 적용되어 있습니다. 이는 메모리 대역폭과 연산 자원을 완벽하게 균형 맞춤으로써 시스템 자원을 극대화하여 활용하며, 실제 메모리 대역폭의 90% 수준까지 효율적으로 사용할 수 있게 합니다.
뛰어난 확장성과 낮은 지연
HyperAccel의 ESL(Expandable Synchronization Link) 기술을 통해 다수의 LPU를 서로 긴밀하게 연결함으로써, 여러 장치 간 동기화 지연을 최소화합니다. 한 LPU에서 연산이 완료되는 즉시 다음 LPU와 데이터를 교환하여 병렬 처리를 가속하며, 노드를 추가 증설할 때에도 성능이 거의 선형적으로 확장되는 우수한 스케일 아웃 특성을 보여줍니다 .