top of page
All Posts


클라우드를 통해 MML, LLM을 활용할 때 미세 조정과 RAG 시스템을 위한 ‘데이터 관리’를 어떻게 할 것인가?
2025년 IT 투자 계획에서 AI의 비중은 어느 정도일까요? 아마 상당수 조직이 MML(Multi Modal Language), LLM(Large Language Model), SLM(Small Language Model) 관련 프로젝트를...


Microsoft Ignite 2024 행사를 통해 본 온디바이스 AI의 미래
빅테크 기업이 주관하는 대형 행사를 보면 공통점이 있습니다. 바로 AI에서 시작해 AI로 끝을 맺는다는 것입니다. 큰 틀에서 마이크로소프트, 구글, 아마존 같은 빅테크 기업이 추구하는 비전은 큰 차이가 없습니다. 하지만 세부적으로 파고 들어가면...


데이터 사일로의 종말: VAST Global Namespace로 통합된 데이터 환경 구축
기업의 IT 환경이 점점 복잡해지면서 데이터가 자연스럽게 여기저기 흩어져 있는 시대가 되었습니다. 예를 들어 본사와 지사 그리고 공장이나 매장 등 데이터센터부터 현지 전산실 그리고 엣지 컴퓨팅 환경까지 여러 곳에서 데이터가 생성, 저장, 관리되고 있습니다. 예전처럼 데이터센터 스토리지에 모든 정보를 모아두던 시대가 지나간 것입니다. 데이터가 여러 곳에 흩어져 있다는 것은 단순히 관리가 불편하다는 의미를 넘어섭니다. 각 부서, 각 지사, 각 시스템마다 데이터가 고립되면 섬처럼 단절된 데이터 사일로 현상이 발생합니다. 이렇게 되면 데이터 분석이나 활용이 번거롭습니다. 특히 여러 위치에 분산된 데이터를 동기화하고 최신 버전을 유지하는 것은 매우 복잡하고 어려운 작업입니다. 데이터 일관성이 무너지면 업무 오류가 발생하고, 심각한 경우에는 비즈니스에 손실을 초래할 수도 있습니다. 그렇다면 이런 불편함에서 벗어나려면 어디서 해결책을 찾아야 할까요? VAS


Vector 데이터베이스의 기능과 역할을 품은 포괄적인 AI 데이터 플랫폼의 시대가 온다!
요즘 분위기를 보면 거대 언어 모델(LLM)과 소형 언어 모델(SLM)의 전성기라 해도 과언이 아닙니다. 실제로 LLM/SLM은 주요 기업과 기관이 새로운 비즈니스나 서비스 목표 달성을 위해 수립하고 실행하는 전략적인 계획인 AI 이니셔티브의 첫...


VAST Data가 Inc.의 2024년 Best in Business의 AI와 데이터 부문의 기업으로 선정된 이유는?
대원씨티에스의 AI 인프라와 플랫폼 제안에서 중요한 역할을 하는 VAST Data에 대한 시장의 평가는? 2024년 한 해만 봐도 그 위상을 가늠해 볼 수 있습니다. 관련해 이번 포스팅에서는 Inc.의 2024년 Best in Business의...


LLM, SLM 기반 추론 환경을 위한 모델 경량화 & 최적화가 중요한 이유!!
거대 언어 모델(Large Language Model, 이하 LLM)이나 소형 언어 모델(Small Language Model, 이하 SLM)을 프로덕션 환경에 배포하여 추론 작업을 수행할 때 GPU, NPU, 메모리 등 자원을 효율적으로...


미국 연방 기관들을 위해 MITRE가 구축한 초강력 AI 인프라 ‘Federal AI Sandbox’의 데이터 플랫폼 ‘VAST Data Platform’
AGI(Artificial General Intelligence)가 빠르게 현실로 다가오고 있습니다. AGI 시대에는 AI 에이전트가 마치 사람처럼 다양한 문제를 학습하고, 해결하고, 창의적인 사고를 합니다. 2024년 11월 현재 xPU 기술의...


대원씨티에스, ‘AI 동맹’ 강화…협력 계약 잇달아 체결
온디바이스 AI 최적화 기술 스타트업 노타 및 LG AI연구원과 AI 분야 협력 ‘맞손’ (2024. 11. 21) 국내 최대 IT 인프라 공급업체인 대원씨티에스(대표 하성원)가 올해 초 AI 비즈니스 확장을 선언한 이후, 지속적으로 ‘AI 동맹’을 강화하며 업계의 주목을 받고 있다. 대원씨티에스는 19일, AI 최적화 및 경량화 기술 스타트업인 노타(대표 채명수)와 엣지 AI 솔루션 사업에 협력하는 MOU체결식을 진행한데 이어 LG AI연구원(원장 배경훈)과도 초거대 언어 모델(Large Language Model) 비즈니스에 관한 파트너십을 체결했다고 밝혔다. 우선 대원씨티에스는 노타와 엣지 AI 솔루션 사업을 공동으로 추진할 계획이다. 엣지 AI 솔루션은 노타가 보유 및 공급하는 지능형 교통 관제 등의 AI 모델 및 넷츠프레소 플랫폼과 대원씨티에스에서 총판을 담당하고 있는 딥엑스 NPU 제품 및 기타 컴퓨팅 자원을 활용하고 결합하는 솔루션이다


사람이 상황을 파악하고 대처해야 하는 염화 칼슘 용액 살포 장치 대신 지능형 CCTV 기반 제설 시스템을 운영한다면?
겨울이 다가오면 전국 지자체는 폭설 대비에 나섭니다. 서울 등 도시 지역은 강설을 대비해 때를 대비해 경사가 가파른 도로에 ‘염화 칼슘 용액 살포 장치’를 설치해 운영합니다. 이 장치의 동작 원리는 간단합니다. 커다란 통이나 배관 장치를 통해...


NPU를 장착한 엣지 서버와 지능형 CCTV가 약속하는 차세대 스마트 시티
스마트 시티하면 무엇이 떠오르나요? 몇 년 전만 해도 초연결 시대 도시의 모든 것이 연결된다는 측면에서 미래상을 설명했습니다. 네, 실시간으로 쏟아지는 현장 데이터를 초고속 통신 측면에서 수집해 데이터센터로 보내 처리하는 스마트 스티를...


GPU 클라우드 서비스 전문 기업이 VAST Data를 선택한 이유는?
프랑스에 본사를 둔 GPU 클라우드 전문 기업인 Sesterce가 효율적인 클러스터 확장과 대용량 데이터 처리를 지원하기 위해 VAST Data의 데이터 플랫폼을 사용하고 있는 것을 알고 계시나요? 유럽을 대표하는 GPU 클러스터 사업자를...


미국 연방 기관들을 위해 MITRE가 구축한 초강력 AI 인프라 ‘Federal AI Sandbox’의 데이터 플랫폼 ‘VAST Data Platform’
AGI(Artificial General Intelligence)가 빠르게 현실로 다가오고 있습니다. AGI 시대에는 AI 에이전트가 마치 사람처럼 다양한 문제를 학습하고, 해결하고, 창의적인 사고를 합니다. 2024년 11월 현재 xPU 기술의 발전과 거대 언어 모델, 소형 언어 모델, 도메인 특화 모델, 각종 프레임워크와 라이브러리 및 개발 환경의 진화는 AGI를 실현할 수 있는 목표로 만들었습니다. 요즘 AI 에이전트 구현 관련 소식이 부쩍 많이 들리는 것도 같은 맥락에서 이해할 수 있습니다. AI 투자는 과소보다 과잉이 낫다?! AGI 시대를 대비하기 위한 움직임은 사회, 경제, 공공 등 거의 모든 영역에서 나타나고 있습니다. 민간과 공공 모두 AI 투자의 큰 흐름은 ‘과잉 투자의 위험보다 과소 투자의 위험이 크다’ 고 보는 조직이 많다는 것입니다. 실제로 주요 분야에서는 경쟁적인 투자가 일어나고 있습니다. 민간 영역에서는 빅테크


NPU를 장착한 엣지 서버와 지능형 CCTV가 약속하는 차세대 스마트 시티
스마트 시티하면 무엇이 떠오르나요? 몇 년 전만 해도 초연결 시대 도시의 모든 것이 연결된다는 측면에서 미래상을 설명했습니다. 네, 실시간으로 쏟아지는 현장 데이터를 초고속 통신 측면에서 수집해 데이터센터로 보내 처리하는 스마트 스티를 이야기했었습니다. 2024년 11월 현재 스마트 시티의 화두는 다릅니다. 스마트 시티에서 초고속 통신의 예전만큰 중요하게 언급되지 않습니다. NPU를 장착한 엣지 환경에 배포한 장치가 스스로 생각하고 판단하는 '추론' 작업을 할 수 있기 때문입니다. 이렇게 현장에서 스스로 판단하는 장치를 NPU를 장착한 엣지 서버로 관리하면 클라우드나 데이터센터로 엣지 장치의 데이터를 보내지 않고도 지능형 관제가 가능합니다. 대원씨티에스는 DEEPX, Nota AI와 파트너십을 맺고 AI 알고리즘을 적용해 현장에서 독립적으로 작업을 수행할 수 있는 엣지 서버와 엣지 장치를 기반으로 한 '지능형 관제 시스템'의 시대를 열어가고 있습니


대원씨티에스, AI 인프라 솔루션으로 비즈니스 영토 확장
AI인프라 전략실 신설하고 하이퍼스케일 AI 구축 사업 등 신규 사업 개척 2024년 2월 8일 – 지난 35년간 IT 유통에 전념해온 대원씨티에스(대표 김보경, 이상호, 하성원)가 AI 인프라 솔루션으로 비즈니스 영역을 확장한다. 대원씨티에스는 오래 전부터 사업다각화를 꾸준히 추진해왔다. 그동안 PC, 서버, 워크스테이션, 네트워크, 스토리지 등 기업 IT 인프라 구축을 위한 하드웨어와 솔루션 등을 공급해온 대원씨티에스는 데이터센터 솔루션 및 AI 서비스, 고성능 컴퓨팅 등으로 사업 영역을 확장해 나가고 있다. 사회 전반에 생성형 AI가 확산되면서 IT 인프라 구축에 대한 고객의 환경과 니즈도 급변하고 있다는 판단 때문이다. 이에 따라 대원씨티에스는 지난 2022년 IT유통에 이어 급성장하는 데이터센터 솔루션·서비스 부문으로 사업영역을 확대하기 위해 인공지능(AI), 고성능컴퓨팅(HPC), 클라우드, 네트워크 전문가들로 구성된 데이터센터사


성능부터 가성비, 전성비까지 GPGPU를 능가하는 NPU의 시대가 온다!
2024년 10월 30일(수)부터 11월 1일(금)까지 3일 간의 일정으로 ‘AIoT 국제 전시회 및 컨퍼런스’가 코엑스 3층 D홀과 컨퍼런스 룸에서 열립니다. 이번 행사에 대원씨티에스의 파트너인 딥엑스(DeepX)가 전시 부스(E101) 참여를 합니다. 지능형 엣지 시대 예고 이번 전시 부스에서 딥엑스는 서버용 제품인 DX-H1을 장착한 HP Z8 Fury G5 워크스테이션으로 100개의 CCTV 채널 데이터를 동시에 처리하는 데모를 시연합니다. 이번 부스 전시를 통해 알리고자 하는 메시지는 “엣지 장치에 GPU를 쓸 이유가 더 이상 없다!”는 것입니다. 흔히 AI 알고리즘을 성능 걱정 없이 원활하게 엣지 장치나 엣지 서버에서 운영하려면 GPU가 필요하다고 생각합니다. 하지만 이는 NPU에 대한 정확한 정보가 없어서 생긴 오해입니다. 딥엑스의 M.2 2280 형태의 AI 반도체 DX-M1과 고성능 데이터센터용 반도체 DX-H1은 엣지 장치와 엣지


성능부터 가성비, 전성비까지 GPGPU를 능가하는 NPU의 시대가 온다!
2024년 10월 30일(수)부터 11월 1일(금)까지 3일 간의 일정으로 ‘AIoT 국제 전시회 및 컨퍼런스’가 코엑스 3층 D홀과 컨퍼런스 룸에서 열립니다. 이번 행사에 대원씨티에스의 파트너인 딥엑스(DeepX)가 전시 부스(E101) 참여를...


GPU 클라우드 서비스 전문 기업이 VAST Data를 선택한 이유는?
프랑스에 본사를 둔 GPU 클라우드 전문 기업인 Sesterce가 효율적인 클러스터 확장과 대용량 데이터 처리를 지원하기 위해 VAST Data의 데이터 플랫폼을 사용하고 있는 것을 알고 계시나요? 유럽을 대표하는 GPU 클러스터 사업자를 목표로.. Sesterce의 GPU 클라우드 서비스는 고성능 AI/ML, HPC 작업 지원에 특화되어 있습니다. 데이터센터부터 클라우드의 IaaS, PaaS 서비스를 설계 단계부터 AI/ML, HPC에 최적화하였다고 보면 됩니다. 데이터센터 규모로 AI/ML, HPC 인프라와 MLOps 플랫폼을 구축해 운영할 수 있는 역량을 갖춘 기업이 바로 Sesterce란 이야기입니다. AI/ML, HPC 인프라, 플랫폼 전문 기업이 VAST Data를 선택한 이유는 무엇일까요? 먼저 Sesterce의 서비스 차별점을 알아야 그 이유가 보입니다. Sesterce는 NVIDIA H100, A100, A10 Tensor


Vector 데이터베이스의 기능과 역할을 품은 포괄적인 AI 데이터 플랫폼의 시대가 온다!
요즘 분위기를 보면 거대 언어 모델(LLM)과 소형 언어 모델(SLM)의 전성기라 해도 과언이 아닙니다. 실제로 LLM/SLM은 주요 기업과 기관이 새로운 비즈니스나 서비스 목표 달성을 위해 수립하고 실행하는 전략적인 계획인 AI 이니셔티브의 첫 페이지를 장식하고 있습니다. 이런 분위기 속에서 IT 부서, 데이터 과학자, 개발자 등 AI 이니셔티브를 실행으로 옮기는 주체들은 요즘 고민이 많습니다. 배워야 할 것, 익숙해져야 할 것이 너무 많기 때문입니다. 특히 LLM/SLM을 RAG와 결합하는 것을 빨리 알아야 하는 무언의 압박 속에 있습니다. 관련해 이번 포스팅에서는 반가운 소식을 하나 전하겠습니다. 아직 정식 출시는 아니지만 NVIDIA와 VAST Data가 손을 잡고 내년 상반기 내에 ‘VAST InsightEngine’를 선보일 예정이라고 합니다. 이를 활용하면 AI 이니셔티브 실행 부서는 적어도 LLM/SLM에 RAG를 통합하는 프로


<Case Study> VAST Data 플랫폼, NYU 연구자들에게 새로운 가능성을 열어주다!
이번 포스팅에서는 단순히 HPC 스토리지를 교체하는 것을 넘어 연구 데이터 관리 방식을 근본적으로 혁신하는데 성공한 뉴욕대학교(NYU)의 VAST Data 플랫폼 도입 프로젝트를 알아보겠습니다. 뉴욕대학교(NYU)는 학문적 다양성과 연구 범위가 매우 넓은 교육 기관입니다. 이를 IT 부서의 눈으로 바라보면? 화학, 생물정보학, 정치학, 물리학, 수리학 등 다양한 분야의 연구자에게 고성능 컴퓨팅(HPC) 자원을 효율적으로 제공하는 것이 꽤 중요한 임무 중 하나라고 볼 수 있습니다. 이 임무는 언뜻 보면 어려울 것 없어 보이지만 사실 쉽지 않은 일입니다. 어느 조직이나 IT 자원은 남아도는 것이 아니라 늘 빠듯하기 때문입니다. 컴퓨팅 자원은 잡 스케줄러로 나름 자원 운영 효율을 높일 수 있습니다. 문제는 스토리지입니다. NYU 같이 다채로운 연구 활동을 지원해야 하는 경우 유연하고 안정적인 스토리지 인프라가 필수입니다. 그 이유는 무엇일까요? Lu


대원씨티에스, AI 컨퍼런스 ‘DIA 넥서스 서밋’ 성료
(2024. 9. 5) 국내 최대의 IT 인프라 공급업체인 대원씨티에스(대표 김보경, 이상호, 하성원)는 3일, 서울 여의도 페어몬트 앰배서더 서울 호텔 그랜드볼룸에서 DIA 넥서스 서밋(DIA Nexus Summit) 2024 컨퍼런스를 성대하게 개최해다고 밝혔다. 300여명의 AI 관계자들이 참석한 이번 컨퍼런스에는 딥엑스, 노타AI, 케이투스, 슈퍼마이크로, 텐AI, 바스트데이터 등 국내외 AI 기업들이 참여해 기술과 제품을 선보였다. 또 각 사의 제품과 기술로 어떻게 AI를 구현할 수 있는지 발표가 이어졌다. 대원씨티에스 엔터프라이즈 부문 김광정 대표는 환영사를 통해 “기업들에 저장되어 있는 데이터들은 가공되기 전의 다이아몬드 원석과 같다. 이것을 새로운 밸류로 만들어 줄 수 있는 것이 바로 AI이고 사람과 사물 사이의 관계를 이어줄 수 있는 것이 넥서스”라면서 “NPU, GPU, TPU, DPU 등 다양한 형태의 프로세싱 유닛(XPU
bottom of page
.png)