All Posts

AI 워크로드 처리와 거대 언어 모델 훈련 관련 성능을 이야기할 때 빠지지 않는 주제가 네트워크 대역폭과 성능 병목입니다. 왜 이런 이야기가 나올까요? 이번 포스팅에서는 그 이유와 AI 데이터센터 시대에 새롭게 가치를 평가받고 있는 차세대 이더넷...

최근 기술 업계에서는 에이전트 시대(Agentic Era)라는 말이 심심치 않게 들리고 있습니다. 이는 인공지능(AI)이 단순히 질문에 답하거나 사전 정의된 명령을 수행하는 조력자(Assistant)를 넘어 스스로 목표를 설정하고 실행하는...

금융 서비스는 디지털 전환 속도가 가장 빠른 업계로 손꼽힙니다. 정확히 말하면 디지털 전환을 넘어 AI 전환까지 빠르게 움직이는 기술 혁신 선도 업계입니다. 금융 서비스 플랫폼의 디지털화 지능화 트렌드는 오픈 API 기반의 오픈 뱅킹과 맞물리면서...

2025년 IT 투자 계획에서 AI의 비중은 어느 정도일까요? 아마 상당수 조직이 MML(Multi Modal Language), LLM(Large Language Model), SLM(Small Language Model) 관련 프로젝트를...

빅테크 기업이 주관하는 대형 행사를 보면 공통점이 있습니다. 바로 AI에서 시작해 AI로 끝을 맺는다는 것입니다. 큰 틀에서 마이크로소프트, 구글, 아마존 같은 빅테크 기업이 추구하는 비전은 큰 차이가 없습니다. 하지만 세부적으로 파고 들어가면...

기업의 IT 환경이 점점 복잡해지면서 데이터가 자연스럽게 여기저기 흩어져 있는 시대가 되었습니다. 예를 들어 본사와 지사 그리고 공장이나 매장 등 데이터센터부터 현지 전산실 그리고 엣지 컴퓨팅 환경까지 여러 곳에서 데이터가 생성, 저장, 관리되고 있습니다. 예전처럼 데이터센터 스토리지에 모든 정보를 모아두던 시대가 지나간 것입니다.   데이터가 여러 곳에 흩어져 있다는 것은 단순히 관리가 불편하다는 의미를 넘어섭니다. 각 부서, 각 지사, 각 시스템마다 데이터가 고립되면 섬처럼 단절된 데이터 사일로 현상이 발생합니다. 이렇게 되면 데이터 분석이나 활용이 번거롭습니다. 특히 여러 위치에 분산된 데이터를 동기화하고 최신 버전을 유지하는 것은 매우 복잡하고 어려운 작업입니다. 데이터 일관성이 무너지면 업무 오류가 발생하고, 심각한 경우에는 비즈니스에 손실을 초래할 수도 있습니다. 그렇다면 이런 불편함에서 벗어나려면 어디서 해결책을 찾아야 할까요? VAS

요즘 분위기를 보면 거대 언어 모델(LLM)과 소형 언어 모델(SLM)의 전성기라 해도 과언이 아닙니다. 실제로 LLM/SLM은 주요 기업과 기관이 새로운 비즈니스나 서비스 목표 달성을 위해 수립하고 실행하는 전략적인 계획인 AI 이니셔티브의 첫...

대원씨티에스의 AI 인프라와 플랫폼 제안에서 중요한 역할을 하는 VAST Data에 대한 시장의 평가는? 2024년 한 해만 봐도 그 위상을 가늠해 볼 수 있습니다. 관련해 이번 포스팅에서는 Inc.의 2024년 Best in Business의...

거대 언어 모델(Large Language Model, 이하 LLM)이나 소형 언어 모델(Small Language Model, 이하 SLM)을 프로덕션 환경에 배포하여 추론 작업을 수행할 때 GPU, NPU, 메모리 등 자원을 효율적으로...

AGI(Artificial General Intelligence)가 빠르게 현실로 다가오고 있습니다. AGI 시대에는 AI 에이전트가 마치 사람처럼 다양한 문제를 학습하고, 해결하고, 창의적인 사고를 합니다. 2024년 11월 현재 xPU 기술의...

온디바이스 AI 최적화 기술 스타트업 노타 및 LG AI연구원과 AI 분야 협력 ‘맞손’ (2024. 11. 21) 국내 최대 IT 인프라 공급업체인 대원씨티에스(대표 하성원)가 올해 초 AI 비즈니스 확장을 선언한 이후, 지속적으로 ‘AI 동맹’을 강화하며 업계의 주목을 받고 있다. 대원씨티에스는 19일, AI 최적화 및 경량화 기술 스타트업인 노타(대표 채명수)와 엣지 AI 솔루션 사업에 협력하는 MOU체결식을 진행한데 이어 LG AI연구원(원장 배경훈)과도 초거대 언어 모델(Large Language Model) 비즈니스에 관한 파트너십을 체결했다고 밝혔다. 우선 대원씨티에스는 노타와 엣지 AI 솔루션 사업을 공동으로 추진할 계획이다. 엣지 AI 솔루션은 노타가 보유 및 공급하는 지능형 교통 관제 등의 AI 모델 및 넷츠프레소 플랫폼과 대원씨티에스에서 총판을 담당하고 있는 딥엑스 NPU 제품 및 기타 컴퓨팅 자원을 활용하고 결합하는 솔루션이다

겨울이 다가오면 전국 지자체는 폭설 대비에 나섭니다. 서울 등 도시 지역은 강설을 대비해 때를 대비해 경사가 가파른 도로에 ‘염화 칼슘 용액 살포 장치’를 설치해 운영합니다. 이 장치의 동작 원리는 간단합니다. 커다란 통이나 배관 장치를 통해...

스마트 시티하면 무엇이 떠오르나요? 몇 년 전만 해도 초연결 시대 도시의 모든 것이 연결된다는 측면에서 미래상을 설명했습니다. 네, 실시간으로 쏟아지는 현장 데이터를 초고속 통신 측면에서 수집해 데이터센터로 보내 처리하는 스마트 스티를...

프랑스에 본사를 둔 GPU 클라우드 전문 기업인 Sesterce가 효율적인 클러스터 확장과 대용량 데이터 처리를 지원하기 위해 VAST Data의 데이터 플랫폼을 사용하고 있는 것을 알고 계시나요?  유럽을 대표하는 GPU 클러스터 사업자를...

AGI(Artificial General Intelligence)가 빠르게 현실로 다가오고 있습니다. AGI 시대에는 AI 에이전트가 마치 사람처럼 다양한 문제를 학습하고, 해결하고, 창의적인 사고를 합니다. 2024년 11월 현재 xPU 기술의 발전과 거대 언어 모델, 소형 언어 모델, 도메인 특화 모델, 각종 프레임워크와 라이브러리 및 개발 환경의 진화는 AGI를 실현할 수 있는 목표로 만들었습니다. 요즘 AI 에이전트 구현 관련 소식이 부쩍 많이 들리는 것도 같은 맥락에서 이해할 수 있습니다.   AI 투자는 과소보다 과잉이 낫다?!   AGI 시대를 대비하기 위한 움직임은 사회, 경제, 공공 등 거의 모든 영역에서 나타나고 있습니다. 민간과 공공 모두 AI 투자의 큰 흐름은 ‘과잉 투자의 위험보다 과소 투자의 위험이 크다’ 고 보는 조직이 많다는 것입니다. 실제로 주요 분야에서는 경쟁적인 투자가 일어나고 있습니다.   민간 영역에서는 빅테크

스마트 시티하면 무엇이 떠오르나요? 몇 년 전만 해도 초연결 시대 도시의 모든 것이 연결된다는 측면에서 미래상을 설명했습니다. 네, 실시간으로 쏟아지는 현장 데이터를 초고속 통신 측면에서 수집해 데이터센터로 보내 처리하는 스마트 스티를 이야기했었습니다. 2024년 11월 현재 스마트 시티의 화두는 다릅니다. 스마트 시티에서 초고속 통신의 예전만큰 중요하게 언급되지 않습니다. NPU를 장착한 엣지 환경에 배포한 장치가 스스로 생각하고 판단하는 '추론' 작업을 할 수 있기 때문입니다. 이렇게 현장에서 스스로 판단하는 장치를 NPU를 장착한 엣지 서버로 관리하면 클라우드나 데이터센터로 엣지 장치의 데이터를 보내지 않고도 지능형 관제가 가능합니다. 대원씨티에스는 DEEPX, Nota AI와 파트너십을 맺고 AI 알고리즘을 적용해 현장에서 독립적으로 작업을 수행할 수 있는 엣지 서버와 엣지 장치를 기반으로 한 '지능형 관제 시스템'의 시대를 열어가고 있습니

AI인프라 전략실 신설하고 하이퍼스케일 AI 구축 사업 등 신규 사업 개척 2024년 2월 8일 – 지난 35년간 IT 유통에 전념해온 대원씨티에스(대표 김보경, 이상호, 하성원)가 AI 인프라 솔루션으로 비즈니스 영역을 확장한다.   대원씨티에스는 오래 전부터 사업다각화를 꾸준히 추진해왔다. 그동안 PC, 서버, 워크스테이션, 네트워크, 스토리지 등 기업 IT 인프라 구축을 위한 하드웨어와 솔루션 등을 공급해온 대원씨티에스는 데이터센터 솔루션 및 AI 서비스, 고성능 컴퓨팅 등으로 사업 영역을 확장해 나가고 있다. 사회 전반에 생성형 AI가 확산되면서 IT 인프라 구축에 대한 고객의 환경과 니즈도 급변하고 있다는 판단 때문이다.   이에 따라 대원씨티에스는 지난 2022년 IT유통에 이어 급성장하는 데이터센터 솔루션·서비스 부문으로 사업영역을 확대하기 위해 인공지능(AI), 고성능컴퓨팅(HPC), 클라우드, 네트워크 전문가들로 구성된 데이터센터사

2024년 10월 30일(수)부터 11월 1일(금)까지 3일 간의 일정으로 ‘AIoT 국제 전시회 및 컨퍼런스’가 코엑스 3층 D홀과 컨퍼런스 룸에서 열립니다. 이번 행사에 대원씨티에스의 파트너인 딥엑스(DeepX)가 전시 부스(E101) 참여를 합니다. 지능형 엣지 시대 예고 이번 전시 부스에서 딥엑스는 서버용 제품인 DX-H1을 장착한 HP Z8 Fury G5 워크스테이션으로 100개의 CCTV 채널 데이터를 동시에 처리하는 데모를 시연합니다. 이번 부스 전시를 통해 알리고자 하는 메시지는 “엣지 장치에 GPU를 쓸 이유가 더 이상 없다!”는 것입니다. 흔히 AI 알고리즘을 성능 걱정 없이 원활하게 엣지 장치나 엣지 서버에서 운영하려면 GPU가 필요하다고 생각합니다. 하지만 이는 NPU에 대한 정확한 정보가 없어서 생긴 오해입니다. 딥엑스의 M.2 2280 형태의 AI 반도체 DX-M1과 고성능 데이터센터용 반도체 DX-H1은 엣지 장치와 엣지

2024년 10월 30일(수)부터 11월 1일(금)까지 3일 간의 일정으로 ‘AIoT 국제 전시회 및 컨퍼런스’가 코엑스 3층 D홀과 컨퍼런스 룸에서 열립니다. 이번 행사에 대원씨티에스의 파트너인 딥엑스(DeepX)가 전시 부스(E101) 참여를...

프랑스에 본사를 둔 GPU 클라우드 전문 기업인 Sesterce가 효율적인 클러스터 확장과 대용량 데이터 처리를 지원하기 위해 VAST Data의 데이터 플랫폼을 사용하고 있는 것을 알고 계시나요?  유럽을 대표하는 GPU 클러스터 사업자를 목표로.. Sesterce의 GPU 클라우드 서비스는 고성능 AI/ML, HPC 작업 지원에 특화되어 있습니다. 데이터센터부터 클라우드의 IaaS, PaaS 서비스를 설계 단계부터 AI/ML, HPC에 최적화하였다고 보면 됩니다.  데이터센터 규모로 AI/ML, HPC 인프라와 MLOps 플랫폼을 구축해 운영할 수 있는 역량을 갖춘 기업이 바로 Sesterce란 이야기입니다.  AI/ML, HPC 인프라, 플랫폼 전문 기업이 VAST Data를 선택한 이유는 무엇일까요? 먼저 Sesterce의 서비스 차별점을 알아야 그 이유가 보입니다.  Sesterce는 NVIDIA H100, A100, A10 Tensor