All Posts

AI 산업의 발전을 이야기할 때 빠지지 않고 등장하는 단어가 있습니다. 바로 병목입니다. 모델 성능을 높일 때도, AI 가속기의 활용률을 높일 때도, 대규모 AI 인프라를 구축할 때도 결국 문제는 어느 지점에서 전체 흐름이 막히느냐로 모입니다. AI 데이터센터(AIDC)도 마찬가지입니다. 충분한 컴퓨팅 자원을 확보하는 것만으로는 부족합니다. 서버와 가속기, 전력과 냉각, 네트워크와 운영 환경이 제때 준비되고 하나의 시스템으로 연결돼야 비로소 가동할 수 있습니다. 관련해 이번 포스팅에서는 AIDC 구축 과정에서 발생하는 주요 병목을 살펴보고, 이를 줄이기 위한 접근 가운데 하나인 사전 제작형 모듈러 데이터센터(PMDC, Prefabricated Modular Data Center)를 살펴보겠습니다. AIDC 사업의 성패를 가르는 시간 AIDC를 준비하는 기업이 가장 먼저 떠올리는 과제는 GPU 확보일 것입니다. 그렇다면 충분한 수의 AI 가속기만 확

AI 산업의 다음 흐름은 어떻게 파악하시나요? 여러 방법이 있지만 아마 많은 분들이 AI 업계의 유명인들이 연사로 나서 다양한 세션을 진행하는 글로벌 행사를 주목할 것입니다. 관련해 이번 포스팅에서는 2026년 AI 인프라 부분에서 어떤 화두가 모두의 관심사인지 RAISE Summit 2026의 주요 의제와 발표 내용을 참조해 살펴보겠습니다. RAISE Summit은 AI 기술과 산업, 투자와 정책의 흐름을 함께 확인할 수 있는 글로벌 행사입니다. 2026년 행사는 7월 8일과 9일 프랑스 파리 루브르 카루젤에서 열렸습니다. 약 9,000명이 참석했고 Yann LeCun과 구글의 Amin Vahdat, Pat Gelsinger를 비롯한 업계 리더가 연단에 올랐습니다. 기조연설과 패널, 비공개 세션, 스타트업 프로그램을 통해 AI를 실제 산업에 적용하는 과정에서 나타난 과제를 폭넓게 다뤘습니다. 행사 전체가 다양한 AI 의제를 다뤘다면 인프라 관련

최신 AX 시장의 큰 흐름은 프런티어 모델과 오픈 웨이트(open-weight) 모델의 공존입니다. 기업들은 업무 특성과 보안 요구에 따라 여러 모델을 조합하는 방식으로 AX를 추진하고 있습니다. 범용 업무는 프런티어 모델 기업의 엔터프라이즈 플랜을 활용하고, 민감한 업무는 온프레미스 또는 전용 인프라에서 오픈 웨이트 모델을 운영하는 방식이 확산되고 있습니다. 이러한 흐름은 Kimi K3, GLM 5.2, Qwen 3.8 등 최신 오픈 웨이트 모델의 성능과 비용 경쟁력이 빠르게 높아지면서 더욱 가속화되고 있습니다. CIO와 인프라 담당자에게 선택지가 넓어진 것은 반가운 일입니다. 그러나 실무자 입장에서는 추론 성능과 토큰 비용의 균형을 찾아야 하는 부담도 커졌습니다. 이번 글에서는 이러한 부담을 줄이는 접근으로 Pure Storage의 Pure Key-Value Accelerator(Pure KVA)를 살펴보겠습니다. KV 캐시 저장소를 공유 스토

AI 데이터센터는 전통적인 데이터센터와 확장 방식부터 다릅니다. GPU, NPU, TPU, xPU 같은 AI 가속기의 수를 늘리는 것만으로는 충분하지 않습니다. 랙 내부의 초저지연 연결에서 시작해 여러 랙으로 구성된 클러스터, 나아가 다른 지역의 AI 데이터센터까지 하나의 운영 관점에서 연결하는 네트워크 확장이 뒷받침되어야 합니다. 네트워크 업계에서는 이러한 확장을 각각 스케일 업(Scale-Up), 스케일 아웃(Scale-Out), 스케일 어크로스(Scale-Across)로 설명합니다. 그렇다면 Arista는 이러한 요구를 어떻게 지원할까요? Arista는 기존 리프-스파인 구조를 AI 워크로드에 맞춘 멀티 패브릭 구조로 확장하고 스케일 업·스케일 아웃·스케일 어크로스를 하나의 운영 체계에서 연계하는 개방형 이더넷 기반 AI 패브릭을 제시합니다. 이번 포스팅에서는 세 가지 확장 방식의 차이를 살펴보고 Arista AI Etherlink와 EOS가

AI 워크로드의 중심이 바뀔 때마다 인프라 전략도 함께 달라져야 합니다. 2026년 현재 기업 AI 전략의 핵심 축으로 부상한 영역은 Agentic AI입니다. 에이전트는 훈련·추론과 워크로드 특성이 달라 인프라 운영과 확장 방식을 정할 때 고려 사항이 다릅니다. 관련해 이번 포스팅에서는 조직의 데이터, 시스템, 업무 흐름에 맞는 에이전트를 안정적으로 운영하기 위해 AI 인프라를 풀스택 관점에서 어떻게 확장해야 하는지 살펴보겠습니다. 에이전트는 무엇이 다른가? 최근 기업의 AX(AI Transformation) 전략은 단순 챗봇을 넘어 업무를 계획하고 실행하는 AI 에이전트로 확장되고 있습니다. 훈련과 추론에 이어 에이전트가 AI 인프라 용량 산정과 확장 계획에서 중요한 변수가 된 것이죠. 워크로드 유형이 인프라 전략에 영향을 주는 이유는 명확합니다. 훈련, 추론, 에이전트 운영은 각각 자원 사용 패턴과 병목 지점이 다르기 때문입니다. 차이점을 좀

AI 인프라 투자 경쟁이 격화되고 있습니다. AWS, Google Cloud, Microsoft와 같은 하이퍼스케일러는 기가와트급 AI 데이터센터 구축 계획을 연이어 공개하고 있으며 OpenAI, Anthropic과 같은 프런티어 모델 기업의 컴퓨팅 수요도 지속적으로 증가하고 있습니다. 이러한 흐름 속에서 AI 데이터센터의 설계 패러다임은 근본적인 전환기를 맞이하고 있습니다. 그 방향성은 과연 어디를 향하고 있을까요. 이에 대한 명확한 단서를 최근 Arista Networks 공식 유튜브 채널에 업로드된 영상에서 확인할 수 있습니다. Meta, Microsoft, Google Cloud, Arm, AMD, Cerebras, OpenAI, Anthropic의 인프라 최고책임자와 CEO가 함께한 이번 인터뷰는 AI 데이터센터 설계의 새로운 청사진을 제시합니다. AI 데이터센터 설계 패러다임의 전환 기존 데이터센터 설계는 개별 구성요소를 조합하는 방식에

비디오 스트리밍 시장은 성숙기에 접어들었습니다. 소비자는 더 높은 화질을 기대하고, 서비스 사업자는 더 낮은 운영 비용을 요구하고 있습니다. 콘텐츠의 영역도 4K, HDR, 라이브, 숏폼, 스포츠 중계, 교육, 커머스까지 빠르게 확장되고 있습니다. 문제는 이러한 요구사항이 모두 동시에 증대하고 있다는 점입니다. 그동안 비디오 업계는 익숙한 공식으로 이 과제를 해결해 왔습니다. H.264가 기본 코덱으로 자리 잡고, HEVC는 고화질 서비스를 위한 선택지로 활용되었으며, 대규모 인코딩은GPU 중심으로 설계되었습니다. AI는 자동 자막 생성, 장면 분류, 하이라이트 추출과 같이 인코딩 파이프라인 외부에서 보조적으로 활용되는 수준이었습니다. 비용 절감을 위해서는 어느 정도 품질 양보를 감수해야 한다는 인식이 지배적이었습니다. 그렇다면 2026년에도 이러한 기존 공식이 유효할까요? NETINT가 발표한 '2026 State of Video Encodin

기업의 AI 활용 방식이 챗봇과 어시스턴트에서 에이전트로 빠르게 이동하고 있습니다. 사용자가 보기에는 큰 차이가 없어 보입니다. 요청을 입력하면 결과를 받는다는 점은 같죠. 하지만 뒤에서 일어나는 작업 과정은 전혀 다릅니다. 에이전틱 워크플로우(Agentic Workflow)는 한 번의 요청 안에 검색, 요약, 검증, 도구 호출, 보고서 작성까지 여러 단계가 이어집니다. 모델 호출이 빈번하게 발생하다 보니 GPU 사용량도 많고, 특정 단계에서 지연이 발생하면 작업 전체에 연쇄적으로 영향이 갑니다. KAYTUS가 2026년 4월 자사의 AI 데브옵스 플랫폼 MotusAI와 OpenClaw 통합을 발표한 이유도 바로 여기 있습니다. 핵심은 단순한 연동이 아닙니다. 에이전트를 프로덕션 환경에서 안정적으로 운영할 수 있는 방향성을 제시한 것입니다. 관련해 이번 포스팅에서는 MotusAI와 OpenClaw 연계의 배경과 의미를 짚어보겠습니다. 왜 추론 백엔

에이전틱 AI(Agentic AI) 시대가 열리면서 기업들의 관심사는 명확하게 ROI로 옮겨가고 있습니다. 지난 2~3년간 모델 도입, 인프라 구축, 파일럿 프로젝트에 막대한 비용을 쏟아부었습니다. 이 과정에서 AI 투자 성과는 결국 데이터라는 자산에서 나온다는 공감대가 확산되었습니다. 관련해 이번 포스팅에서는 AI Ready Data가 에이전틱 AI 시대의 성과 창출의 토대로 주목받는 이유와 에버퓨어(Everpure)가 이 문제를 어떻게 해결하고자 하는지 살펴보겠습니다. AI Ready Data란? 한국 조직의 디지털 전환(DX) 수준은 민간과 공공 모두 꽤 높습니다. 쌓아 놓은 데이터도 적지 않은 편입니다. 온프레미스 서버, 클라우드, SaaS 애플리케이션 등 기업 데이터는 사방에 흩어져 있습니다. 하지만 단순히 데이터가 많다고 해서 AI를 잘 활용할 수 있는 건 아닙니다. AI Ready Data는 양이 아니라 맥락의 문제입니다. 에이전틱 A

기업의 AI 투자 방향이 Agentic AI를 향하고 있습니다. 조직의 규모와 업종을 떠나 모두가 한 방향을 바라보고 있는 것이 바로 2026년 AI 전환(AX)의 메가 트렌드입니다. 프로젝트 현장에서 들리는 수많은 이야기에는 한 가지 공통점이 존재합니다. Agentic AI가 조직 내에 성공적으로 안착하려면 결국 일하는 방식을 근본적으로 되돌아보아야 한다는 것과, AI 네이티브 조직이 되기 위한 '지식 기반'이라는 핵심 자산이 반드시 선행되어야 한다는 점입니다. 여기서 말하는 지식 기반은 단순히 데이터베이스(DB), 데이터 웨어하우스(DW), 혹은 데이터 레이크 등에 담겨 있는 정형화된 데이터를 뜻하지 않습니다. 업무 일상에서 매일같이 만들어지고 사라지는 암묵지에 해당하는 지식을 AI가 이해하고 활용할 수 있는 형태의 정보로 차곡차곡 쌓아가는 것을 의미합니다. 이번 포스팅에서는 대원씨티에스가 전사적으로 AI 노트를 활용하며 하나둘 깨닫게 된, 지

2026년 5월 11일 코스피가 장중 7,800선을 넘어서며 한국 증시는 사실상 8,000선을 바라보는 국면에 들어섰습니다. 2025년 10월 4,000선을 처음 넘긴 지 일곱 달 만의 일이며, 거래대금도 사상 최대 수준에서 매주 갱신을 거듭하고 있습니다. 이런 호황세를 한국 증권사, 자산운용사, 헤지펀드의 IT 책임자라면 다른 관점에서 바라볼 것입니다. 단순히 지수 상승률이나 거래대금만 보지 않으며, 거래량 폭증, 대체 데이터 증가, 분석 수요 증가, 자율 에이전트 기반 리서치 환경 제공까지 고려해 퀀트 플랫폼을 어떻게 다시 설계할지 고민할 것입니다. 앞으로 퀀트 플랫폼은 단순한 분석 시스템을 넘어설 것입니다. AI 학습, AI 추론, 장문 추론, 자율 에이전트까지 함께 처리해야 합니다. 이번 포스팅에서는 Everpure 블로그에 올라온 Mike Russo의 글을 참조해, 앞서가는 퀀트 팀을 위한 차세대 데이터 전략의 방향을 살펴보겠습니다.

5월 13일(수) 오후 2시부터 6시까지 대원씨티에스 사옥인 TCC아트센터 지하 1층 대강당 세미나실에서 '국방 AIDC 전략 세미나'가 열렸습니다. 정부의 AX 전략에서 국방은 매우 중요한 위치에 있습니다. 미래 전장의 승패를 좌우할 AI 역량을 국방에 접목하려면 그 첫 단추인 AI 데이터센터(AIDC) 구축부터 풀어야 합니다. 이번 세미나는 그 구축에 필요한 모든 것을 한자리에서 살펴볼 수 있는 자리였습니다. 세미나를 관통한 화두는 분명했습니다. “GPU를 몇 개 확보하느냐가 아니라 어떤 방식으로 국방 AIDC를 구축해 운영할 것인가?”였습니다. 이번 세미나를 통해 확인한 국방 AIDC 전략에 대한 인사이트를 정리해 보았습니다. 국방 AIDC는 연산 자원의 집합이 아니다! AIDC를 이야기할 때 가장 먼저 떠올리는 것은 GPU입니다. 더 많은 GPU를 확보해야 한다는 말이 자주 나옵니다. 그러나 이번 세미나에서 확인한 현실은 달랐습니다. A

AI를 주제로 하는 행사를 다니다 보면 올해 화두가 무엇인지 알 수 있습니다. 기업마다 기술마다 세부 내용은 다르지만 공통적으로 하는 말은 이제 AI 투자는 PoC(Proof of Concept)를 넘어 프로덕션을 향하고 있다는 것입니다. 요즘 모델과 AI 가속기와 메모리 분야의 발전 속도를 보면 이제 AI 투자가 실험 단계를 지나는 것은 당연해보입니다. 하지만 여전히 프로젝트 성공을 확답하기에는 부족함을 느끼는 곳이 적지 않습니다. 왜 그럴까요? 최신 아키텍처 GPU 기반 서버를 충분히 확보해도, 멀티 에이전트 운영을 위한 플랫폼을 잘 갖추어도, 데이터가 맥락 없이 여기저기 흩어져 있으면 AI 프로젝트는 PoC 단계를 넘어서기 어렵습니다. PoC의 벽을 넘어서기 위한 전제 조건 ‘데이터 준비’ 유명 시장 조사기관들은 그 결정적인 원인으로 'GPU'나 '모델 성능'이 아닌 '데이터'를 지목하고 있습니다.데이터 준비(Data Readiness)가

AI 데이터센터의 특징을 가장 잘 보여주는 개념으로 AI Factory를 꼽습니다. 이 개념에 담긴 뜻을 들여다보면 확실히 우리에게 익숙한 데이터센터와 다른 점이 많다는 것을 알 수 있습니다. 이를 간단히 비교하면 다음과 같습니다. 기존 환경의 경우 개별 구성 요소로 구성합니다. 운영과 관제는 이 방향에 맞추어 이루어집니다. 반면에 AI Factory는 여러 인프라 요소가 하나의 거대한 유기체처럼 연결되어 있습니다. 이런 구조적 특징으로 관리 방식도 이전과 확실히 다르게 접근해야 합니다. 관련해 이번 포스팅에서는 AI 데이터센터 관제의 전제 조건인 가시성 확보 방안을 KAYTUS의 KSManage를 기준으로 살펴보겠습니다. AI 데이터센터의 관제는 깊이가 다르다? 데이터센터 관제하면 무엇이 떠오르나요? 아마 대시보드를 통해 각종 지표를 모니터링하면서 이상이나 장애 관련 알람이 뜨면 엔지니어가 개입해 조치를 취하는 장면이 펼쳐질 것입니다. 관제 요원

3월 31일 광주광역시는 대원씨티에스, 망고부스트, 오케스트로클라우드와 ‘광주형 인공지능(AI) 비즈니스 업무협약(MOU)’을 체결하였습니다. 이번 협력 소식은 여러 언론사를 통해 보도되었는데요. 아무래도 기사다 보니 드라이하게 팩트만 전달되었습니다. 그래서 따로 포스팅을 준비해 봤습니다. 이번 MOU의 배경 그리고 의미를 짚어보겠습니다. 출 명확한 역할 분담 이번 제휴는 국가 NPU(신경망처리장치) 컴퓨팅센터 구축 사업과 연계하여 AI 산업 생태계 조성의일환으로 추진되었습니다. MOU의 내용을 보면 역할 분담이 매우 명확하다는 것을 알 수 있습니다. 대원씨티에스는 GPU와 NP U 기반 AI 클러스터 노하우를 바탕으로 설계, 구축, 운영에 대한 자문을 제공합니다. 망고부스트는 DPU 기술을 토대로 인프라 성능 최적화의 한 축을 담당합니다. 오케스트로클라우드는 클라우드 및 데이터센터 구축 경험을 기반으로 운영 기반을 지원합니다. 여기까지는 국가 N

요즘 어디를 가나 AI를 이야기를 합니다. 이번 포스팅에서는 주제를 비디오 스트리밍으로 옮겨 볼까 합니다. 대원씨티에스는 AI 인프라가 주력이지만 비디오 스트리밍 인프라 부문의 전문성도 높습니다. 정보 탐색과 소통의 중심이 된 비디오 스트리밍 비디오 스트리밍은 전 세계 데이터 트래픽의 상당 부분을 차지하고 있습니다. 굳이 몇 퍼센트인지 수치를 대지 않아도 체감할 수 있습니다. 주위를 둘러 보면 OTT 서비스를 몇 개씩 이용하는 이들을 찾기 어렵지 않습니다. MZ세대를 보면 정토 탐색, 소통 수단으로 숏폼이 자리 잡은지 오래입니다. 비디오 스트리밍은 비즈니스 세계에서도 증가 추세를 이어가고 있습니다. 비디오 기반 커뮤니케이션 협업, 교육, e스포츠, 민간/공공 부문의 CCTV 등 스트리밍 트래픽은 꾸준히 늘고 있습니다. 오랜 기간 서비스를 제공하며 기술 기반이 꽤 성숙한 비디오 스트리밍 분야는 최근 새로운 도전 과제를 마주하고 있습니다. 스트리밍

2026년 현재 데이터센터 네트워크는 거대한 변곡점에 서 있게 되었습니다. 데이터센터 구축과 운영에 있어 AI가 새로운 지향점이 되면서 네트워크 인프라 설계 방식이 바뀌고 있는 것입니다. 실제로 생성형 AI 서비스 대중화 시대를 지나 에이전틱 AI열풍과 함께 엔터프라이즈 컴퓨팅 환경에 본격적으로 AI 워크로드가 뿌리를 내리기 시작하면서 리프-스파인(Leaf-Spine) 아키텍처는 새로운 도전에 맞닥뜨리게 되었습니다. AI 가속기(XPU) 성능이 비약적으로 향상됨에 따라 AI 워크로드의 요구사항을 충족하는 데 한계를 드러내고 있는 것입니다. 관련해 이번 포스팅에서는 한계를 넘어서기 위해 아리스타가 제시하는 유니버설 AI 스파인(Universal AI Spine) 아키텍처에 대해 알아보겠습니다. 리프-스파인 아키텍처가 직면한 구조적 한계 리프-스파인 구조는 일반적인 웹 트래픽이나 가상화 환경에는 최적입니다. 하지만 수만 개의 GPU나 NPU,

올 해의 AI 기술과 시장 동향은 어디를 향할까? 언제부터인가 NVIDIA의 연례 행사인 GTC는 AI 기술과 시장의 변화를 예측하는 바로미터 역할을 하고 있습니다. 2026년 첫 행사에서 NVIDIA 젠슨 황 CEO는 매우 의미심장한 메시지를 던졌습니다. 그가 기조연설의 포문을 열며 한 말인 “우리는 지금 새로운 산업 혁명의 한복판에 서 있다"는 것은 무슨 뜻일까요. 산업화 시대 공장이 원자재를 가공해 물건을 만들었다면 우리가 곧 마주할 AGI 시대에는 전기로 지능이라는 고부가가치 상품인 토큰(Token)을 찍어낼 것이란 의미가 담겨 있습니다. NVIDIA가 구축한 해자 NVIDIA가 AI 혁신을 상징하는 아이콘이라는 이견을 달 이는 없습니다. 관련해 업계에서는 넘볼 수 없는 NVIDIA의 해자를 소프트웨어에서 찾고 있습니다. 대표적인 것이 CUDA입니다. AI 가속기 시장은 2026년 현재 NPU, LPU, 맞춤형 ASIC 등 다양한 선

비디오 인코딩 인프라를 설계할 때 가장 중요하는게 보는 것은? 아마 다들 성능을 떠올릴 것입니다. 서버 한 대가 얼마나 많은 스트림을 처리하는지가 관심사이다 보니 성능을 중요하게 여겨왔습니다.하지만 최근 시장의 분위기는 조금 다릅니다. AI가 정치, 경제, 사회 전반의 메가 트렌드라는 인식이 주식 시장을 중심으로 확산하면서데이터센터 구축이 주요 국가의 핵심 아젠다가 되었고 관련해 에너지 부족에 대한 우려의 목소리를 내는 이들이 늘고 있습니다. 상황이이렇다 보니 에너지를 많이 소비하는 유형에 속하는 비디오 스트리밍도 이제는 에너지 효율을 따져야 할 때가 된 것입니다. 관련해 이번 포스팅에서는 비디오 스트리밍 인프라 전략 수립에 있어 성능 못지 않게 중요한 지표로 ‘와트당 스트림’을 왜 챙겨야 하는지 알아보겠습니다. 전력 소모를 높이는 세 가지 압력 비디오 스트리밍 인프라의 전력 소비가 급증한 데는 세 가지 요인이 복합적으로 작용하고 있습니다.

테크 업계의 AI 투자 경쟁은 2026년 더욱 격렬해지고 있습니다. 구글, 아마존, 메타, 마이크로소프트는 올해 940조원에 이르는 거대한 자본을 AI 인프라 구축에 투입할 예정입니다. 자본 시장에서는 AI 거품론에 대한 우려를 보이기도 하지만, 기술 혁신을 주도하는 기업은 뒤처지면 도태될 수 있다는 절박감으로 투자 규모를 확대하고 있습니다. 여기에 주요 국가 정부가 AI를 국가 안보의 한 축으로 바라보면서 공공 부문의 투자와 지원도 확대되고 있습니다. 특히 한국은 2025년9월 국가 AI 전략위원회를 출범하며 세계 3대 AI 강국으로 도약하겠다는 비전을 선포하는 등 적극적으로 움직이고 있습니다. 이러한 분위기 속에서 AI 데이터센터 설립에 대한 소식이 민간과 공공 부문에서 이어지고 있습니다. 이번 포스팅에서는 AI 인프라 투자의 결과물이라 할 수 있는 AI 데이터센터 구축에 있어 가장 중요한 요소 중 하나라 할 수 있는 냉각에 대한 KAYTUS의