All Posts

AI를 주제로 하는 행사를 다니다 보면 올해 화두가 무엇인지 알 수 있습니다. 기업마다 기술마다 세부 내용은 다르지만 공통적으로 하는 말은 이제 AI 투자는 PoC(Proof of Concept)를 넘어 프로덕션을 향하고 있다는 것입니다. 요즘 모델과 AI 가속기와 메모리 분야의 발전 속도를 보면 이제 AI 투자가 실험 단계를 지나는 것은 당연해보입니다. 하지만 여전히 프로젝트 성공을 확답하기에는 부족함을 느끼는 곳이 적지 않습니다. 왜 그럴까요? 최신 아키텍처 GPU 기반 서버를 충분히 확보해도, 멀티 에이전트 운영을 위한 플랫폼을 잘 갖추어도, 데이터가 맥락 없이 여기저기 흩어져 있으면 AI 프로젝트는 PoC 단계를 넘어서기 어렵습니다. PoC의 벽을 넘어서기 위한 전제 조건 ‘데이터 준비’ 유명 시장 조사기관들은 그 결정적인 원인으로 'GPU'나 '모델 성능'이 아닌 '데이터'를 지목하고 있습니다.데이터 준비(Data Readiness)가

AI 데이터센터의 특징을 가장 잘 보여주는 개념으로 AI Factory를 꼽습니다. 이 개념에 담긴 뜻을 들여다보면 확실히 우리에게 익숙한 데이터센터와 다른 점이 많다는 것을 알 수 있습니다. 이를 간단히 비교하면 다음과 같습니다. 기존 환경의 경우 개별 구성 요소로 구성합니다. 운영과 관제는 이 방향에 맞추어 이루어집니다. 반면에 AI Factory는 여러 인프라 요소가 하나의 거대한 유기체처럼 연결되어 있습니다. 이런 구조적 특징으로 관리 방식도 이전과 확실히 다르게 접근해야 합니다. 관련해 이번 포스팅에서는 AI 데이터센터 관제의 전제 조건인 가시성 확보 방안을 KAYTUS의 KSManage를 기준으로 살펴보겠습니다. AI 데이터센터의 관제는 깊이가 다르다? 데이터센터 관제하면 무엇이 떠오르나요? 아마 대시보드를 통해 각종 지표를 모니터링하면서 이상이나 장애 관련 알람이 뜨면 엔지니어가 개입해 조치를 취하는 장면이 펼쳐질 것입니다. 관제 요원

3월 31일 광주광역시는 대원씨티에스, 망고부스트, 오케스트로클라우드와 ‘광주형 인공지능(AI) 비즈니스 업무협약(MOU)’을 체결하였습니다. 이번 협력 소식은 여러 언론사를 통해 보도되었는데요. 아무래도 기사다 보니 드라이하게 팩트만 전달되었습니다. 그래서 따로 포스팅을 준비해 봤습니다. 이번 MOU의 배경 그리고 의미를 짚어보겠습니다. 출 명확한 역할 분담 이번 제휴는 국가 NPU(신경망처리장치) 컴퓨팅센터 구축 사업과 연계하여 AI 산업 생태계 조성의일환으로 추진되었습니다. MOU의 내용을 보면 역할 분담이 매우 명확하다는 것을 알 수 있습니다. 대원씨티에스는 GPU와 NP U 기반 AI 클러스터 노하우를 바탕으로 설계, 구축, 운영에 대한 자문을 제공합니다. 망고부스트는 DPU 기술을 토대로 인프라 성능 최적화의 한 축을 담당합니다. 오케스트로클라우드는 클라우드 및 데이터센터 구축 경험을 기반으로 운영 기반을 지원합니다. 여기까지는 국가 N

요즘 어디를 가나 AI를 이야기를 합니다. 이번 포스팅에서는 주제를 비디오 스트리밍으로 옮겨 볼까 합니다. 대원씨티에스는 AI 인프라가 주력이지만 비디오 스트리밍 인프라 부문의 전문성도 높습니다. 정보 탐색과 소통의 중심이 된 비디오 스트리밍 비디오 스트리밍은 전 세계 데이터 트래픽의 상당 부분을 차지하고 있습니다. 굳이 몇 퍼센트인지 수치를 대지 않아도 체감할 수 있습니다. 주위를 둘러 보면 OTT 서비스를 몇 개씩 이용하는 이들을 찾기 어렵지 않습니다. MZ세대를 보면 정토 탐색, 소통 수단으로 숏폼이 자리 잡은지 오래입니다. 비디오 스트리밍은 비즈니스 세계에서도 증가 추세를 이어가고 있습니다. 비디오 기반 커뮤니케이션 협업, 교육, e스포츠, 민간/공공 부문의 CCTV 등 스트리밍 트래픽은 꾸준히 늘고 있습니다. 오랜 기간 서비스를 제공하며 기술 기반이 꽤 성숙한 비디오 스트리밍 분야는 최근 새로운 도전 과제를 마주하고 있습니다. 스트리밍

2026년 현재 데이터센터 네트워크는 거대한 변곡점에 서 있게 되었습니다. 데이터센터 구축과 운영에 있어 AI가 새로운 지향점이 되면서 네트워크 인프라 설계 방식이 바뀌고 있는 것입니다. 실제로 생성형 AI 서비스 대중화 시대를 지나 에이전틱 AI열풍과 함께 엔터프라이즈 컴퓨팅 환경에 본격적으로 AI 워크로드가 뿌리를 내리기 시작하면서 리프-스파인(Leaf-Spine) 아키텍처는 새로운 도전에 맞닥뜨리게 되었습니다. AI 가속기(XPU) 성능이 비약적으로 향상됨에 따라 AI 워크로드의 요구사항을 충족하는 데 한계를 드러내고 있는 것입니다. 관련해 이번 포스팅에서는 한계를 넘어서기 위해 아리스타가 제시하는 유니버설 AI 스파인(Universal AI Spine) 아키텍처에 대해 알아보겠습니다. 리프-스파인 아키텍처가 직면한 구조적 한계 리프-스파인 구조는 일반적인 웹 트래픽이나 가상화 환경에는 최적입니다. 하지만 수만 개의 GPU나 NPU,

올 해의 AI 기술과 시장 동향은 어디를 향할까? 언제부터인가 NVIDIA의 연례 행사인 GTC는 AI 기술과 시장의 변화를 예측하는 바로미터 역할을 하고 있습니다. 2026년 첫 행사에서 NVIDIA 젠슨 황 CEO는 매우 의미심장한 메시지를 던졌습니다. 그가 기조연설의 포문을 열며 한 말인 “우리는 지금 새로운 산업 혁명의 한복판에 서 있다"는 것은 무슨 뜻일까요. 산업화 시대 공장이 원자재를 가공해 물건을 만들었다면 우리가 곧 마주할 AGI 시대에는 전기로 지능이라는 고부가가치 상품인 토큰(Token)을 찍어낼 것이란 의미가 담겨 있습니다. NVIDIA가 구축한 해자 NVIDIA가 AI 혁신을 상징하는 아이콘이라는 이견을 달 이는 없습니다. 관련해 업계에서는 넘볼 수 없는 NVIDIA의 해자를 소프트웨어에서 찾고 있습니다. 대표적인 것이 CUDA입니다. AI 가속기 시장은 2026년 현재 NPU, LPU, 맞춤형 ASIC 등 다양한 선

비디오 인코딩 인프라를 설계할 때 가장 중요하는게 보는 것은? 아마 다들 성능을 떠올릴 것입니다. 서버 한 대가 얼마나 많은 스트림을 처리하는지가 관심사이다 보니 성능을 중요하게 여겨왔습니다.하지만 최근 시장의 분위기는 조금 다릅니다. AI가 정치, 경제, 사회 전반의 메가 트렌드라는 인식이 주식 시장을 중심으로 확산하면서데이터센터 구축이 주요 국가의 핵심 아젠다가 되었고 관련해 에너지 부족에 대한 우려의 목소리를 내는 이들이 늘고 있습니다. 상황이이렇다 보니 에너지를 많이 소비하는 유형에 속하는 비디오 스트리밍도 이제는 에너지 효율을 따져야 할 때가 된 것입니다. 관련해 이번 포스팅에서는 비디오 스트리밍 인프라 전략 수립에 있어 성능 못지 않게 중요한 지표로 ‘와트당 스트림’을 왜 챙겨야 하는지 알아보겠습니다. 전력 소모를 높이는 세 가지 압력 비디오 스트리밍 인프라의 전력 소비가 급증한 데는 세 가지 요인이 복합적으로 작용하고 있습니다.

테크 업계의 AI 투자 경쟁은 2026년 더욱 격렬해지고 있습니다. 구글, 아마존, 메타, 마이크로소프트는 올해 940조원에 이르는 거대한 자본을 AI 인프라 구축에 투입할 예정입니다. 자본 시장에서는 AI 거품론에 대한 우려를 보이기도 하지만, 기술 혁신을 주도하는 기업은 뒤처지면 도태될 수 있다는 절박감으로 투자 규모를 확대하고 있습니다. 여기에 주요 국가 정부가 AI를 국가 안보의 한 축으로 바라보면서 공공 부문의 투자와 지원도 확대되고 있습니다. 특히 한국은 2025년9월 국가 AI 전략위원회를 출범하며 세계 3대 AI 강국으로 도약하겠다는 비전을 선포하는 등 적극적으로 움직이고 있습니다. 이러한 분위기 속에서 AI 데이터센터 설립에 대한 소식이 민간과 공공 부문에서 이어지고 있습니다. 이번 포스팅에서는 AI 인프라 투자의 결과물이라 할 수 있는 AI 데이터센터 구축에 있어 가장 중요한 요소 중 하나라 할 수 있는 냉각에 대한 KAYTUS의

영상 트래픽의 폭발적인 증가와 인공지능(AI)의 결합은 이제 거스를 수 없는 시대적 흐름입니다. 우리 주변의 CCTV 인프라는 단순한 고화질화를 넘어 AI 기반의 지능형 시스템으로 빠르게 진화하고 있습니다. 공공, 국방, 제조, 건설 등 다양한 산업계에서 실시간 영상 데이터와 AI를 접목하려는 시도가 활발해짐에 따라, 고해상도 비디오 스트리밍과 실시간 AI 분석을 동시에 구현하는 기술적 역량이 핵심 경쟁력으로 부상하고 있습니다. 영상 산업의 패러다임 변화와 기술적 도전 과제 혁신을 지향하는 많은 조직이 PoC(개념 증명)를 통해 가능성을 타진하지만, 이 과정에서 공통적인 시행착오를 겪곤 합니다. 바로 '기대치에 미치지 못하는 성능 병목 현상'입니다. 이러한 난제를 해결하기 위해 다각적인 검토를 진행해온 전문가들은 결국 VPU(Video Processing Unit)에서 그 해답을 찾고 있습니다. 본 포스팅에서는 NETINT가 단일 칩으로 고화질

퐁텐블로 라스베이거스(Fontainebleau Las Vegas)에서 열린 NVIDIA Live에서, NVIDIA는 단순한 신제품 공개를 넘어선 중대한 선언을했습니다. 젠슨 황 CEO는 이제 AI가 디지털 영역을 벗어나 물리적 세계로 확장되는 '피지컬 AI(Physical AI)'의 시대가 도래했음을 알리며 컴퓨팅 산업의 거대한 패러다임 전환을 예고했습니다. NVIDIA는 이번 발표를 통해 에이전틱 AI와 로보틱스, 그리고 이를 뒷받침할 차세대 슈퍼컴퓨팅 플랫폼 루빈(Rubin)을 공개하며, 칩 제조사를 넘어선 'AI 풀 스택 플랫폼 기업'으로서의 비전을 공고히 했습니다. 젠슨 황은 "지난 10년간 구축된 약 10조 달러 규모의 레거시컴퓨팅 인프라가 이제 AI 가속 컴퓨팅 방식으로 전환되고 있다"고 선언했습니다. 이번 포스팅에서는 NVIDIA Live에서 소개된 주요 내용을 알아보겠습니다. 에이전틱 AI와 오픈 모델 생태계로의 진화 컴퓨팅의

AI가 기업의 디지털 전환의 완성이라고 생각하는 이들이 많습니다. 그러다 보니 많은 조직의 IT 투자 우선순위 목록에 AI가 상단에 이름을 올리고 있습니다. 실제 프로젝트를 추진하는 팀은 AI 프로젝트가 늘어 나는 것이 큰 부담으로 다가옵니다. 데이터센터에 GPU 기반 서버와 각종 고성능 네트워크, 스토리지 장비로 AI 워크로드를 위한 인프라 구성을 위해 고려해야 할 것이 많기 때문입니다. 이 중 가장 큰 고민은 전력입니다. 최신 GPU를 장착한 시스템의 전력 소모량이 만만치 않습니다. AI 전용 칩의 소비 전력은 이미 500~700와트에서 1,000와트를 넘어설 것으로 전망됩니다. 상황이 이렇다 보니 전산실이나 데이터센터 환경에서 에너지 효율 극대화 방안을 찾기 쉽지 않습니다. 물론 차세대 AI/ML, LLM, HPC, 빅 데이터 분석 같은 고성능을 요구하는 워크로드를 효과적으로 지원하기 위해 높은 에너지 효율성과 확장성을 데이터센터 설계 단계부

Part 1에서는 AI 개발과 배포 및 운영 과정에 포함된 데이터 전처리, 모델 훈련, 추론 등의 다양한 워크로드 특성을 이해하고, 각기 다른 요구 사항을 인프라 설계에 반영하는 것이 왜 중요한지 살펴보았습니다. Part 2와 Part 3에서는 AI 워크로드의 요구 사항을 충족하기 위해 인프라 설계 시 반드시 고려해야 할 핵심 기술 요소와 최적화 방안을 컴퓨팅 자원(프로세서), 데이터 이동(네트워크 I/O), 데이터 저장(스토리지), 물리적 환경(전력·냉각), 병렬 처리 구조의 다섯 가지 측면에서 상세히 살펴봅니다. 먼저 Part 2에서는 이 중 프로세서, 네트워크 I/O, 스토리지에 대해 먼저 알아보겠습니다. GPU vs CPU: 적합한 프로세서 선택과 구성 비율 최적화 AI 인프라하면 대부분 GPU를 떠올립니다. 하지만 GPU 홀로 모든 것을 하지는 않습니다. CPU도 나름의 역할을 합니다. 따라서 인프라 설계에 있어 워크로드 특성을 반영해 G

관제 요원들이 수십, 수백 개의 CCTV 화면을 몇 안 되는 인력이 뜬 눈으로 지켜보던 시대. 이들은 모두 중요한 순간을 놓치거나, 사건이 터진 후에야 영상을 돌려봐야 했던 경험을 기억하고 있을 것입니다. 이런 경험은 이제 과거의 기억이 될 전망입니다. AI 기술의 빠른 발전으로 우리의 눈과 두뇌를 대신하여 24시간 쉬지 않고 보안 위협을 감지하는 시대로 접어들고 있습니다. 총 6편의 포스팅 시리즈를 통해 AI 기반 지능형 관제 시대에 맞는 인프라 투자와 운영 전략의 방향성을 제시해 보고자 합니다. 1편: AI 기반 지능형 관제, 더 이상 선택이 아닌 이유 2편: ‘엣지’에서 할까 ‘서버’에서 할까? 최적의 시스템 설계 3편: AI 기반 지능형 관제의 심장을 고르는 법: AI 가속기 선택 가이드 4편: CPU, GPU, NPU, VPU 무엇이 다를까? 5편: 화질은 그대로, 용량은 1/10? VPU와 영상 트랜스코딩의 마법 6편: 최강의 지능형 관

지난 1편에서는 AI가 왜 CCTV 기반 관제 환경의 필수 요소가 되었는지 알아보았습니다. AI가 보안 담당자의 눈과 두뇌 그리고 입이 되어준다는 것에 이견을 달 이는 없을 것입니다. 그렇다면 이 똑똑한 AI는 어디에서 일하게 해야 가장 효율적일까요? CCTV 자체나 CCTV와 가장 가까운 엣지 환경에서 즉각적으로 판단하게 할 것인가? 아니면 강력한 중앙 서버로 모든 영상을 보내 분석하게 할 것인가? 이번 편에서는 AI 기반 지능형 관제 시스템을 구현할 때 고려할 수 있는 세 가지 아키텍처 사례를 알아보겠습니다. AI 기반 보안 감시 시스템을 설계할 때, 데이터 처리 위치에 따라 크게 엣지 컴퓨팅, 중앙 집중 처리, 그리고 이 둘을 결합한 하이브리드 방식으로 나눌 수 있습니다. 각 방식은 고유한 장단점이 있으므로 시스템의 목적, 환경, 예산 등을 종합적으로 고려하여 최적의 아키텍처를 선택해야 합니다. 엣지 프로세싱 엣지 프로세싱은 AI 분석 기능이

AI 기반 지능형 관제 시스템의 구축의 큰 그림을 그렸다면, 이제 그 심장이 될 핵심 요소인 'AI 가속기'를 선택할 차례입니다. 자동차를 살 때 연비, 최고 속도, 안정성 등을 꼼꼼히 따져보듯이 AI 가속기 역시 다양한 성능 지표를 비교해야 합니다. 단순히 '가장 빠른 것'이 아니라 '우리 시스템에 가장 적합한 것'을 찾는 지혜가 필요합니다. 이번 편에서는 지능형 관제 시스템의 AI 가속기를 선택할 때 확인해야 할 기준들을 알기 쉽게 풀어 보겠습니다. 주요 평가 기준 AI 기반 지능형 관제 시스템의 성능과 효율성은 AI 가속기 선택에 크게 좌우됩니다. 따라서 시스템 요구 사항과 운영 환경을 고려하여 최적의 가속기를 선정하는 것이 매우 중요합니다. AI 가속기를 선택할 때는 여러 기준을 종합적으로 고려해야 합니다. 우선 성능 지표를 살펴야 합니다. 이 때 AI 가속기의 순수 연산 능력인 TOPS(Tera Operations Per Second)도

지난 3편에서 AI 가속기를 고르는 기준을 알아봤으니, 이제 실전에 나설 시간입니다. 시장에는 저마다의 강점을 내세우는 다양한 AI 가속기들이 있습니다. 그래픽과 AI 연산의 강자 'GPU', 추론을 위해 태어난 'NPU', 그리고 영상 처리에 특화된 숨은 고수 'VPU'까지 선택의 폭이 넓습니다. 과연 이들 중 누가 AI 기반 지능형 보안 관제 분야의 왕좌를 차지하게 될까요? 이번 편에서는 각각의 특징과 장단점을 비교해 보겠습니다. GPU(Graphics Processing Units) GPU는 본래 그래픽 렌더링을 위해 설계되었지만, 수천 개의 코어를 활용한 대규모 병렬 처리 능력 덕분에 AI 모델 학습 및 고성능 추론 분야에서 널리 활용됩니다. 특히 중앙 서버 환경에서 복잡하고 큰 AI 모델을 처리하는 데 강력한 성능을 제공하며, NVIDIA CUDA가 상징하는 성숙한 소프트웨어 생태계도 큰 장점입니다. 그러나 GPU는 일반적으로 NPU 같은

수백 대의 4K 카메라가 24시간 영상을 쏟아낸다고 상상해 보십시오. 그 엄청난 데이터를 어떻게 저장하고 전송할 수 있을까요? 바로 이 문제를 해결하는 열쇠가 VPU와 영상의 품질은 최대한 유지하면서 용량은 획기적으로 줄이는 트랜스코딩 기술에 있습니다. 지난 편에서 AI 기반 지능형 관제 분야의 숨은 영웅으로 VPU를 소개했는데요, 이번 편에서는 VPU가 부리는 영상 처리의 마법, 트랜스코딩의 원리와 그 효과를 간략히 짚어 보겠습니다. 트랜스코딩의 역할: 호환성, 대역폭, 저장 공간 최적화 트랜스코딩이란 이미 인코딩된 비디오 스트림을 디코딩한 후, 다른 포맷, 해상도, 또는 비트 전송률로 다시 인코딩하는 과정입니다. 보안 감시 시스템에서 트랜스코딩이 필수적인 이유는 다음과 같습니다. 먼저 호환성을 확보입니다. 다양한 디스플레이 장치, NVR, VMS는 H.264, H.265 같은 각기 다른 비디오 코덱과 해상도를 지원합니다. 트랜스코딩은 원본 스트

지금까지 5회의 연재를 통해 AI 보안의 필요성부터 아키텍처, 핵심 하드웨어까지 긴 여정을 달려왔습니다. 이제 마지막 퍼즐 조각을 맞출 시간입니다. AI 추론에 특화된 'NPU'와 비디오 처리에 최적화된 'VPU'. 이 두 전문 가속기를 어떻게 조합해야 최고의 시너지를 내는 AI 기반 지능형 관제 시스템을 만들 수 있을까요? 이번 시리즈의 마지막 편에서는 NPU와 VPU를 통합한 최적의 서버 아키텍처를 살펴보고, 성공적인 AI 보안 시스템 도입을 위한 현실적인 전략까지 알아보도록 하겠습니다. AI용 NPU와 비디오용 VPU의 통합 최적화된 서버 아키텍처에서는 여러 IP 카메라에서 들어오는 비디오 스트림을 먼저 VPU가 처리합니다. VPU는 수신된 스트림들을 실시간으로 디코딩하고, 필요에 따라 AI 분석에 적합한 해상도로 조절하거나 특정 포맷으로 트랜스코딩하는 역할을 담당합니다. 이렇게 VPU가 전처리하고 정제한 비디오 프레임이나 스트림은 NPU로

생성형 AI의 등장은 단순한 기술적 발전을 넘어 산업 경제의 구조를 근본적으로 바꾸는 거대한 흐름이 되었습니다. 초기에는 거대 언어 모델(LLM)의 훈련에 관심이 쏠렸지만, 이제는 AI의 진정한 가치가 드러나는 추론 워크로드로 시선이 옮겨가고 있습니다. AI의 가치와 장기적인 전략 목표가 학습한 모델로 사용자의 요구에 응답하는 추론으로 바뀐 것입니다. 자연스럽게 AI 데이터센터 구축과 운영 관련 CAPEX, OPEX를 따질 때에도 추론 워크로드 처리를 매우 중요하게 바라보게 되었습니다. 왜 '추론'이 핵심이 되었나? 몇 년 전만해도 막대한 자원을 투입하는 '훈련'이 모두의 관심사였습니다. 그러나 AI 모델 생태계의 발전과 다양한 유즈 케이스가 등장하면서 기업들은 AI 투자의 무게중심이 훈련에서 추론으로 빠르게 옮겨가게 되었습니다. AI의 가치는 모델을 소유하는 것에서 나오는 것이 아닙니다. 모델을 '사용'하는 과정에서 창출됩니다. 이런 인식이 확산

AI 산업의 무게 중심이 모델 '훈련(Training)'에서 대규모 '추론(Inference)'으로 빠르게 옮겨가고 있습니다. 이제 기업은 훈련한 모델을 실제 프로덕션 환경에 배포해 가치를 만드는 '추론' 단계에 집중합니다. 추론은 AI 챗봇의 답변, 금융 사기 탐지, 의료 영상 분석처럼 AI 기술이 비즈니스 최전선에서 실질적인 역할을 하는 핵심 엔진입니다. AI 인프라 솔루션 선도 기업인 KAYTUS는 '추론 시대'의 복잡한 요구에 대응하기 위해 하드웨어부터 소프트웨어까지 아우르는 통합 전략을 제시합니다. 특히 독일 함부르크 'ISC High Performance 2025'에서 공개한 최신 MotusAI AI DevOps 플랫폼은 단순한 업데이트를 넘어, 대규모 AI 추론 환경의 근본적인 문제를 해결하는 포괄적인 해답을 제시합니다. KAYTUS의 전략과 그 핵심인 MotusAI 플랫폼의 가치를 분석하고, 이번 최신 업데이트가 AI...