지금까지 5 회의 연재를 통해 AI 보안의 필요성부터 아키텍처, 핵심 하드웨어까지 긴 여정을 달려왔습니다. 이제 마지막 퍼즐 조각을 맞출 시간입니다. AI 추론에 특화된 'NPU'와 비디오 처리에 최적화된 'VPU'. 이 두 전문 가속기를 어떻게...

수백 대의 4K 카메라가 24시간 영상을 쏟아낸다고 상상해 보십시오. 그 엄청난 데이터를 어떻게 저장하고 전송할 수 있을까요? 바로 이 문제를 해결하는 열쇠가 VPU와 영상의 품질은 최대한 유지하면서 용량은 획기적으로 줄이는 트랜스코딩 기술에...

지난 3편에서 AI 가속기를 고르는 기준을 알아봤으니, 이제 실전에 나설 시간입니다. 시장에는 저마다의 강점을 내세우는 다양한 AI 가속기들이 있습니다. 그래픽과 AI 연산의 강자 'GPU', 추론을 위해 태어난 'NPU', 그리고 영상 처리에...

AI 기반 지능형 관제 시스템의 구축의 큰 그림을 그렸다면, 이제 그 심장이 될 핵심 요소인 'AI 가속기'를 선택할 차례입니다. 자동차를 살 때 연비, 최고 속도, 안정성 등을 꼼꼼히 따져보듯이 AI 가속기 역시 다양한 성능 지표를 비교해야...

지난 1편에서는 AI가 왜 CCTV 기반 관제 환경의 필수 요소가 되었는지 알아보았습니다. AI가 보안 담당자의 눈과 두뇌 그리고 입이 되어준다는 것에 이견을 달 이는 없을 것입니다. 그렇다면 이 똑똑한 AI는 어디에서 일하게 해야 가장...

관제 요원들이 수십, 수백 개의 CCTV 화면을 몇 안 되는 인력이 뜬 눈으로 지켜보던 시대. 이들은 모두 중요한 순간을 놓치거나, 사건이 터진 후에야 영상을 돌려봐야 했던 경험을 기억하고 있을 것입니다. 이런 경험은 이제 과거의 기억이 될...

Part 2에서는 AI 워크로드의 까다로운 요구사항을 만족시키기 위한 온프레미스 인프라 최적화 방안 중 프로세서(GPU/CPU), 네트워크 I/O, 스토리지에 대해 자세히 살펴보았습니다. Part 3에서는 지난 회에 이어 핵심 기술 요소 최적화의...

Part 1에서는 AI 개발과 배포 및 운영 과정에 포함된 데이터 전처리, 모델 훈련, 추론 등의 다양한 워크로드 특성을 이해하고, 각기 다른 요구 사항을 인프라 설계에 반영하는 것이 왜 중요한지 살펴보았습니다. Part 2와 Part 3에서는...

AI 인프라 투자가 경쟁적으로 이루어지고 있습니다. 최신 GPU가 출시되면 ‘쟁탈전’이 일어난다고 표현할 만큼 기업 간 투자 경쟁이 치열합니다. 이런 소식에 가려져 있지만 중요한 트렌드 하나를 놓치면 안됩니다. 바로 ‘워크로드 최적화’입니다....

최근 AI가 국가 정책 아젠다의 중심에 놓이는 분위기입니다. 관련해 인프라 전략에 대한 다양한 이야기들이 오가고 있습니다. 메시지마다 내용에 차이를 보이지만 모든 전략의 공통 분모가 있습니다. 바로 그린 컴퓨팅입니다. 어떻게 하면 더 강력한 AI...

대원씨티에스는 KAYTUS의 공식 총판으로서, AI 및 HPC 시장에서 최고의 성능을 제공하는 KR1280V3 서버를 공급하고 있습니다. 이번 글에서는 SPEC CPU 2017 벤치마크 결과를 통해 KR1280V3가 AI 및 HPC...

VAST Data 플랫폼 진화의 끝은 어디일까요? 최근 VAST Data는 자사 플랫폼에 Kafka API 호환 실시간 이벤트 스트리밍 엔진인 VAST Event Broker를 통합한다고 밝혔습니다. 이게 뜻하는 바는? VAST Data 플랫폼을...

대원씨티에스의 파트너의 Nota AI가 최근 기쁜 소식을 전해왔습니다. 그 내용은 Nota AI가 두바이 AI 페스티벌의 하이라이트 프로그램 중 하나인 퓨처테크 월드컵(Future Tech World Cup)에서 예선 1위를 차지한 것입니다. 이...

AI가 기업의 디지털 전환의 완성이라고 생각하는 이들이 많습니다. 그러다 보니 많은 조직의 IT 투자 우선순위 목록에 AI가 상단에 이름을 올리고 있습니다. 실제 프로젝트를 추진하는 팀은 AI 프로젝트가 늘어 나는 것이 큰 부담으로 다가옵니다....

AI 분야는 요즘 자고 나면 새로운 개념과 용어가 나오는 느낌이 들 정도로 빠르게 기술과 시장 상황이 바뀌고 있습니다. 관련해 이번 포스팅에서는 온디바이스 LLM(On-Device LLM) 관련 동향을 짚어 볼 수 있는 이야기를 해볼까 합니다....

요즘 AI와 HPC 분야가 발전 속도는 어지러울 정도로 빠릅니다. 최근 많은 이들이 주목하는 것은 아마 NVIDIA Blackwell GPU일 것입니다. 관련해 이번 포스팅에서는 NVIDIA Blackwell에 대해 간단히 알아보고 2월 초...

이번 포스팅에서는 단순히 HPC 스토리지를 교체하는 것을 넘어 연구 데이터 관리 방식을 근본적으로 혁신하는데 성공한 뉴욕대학교(NYU)의 VAST Data 플랫폼 도입 프로젝트를 알아보겠습니다.   뉴욕대학교(NYU)는 학문적 다양성과 연구...

요즘 DeepSeek 때문에 그런지 중국의 AI 스타트업 관련 소식에 눈이 자연스럽게 갑니다. 이번 포스팅에서는 중국에 기반을 둔 하드웨어 스타트업인 Radxa 이야기를 좀 해볼까 합니다. 최근 Radxa 사이트에 흥미로운 벤치마크 테스트 결과를...

AI 시장이 급격히 변화함에 따라, 데이터센터 인프라 역시 확장성과 효율성을 동시에 갖춰야 하는 새로운 도전에 직면하고 있습니다. 특히 최근에는 멀티 모달 언어 모델(MMLM)과 거대 언어 모델(LLM), 소형 언어 모델(SLM) 분야가...

LLM 시대가 활짝 열리면서 기업의 AI 투자 전략에도 큰 변화가 일어나고 있습니다. 관련해 과거, 현재, 미래를 모두 아우를 수 있는 AI 인프라와 데이터 플랫폼의 중요성에 대한 관심도 높아지고 있습니다. 이번 포스팅에서는 전통적인 AI/ML...