국방 AIDC를 시설이 아니라 군사 작전 기반으로 봐야 하는 이유…대원씨티에스 주관 ‘국방 AIDC 전략 세미나’ 참관기

5월 13일(수) 오후 2시부터 6시까지 대원씨티에스 사옥인 TCC아트센터 지하 1층 대강당 세미나실에서 '국방 AIDC 전략 세미나'가 열렸습니다. 정부의 AX 전략에서 국방은 매우 중요한 위치에 있습니다. 미래 전장의 승패를 좌우할 AI 역량을 국방에 접목하려면 그 첫 단추인 AI 데이터센터(AIDC) 구축부터 풀어야 합니다. 이번 세미나는 그 구축에 필요한 모든 것을 한자리에서 살펴볼 수 있는 자리였습니다. 세미나를 관통한 화두는 분명했습니다. “GPU를 몇 개 확보하느냐가 아니라 어떤 방식으로 국방 AIDC를 구축해 운영할 것인가?”였습니다. 이번 세미나를 통해 확인한 국방 AIDC 전략에 대한 인사이트를 정리해 보았습니다.

국방 AIDC는 연산 자원의 집합이 아니다!

AIDC를 이야기할 때 가장 먼저 떠올리는 것은 GPU입니다. 더 많은 GPU를 확보해야 한다는 말이 자주 나옵니다. 그러나 이번 세미나에서 확인한 현실은 달랐습니다. AIDC의 본질은 장비의 규모가 아니라 구축과 운영 방식에 있었습니다. 특히 국방 분야에서는 더욱 그렇습니다.

국방 AIDC는 단순한 연산 자원의 집합이 아닙니다. 작전, 정보분석, 전장지원, 행정, 교육훈련, 전력지원체계가 AI를 활용하기 위해 공통으로 의존하는 기반입니다. 정부의 전략도 이 방향으로 움직이고 있습니다. 국방부는 이미 국방혁신 4.0을 통해 AI 과학기술강군 육성을 핵심 방향으로 제시한 바 있습니다. 이 계획은 AI 기반 유·무인 복합체계, 첨단전력 확보, 국방데이터 구축과 관리, 군 구조와 교육훈련 혁신을 함께 다룹니다. 국방혁신 4.0이 그리는 AI 강군은 데이터와 연산, 운용이 맞물려야 실현됩니다. 국방 AIDC는 바로 그 접점이자 전략을 실제로 움직이게 만드는 기반입니다.

이번 세미나에서 가장 인상 깊었던 점은 국방 AIDC를 단순 설비 관점에서 설명하지 않았다는 점입니다. 발표는 전력, 냉각, 모듈화, 구축, 운영을 하나의 관점에서 통합해 접근했습니다.

서버 세대 교체와 설비 수명의 불일치

AI는 기존 데이터센터와 다른 요구를 만듭니다. 기존 데이터센터는 상대적으로 긴 수명 주기를 전제로 설계됐습니다. 건물을 짓고, 전력 설비를 갖추고, 냉각 체계를 구성한 뒤 오랜 기간 운영하는 방식입니다.

그러나 AI 서버의 세대 교체 속도는 훨씬 빠릅니다. Kaytus 발표에서는 서버 교체 주기와 데이터센터 설비 수명 주기 사이에 구조적 불일치가 생긴다는 점을 짚었습니다. 데이터센터를 짓는 데 수년이 걸리는 동안 GPU와 서버 세대는 바뀝니다. 어렵게 완공한 시설이 최신 고밀도 장비를 충분히 받아들이지 못할 수도 있습니다. 이는 국방 분야에서 더 큰 문제입니다. 전력화와 획득 절차가 길어질수록 기술 도입 시점과 실제 운용 시점 사이의 격차가 커집니다.

PMDC가 각광받는 이유

Kaytus 세션은 이 수명 주기 불일치를 국방 AIDC 구축의 화두로 던지고 그 해법으로 최근 큰 관심을 모으는 PMDC(Portable Modular Data Center)를 소개했습니다. 발표자는 IT 장비, 전력, 냉각, 지원 설비를 하나의 단위로 묶어 사전 제작하고 현장에서 조립하는 방식을 설명했습니다. 하나의 컨테이너 안에 필요한 요소를 넣는 방식, 단층 수평 배치 방식, 건물 형태로 사전 제작해 현장에서 조립하는 방식이 함께 언급됐습니다.

중요한 점은 형태가 아닙니다. 모듈형 접근은 데이터센터를 완성된 건물이 아니라 확장 가능한 시스템으로 보게 만듭니다. 국방 분야에서도 이 접근은 의미가 있습니다. 특정 지역이나 임무 환경에서 먼저 실증하고, 검증된 구성을 단계적으로 확장할 수 있습니다. 중앙 인프라와 거점 인프라를 함께 설계하기에도 적합합니다.

이 세션에서는 참석자들의 질문이 쏟아졌습니다. 모듈형 데이터센터를 국내에 도입할 때 법적 한계가 무엇인지, 경제적 제약은 어떻게 풀 수 있는지, 변압기와 발전기처럼 납기가 긴 핵심 장비 문제를 어떻게 해결할 수 있는지에 대한 질문이 이어졌습니다. 이 질문들은 결국 AIDC 구축이 기술만의 문제가 아니라 제도와 조달의 문제임을 보여 줍니다. 빠른 구축을 말해도 전력 인프라 장비 공급망이 따라오지 못하면 전체 일정은 지연됩니다. 컨테이너형 구조물의 건축, 소방, 안전 기준도 검토해야 합니다. 국내 인증과 검증 절차도 필요합니다. 국방 분야는 여기에 보안성 검토와 적합성 평가가 더해집니다. AIDC 구축 전략은 기술 로드맵만으로 충분하지 않습니다. 제도, 조달, 인증, 보안, 운영 기준이 함께 움직여야 합니다.

https://www.youtube.com/watch?v=pgKJ3uBxlEY

전력과 냉각은 작전 지속성의 기반

전력과 냉각은 국방 AIDC 전략의 선행 조건입니다. AI 데이터센터에서 전력은 부수 설비가 아니라 작전 지속성을 결정하는 기반입니다. GPU를 확보해도 전력이 부족하면 운영할 수 없습니다. 전력이 있어도 냉각이 따라오지 못하면 고밀도 구성이 어렵습니다. 냉각 효율이 낮으면 운영비가 급격히 증가합니다.

발표에서는 AI 데이터센터 전용 랙이 기존 대비 훨씬 높은 전력을 요구하며 랙당 전력 밀도가 계속 증가한다는 점이 강조됐습니다. 이 문제는 국방 분야에서도 동일합니다. 다만 국방 AIDC는 여기에 회복탄력성까지 더해야 합니다. 전력 공급 중단, 장비 장애, 네트워크 단절, 사이버 공격 상황에서도 핵심 AI 서비스가 유지돼야 합니다.

냉각 방식의 변화도 피할 수 없습니다. 고밀도 GPU 서버는 기존 공냉식만으로 대응하기 어렵습니다. 수냉식, 액침 방식 같은 고효율 냉각이 논의되는 이유입니다. 냉각은 장비 온도를 낮추는 기술에 그치지 않습니다. 같은 공간에 더 많은 연산 자원을 배치하기 위한 밀도 전략이자 전력 효율을 높이기 위한 운영 전략입니다.

입지 전략, 중앙 집중과 권역 분산을 함께 설계

삼정KPMG 세션에서는 국방 AIDC를 지리적으로 분산해 확보하는 일의 중요성을 확인할 수 있었습니다. 미래의 전쟁은 드론이 정찰하고, 자폭 로봇이 방어선을 무력화하며, 보급 로봇이 탄약을 나르는 전쟁입니다. 최근 자주 언급되는 피지컬 AI가 전장에서 펼쳐지는 셈입니다. 이 피지컬 AI를 구현하고 실행하는 기반이 바로 국방 AIDC입니다.

그래서 입지가 전략이 됩니다. 전시에 국방 AIDC는 주요 공격 목표가 될 수 있습니다. 단일 거점에 집중하면 한 번의 타격으로 작전 전체가 마비될 위험이 있습니다. 지리적으로 떨어진 여러 위치에 분산해 구축하고 운영해야 하는 이유입니다. 다만 분산은 또 다른 과제를 낳습니다. 발표자는 지리적으로 흩어진 여러 AIDC가 밀리초 단위로 동기화돼야 한다고 강조했습니다. 결국 국방 AIDC는 중앙 집중과 권역 분산을 함께 설계해야 합니다. 중앙에는 대규모 학습과 공통 플랫폼을 두고 권역과 임무별 거점에는 실증과 추론, 현장 맞춤형 서비스를 배치하는 구조를 고려한 설계가 필요합니다.

보안과 거버넌스가 국방 AIDC의 핵심 전제 조건

한매에스티 세션에서는 보안과 거버넌스가 왜 국방 AIDC의 가장 중요한 전제 조건인지 확인할 수 있었습니다. AI 워크로드는 일반 시스템보다 관리 지점이 많습니다. 데이터 수집, 데이터 정제, 학습, 미세조정, 추론, 프롬프트, 응답, 로그, 모델 배포, 외부 도구 연동이 모두 통제 대상입니다. 누가 어떤 데이터를 사용했는지 확인해야 하고, 어떤 모델이 어떤 결과를 냈는지도 기록해야 합니다.

생성형 AI는 입력과 출력이 모두 위험 지점이 됩니다. 민감한 군사 정보가 입력될 수 있습니다. 모델 응답에 부정확한 정보가 포함될 수도 있습니다. 악성 파일이나 링크가 업무 흐름으로 들어올 수도 있습니다. 국방 AIDC는 AI 사용 흐름 전체를 감시하고 통제하는 구조가 필요합니다.

이 지점에서 제로 트러스트와 데이터 거버넌스는 선택 사항이 아닙니다. 국방 AIDC에는 내부 인력만 접근하지 않습니다. 외부 유지보수 업체, 개발 파트너, 연구기관, 장비 공급사, 클라우드 사업자가 다양한 방식으로 연결될 수 있습니다. 접근 권한은 조직 단위가 아니라 업무와 데이터 등급 단위로 관리해야 합니다. 모델 접근 권한도 마찬가지입니다. 모든 사용자가 모든 모델을 호출할 수 있어서는 안 되고, 모든 모델이 모든 데이터에 접근해서도 안 됩니다. 프롬프트와 응답 로그는 감사 가능해야 합니다. 폐쇄망과 연계망, 외부망 사이의 데이터 이동은 정책으로 통제해야 합니다. 그러나 신뢰는 통제만으로 완성되지 않습니다. 결과의 일관성과 기술적 자립까지 갖춰야 비로소 국방이 AI를 믿고 쓸 수 있습니다.

신뢰성과 자주성, 국방 AI가 갖춰야 할 두 조건

신뢰성과 자주성을 정면으로 다룬 것은 아크릴 세션이었습니다. 아크릴이 강조한 신뢰성의 핵심은 재현성이었습니다. 같은 입력에는 항상 같은 출력이 나와야 합니다. 군에서는 같은 결정 과정이 반복 가능해야 신뢰가 섭니다. 문제는 LLM이 본질적으로 재현성과 충돌한다는 점입니다. LLM은 확률적으로 다음 토큰을 예측하는 구조라, 같은 질문에도 늘 같은 답을 내놓지는 않습니다. 환각을 완전히 없앨 수 없다면 통제해야 합니다.

자주성은 벤더 종속에 대한 이야기였습니다. 국방 AIDC는 망분리 환경이기 때문에 외부 모델 다운로드도, 오픈소스 API 접속도, 웹 크롤링도 막힙니다. 폐쇄망 안에서 전체 개발 주기를 소화해야 합니다. 특정 벤더에 묶이면 이 자립이 불가능해집니다. 아크릴은 학습용 GPU와 추론용 NPU가 섞이는 이종 환경을 단일 자원 풀로 묶어 운영하는 오케스트레이션을 해법으로 제시했습니다.

자주성을 완성하는 풀스택 AI 전략

이번 행사에서는 AIDC의 속을 채우는 풀스택 AI 기술을 다룬 세션도 마련되었습니다. 대원씨티에스 세션에서는 GPU 뒤에 숨은 영역을 짚었습니다. AI 클러스터 투자에서 GPU 비중은 약 60%, 네트워크 패브릭이 20%, 스토리지가 10% 정도를 차지한다고 합니다. 네트워킹에서는 인피니밴드와 이더넷 기반 RoCEv2의 비교가 흥미로웠습니다. 인피니밴드는 사실상 표준이지만 최근 국제 정세로 글로벌 공급망에 변수가 많습니다. 반면 이더넷은 공급망 이슈가 없고 대원씨티에스가 고객과 테스트한 바에 따르면 512개 GPU 실측에서 RoCEv2는 인피니밴드와 대등하거나 우수한 결과가 나왔습니다. 이는 자주성을 요구하는 국방 AIDC에는 특히 의미가 큰 대목이라 할 수 있습니다.

하이퍼엑셀 세션도 같은 맥락에서 이야기가 이어졌습니다. HBM 대신 LPDDR을 쓰고 적은 전력으로 도는 칩은, 전력 부족이 GPU를 놀게 만드는 현실에서 그 자체로 해법이 됩니다. 자주성을 요구하는 국방 AIDC라면 국산 추론 반도체의 역할이 앞으로 매우 중요해질 것 같습니다.  

규모가 아니라 실행을 고민해야 할 때

이번 세미나는 국방 데이터를 안전하게 활용하고, 국방 업무에 맞는 AI 모델을 운용하며, 이를 실제 작전과 행정 현장에서 활용할 수 있도록 만드는 구조를 총체적으로 논의한 자리였습니다.

앞으로 국방 AIDC 논의는 규모 경쟁에서 벗어나야 합니다. 몇 개의 GPU를 확보했는가도 중요합니다. 그러나 더 중요한 질문이 있습니다. 이 질문에 대한 답이 곧 국방 AIDC 전략의 큰 틀이 될 것입니다.

• 어떤 임무를 먼저 AI화할 것인가?

• 어떤 데이터부터 정비할 것인가?

• 어떤 모델을 중앙에서 운영하고 어떤 모델을 전장에 배치할 것인가?

• 어떤 보안 정책으로 프롬프트와 응답을 통제할 것인가?

• 장애나 재해 그리고 공격을 받은 상황에서도 어떤 AI 서비스를 유지할 것인가?

정리하자면 국방 AIDC는 시설이 아닙니다. 국방 AI를 실제 작전과 행정 현장에서 안정적으로 실행하기 위한 기반입니다. 이번 세미나는 그 메시지를 기술·운영·보안·자주성 관점에서 구체적으로 확인한 자리였습니다.