2편: ‘엣지’에서 할까 ‘서버’에서 할까? 최적의 시스템 설계

지난 1편에서는 AI가 왜 CCTV 기반 관제 환경의 필수 요소가 되었는지 알아보았습니다. AI가 보안 담당자의 눈과 두뇌 그리고 입이 되어준다는 것에 이견을 달 이는 없을 것입니다. 그렇다면 이 똑똑한 AI는 어디에서 일하게 해야 가장 효율적일까요? CCTV 자체나 CCTV와 가장 가까운 엣지 환경에서 즉각적으로 판단하게 할 것인가? 아니면 강력한 중앙 서버로 모든 영상을 보내 분석하게 할 것인가? 이번 편에서는 AI 기반 지능형 관제 시스템을 구현할 때 고려할 수 있는 세 가지 아키텍처 사례를 알아보겠습니다.

AI 기반 보안 감시 시스템을 설계할 때, 데이터 처리 위치에 따라 크게 엣지 컴퓨팅, 중앙 집중 처리, 그리고 이 둘을 결합한 하이브리드 방식으로 나눌 수 있습니다. 각 방식은 고유한 장단점이 있으므로 시스템의 목적, 환경, 예산 등을 종합적으로 고려하여 최적의 아키텍처를 선택해야 합니다.

엣지 프로세싱

엣지 프로세싱은 AI 분석 기능이 CCTV 카메라 자체 또는 카메라와 가까운 위치에 있는 워크스테이션이나 소형 엣지 서버에서 직접 수행되는 방식입니다. 이 방식의 가장 큰 장점은 실시간성입니다. 영상 데이터가 발생한 지점에서 즉시 분석이 이루어지므로 네트워크 전송 지연이 최소화되어, 침입 감지나 긴급 상황 알림처럼 즉각적인 반응이 필요한 시나리오에 매우 유리합니다. 또한, 분석 결과만 중앙 시스템으로 전송하므로 네트워크 대역폭 부담을 크게 줄일 수 있습니다. 원본 영상이 로컬에서 처리되어 데이터 프라이버시 보호에도 유리하며, 개별 엣지 장치가 독립적으로 작동하므로 특정 장치의 장애가 전체 시스템에 미치는 영향이 적은 것도 장점입니다.

엣지 장치는 일반적으로 작은 크기와 전력 소모의 제약 때문에 AI 연산이 제약이 있다는 것이 약점이 있습니다. 그러나 이것도 옛말입니다. 강력한 NPU가 속속 등장하면서 엣지 현장에 배치한 워크스테이션이나 엣지 장치 심지어 NPU를 내장한 CCTV로도 충분한 성능을 확보할 수 있습니다. 다만 운영과 유지보수가 중앙 서버 방식보다 상대적으로 번거로울 수 있습니다. 또한, 강력한 AI 연산이 필요한 분석 같은 요구 사항을 수용하는 것에 제약이 있을 수 있습니다. 이런 단점은 하이브리드 아키텍처를 통해 해결할 수 있는 데 이는 뒷부분에서 알아보겠습니다.

중앙 집중식 처리

중앙 집중식 처리는 여러 카메라에서 수집한 영상 스트림을 관제 센터에 구축한 고성능 서버 클러스터나 클라우드 환경으로 전송하여 AI 분석을 수행하는 방식입니다. 이 방식의 가장 큰 장점은 강력한 컴퓨팅 자원을 활용할 수 있다는 점입니다. 중앙 서버에는 고성능 NPU, VPU, GPU 등 다양한 가속기와 대용량 메모리를 탑재할 수 있어, 복잡하고 무거운 AI 모델을 실행하거나 다채널 영상에 대한 심층 분석이 가능합니다. 더불어 AI 기능을 지속해서 개선하고 새로운 모델을 배포하기 쉬우며, 여러 카메라에서 수집한 데이터를 통합 분석하여 광범위한 상황 인식이나 이벤트 간 상관관계 분석 등 고도화된 지능형 관제를 수행할 수 있습니다.

반면에 모든 영상 데이터를 중앙으로 전송해야 하므로 높은 네트워크 대역폭이 필요하며, 이로 인해 네트워크 구축 및 운영 비용이 증가할 수 있습니다. 영상 데이터의 압축, 전송, 분석 대기 시간 때문에 실시간성 보장이 엣지 방식보다 어려울 수 있습니다. 이는 즉각적인 대응이 중요한 애플리케이션에서는 단점이 될 수 있습니다. 또한, 장애가 발생하면 전체 감시 시스템이 마비될 수 있는 단일 장애점(Single Point of Failure)의 위험도 존재합니다.

하이브리드 방식

하이브리드 방식은 엣지 컴퓨팅과 중앙 집중 처리의 장점을 결합하여 단점을 상호 보완하는 가장 현실적이고 효율적인 접근 방식이라 할 수 있습니다. 이 방식에서 엣지 장치는 사람/차량 감지, 침입 감지 등 비교적 가벼운 1차 분석을 수행하여 불필요한 데이터를 걸러내고, 의미 있는 이벤트나 메타데이터만 선별하여 중앙 관제 시스템으로 전송합니다. 중앙 관제 시스템은 이렇게 선별된 데이터를 받아 정밀 분석, 이벤트 연관 분석, 장기 패턴 분석, 포렌식 데이터 저장 및 관리 등 고도의 분석 작업을 수행합니다.

이러한 구성은 엣지에서의 신속한 초기 대응과 네트워크 부하 감소라는 이점을 유지하면서, 중앙에서는 강력한 컴퓨팅 자원을 활용한 심층 분석을 가능하게 합니다. 예를 들어 엣지에서 단순 침입이 감지되면 즉시 경보를 울리는 동시에, 관련 영상 클립과 메타 데이터를 중앙으로 전송하여 용의자 식별이나 이동 경로 추적 같은 추가 분석을 진행할 수 있습니다. 엣지 장치의 AI 성능은 제한적일 수 있지만, 중앙 관제 시스템은 유연하게 확장하며 고도 분석을 수행할 수 있습니다.

DEEPX의 DX-M1, DX-H1 및 DX-V3 같은 저전력 고성능 NPU의 발전은 엣지 단에서의 AI 처리 능력을 크게 높여 더욱 정교한 하이브리드 아키텍처 구현을 가능하게 하고 있습니다. 결과적으로 하이브리드 모델은 실시간성, 네트워크 효율성, 분석 깊이, 시스템 확장성, 관리 용이성 등 다양한 요구 사항을 균형 있게 충족시키는 최적의 솔루션으로 자리매김하고 있습니다.

살펴본 바와 같이 각 아키텍처는 저마다의 장단점을 가지고 있습니다. 결국 선택의 현재 환경과 요구 사항을 고려해 해야 할 것입니다. 최적의 시스템 구조를 선택했다면, 그 안에서 실질적인 '연산'을 담당할 두뇌, 즉 'AI 가속기'를 골라야 합니다. 어떤 기준으로, 무엇을 보고 선택해야 할까요? 다음 3편에서는 알아보겠습니다.

#NPU #엣지 #DEEPX #DXM1 #DXH1 #DXV3 #대원씨티에스