Arista AI Etherlink와 EOS로 구현하는 통합 AI 패브릭 전략

AI 데이터센터는 전통적인 데이터센터와 확장 방식부터 다릅니다. GPU, NPU, TPU, xPU 같은 AI 가속기의 수를 늘리는 것만으로는 충분하지 않습니다. 랙 내부의 초저지연 연결에서 시작해 여러 랙으로 구성된 클러스터, 나아가 다른 지역의 AI 데이터센터까지 하나의 운영 관점에서 연결하는 네트워크 확장이 뒷받침되어야 합니다. 네트워크 업계에서는 이러한 확장을 각각 스케일 업(Scale-Up), 스케일 아웃(Scale-Out), 스케일 어크로스(Scale-Across)로 설명합니다.

그렇다면 Arista는 이러한 요구를 어떻게 지원할까요? Arista는 기존 리프-스파인 구조를 AI 워크로드에 맞춘 멀티 패브릭 구조로 확장하고 스케일 업·스케일 아웃·스케일 어크로스를 하나의 운영 체계에서 연계하는 개방형 이더넷 기반 AI 패브릭을 제시합니다. 이번 포스팅에서는 세 가지 확장 방식의 차이를 살펴보고 Arista AI Etherlink와 EOS가 어떻게 통합 AI 패브릭을 지원하는 지 살펴보겠습니다.

세 가지 확장 방식을 관통하는 핵심 - 네트워크 설계

스케일 업, 스케일 아웃, 스케일 어크로스는 적용 범위가 다르지만 모두 정교한 네트워크 엔지니어링을 전제로 합니다. 랙 내부의 AI 가속기를 하나의 연산 시스템처럼 연결하는 일, 여러 랙을 하나의 클러스터로 묶는 작업, 분산된 데이터센터의 AI 자원을 함께 활용하는 것은 모두 네트워크 환경에서 처리해야 할 과제입니다. 특히 스케일 어크로스에서는 스토리지, WAN, 광 전송 구간까지 연결 범위가 넓어집니다.

네트워크 엔지니어링이 중요한 이유는 AI 가속기 자원 활용률을 직접 좌우하기 때문입니다. 대규모 학습과 추론 환경에서는 패킷 정체, 혼잡, 마이크로버스트로 인한 마이크로초 단위 지연도 GPU 유휴 시간과 서비스 응답 지연으로 이어질 수 있습니다. 따라서 AI 네트워크에는 단순한 고대역폭을 넘어 예측 가능한 지연 시간, 효율적인 경로 활용, 장애 우회, 혼잡 제어, 세밀한 텔레메트리가 함께 필요합니다. 이러한 요구는 세 가지 확장 단계에서 서로 다른 형태로 나타납니다.

랙 내부 AI 가속기를 하나의 시스템처럼 연결하는 스케일 업

스케일 업은 하나의 서버 또는 랙 안에서 여러 AI 가속기를 논블로킹·저지연 인터커넥트로 연결하는 방식입니다. 대규모 AI 모델은 단일 AI 가속기만으로 처리하기 어렵기 때문에 모델과 데이터를 여러 가속기에 나누고, 각 장치가 계산한 중간 결과를 지속적으로 교환해야 합니다.

스케일 업 환경에서는 여러 AI 가속기가 하나의 연산 시스템처럼 동작합니다. 각 가속기는 텐서 병렬 처리와 집합 통신을 통해 데이터 갱신 내용을 빠르게 주고받습니다. 연산과 통신이 랙 내부에 집중되기 때문에 높은 연산 밀도를 확보할 수 있지만, 데이터 전달이 지연되면 전체 노드의 처리량도 함께 떨어집니다. 높은 대역폭뿐 아니라 짧고 일관된 지연 시간이 필요한 이유입니다. 그동안 스케일 업 영역은 특정 AI 가속기 업체의 전용 인터커넥트에 크게 의존해 왔습니다. Arista는 이 영역에서도 표준 이더넷 기반 접근을 확대할 수 있다고 봅니다.

여러 랙을 하나의 AI 클러스터로 확장하는 스케일 아웃

하나의 랙에 배치할 수 있는 AI 가속기 수에는 전력과 냉각, 공간의 한계가 있습니다. 더 많은 연산 자원이 필요해지면 여러 서버와 랙을 하나의 클러스터로 연결해야 합니다. 이때 적용하는 방식이 스케일 아웃입니다.

스케일 아웃은 AI 가속기만 연결하는 것을 뜻하지 않습니다. 여러 서버와 노드에 워크로드를 분산하고 스토리지와 범용 CPU, 외부 네트워크 연결도 함께 수용합니다. 트래픽은 랙과 랙 사이를 오가는 동서(East-West) 방향뿐 아니라 스토리지와 서비스 네트워크로 이동하는 남북(North-South) 방향으로도 흐릅니다.

스케일 아웃 환경은 대규모 데이터와 모델을 여러 노드에 나눠 처리하는 분산 훈련과 추론에 적합합니다. 수백 개에서 수만 개의 AI 가속기가 중간 연산 결과와 모델 파라미터를 교환하며 All-Reduce 같은 집합 통신도 스케일 아웃 패브릭에서 처리됩니다.

Arista는 스케일 아웃의 효율을 좌우하는 핵심 요소로 토폴로지 경제성을 강조합니다. 포트 수가 많은 고라딕스(high-radix) 스위치를 활용하면 더 적은 계층의 리프-스파인 구조에서 더 많은 AI 가속기를 연결할 수 있어 지연 시간과 비용, 운영 복잡성을 줄일 수 있습니다.

데이터센터 경계를 넘어 확장하는 스케일 어크로스

AI 데이터센터의 규모가 커지면서 하나의 사이트만으로 필요한 연산 자원을 확보하기 어려운 상황이 늘고 있습니다. 지역별 전력 수급, 부지, 냉각 환경은 AI 인프라 확장의 현실적인 제약입니다. 하나의 데이터센터에서 더 이상 연산 자원을 늘리기 어렵다면 여러 지역에 구축한 AI 클러스터와 AI 포드를 연결해야 합니다. 이러한 확장 방식을 스케일 어크로스라고 부릅니다.

스케일 어크로스는 물리적으로 떨어진 데이터센터의 AI 자원을 하나의 논리적 인프라처럼 활용하는 방식입니다. 지역에 분산된 자원을 연계하면 프런티어 모델 학습이나 대규모 추론 서비스에 필요한 연산 용량과 회복력을 확보할 수 있습니다.

Arista는 스케일 어크로스에 인터넷, 스토리지, WAN, 광 계층을 아우르는 복합적인 라우팅 구조가 필요하다고 설명합니다. 분산 AI 워크로드에서 발생하는 일시적 혼잡과 마이크로버스트를 흡수하려면 계층형 딥 버퍼 구조도 고려해야 합니다. 여기에 트래픽 엔지니어링, 암호화, 정교한 라우팅을 적용해야 멀티테넌트 환경에서도 AI 클러스터의 회복력과 보안성을 확보할 수 있습니다.

세 가지 패브릭을 따로 운영하면 생기는 문제

스케일 업은 짧은 거리에서 최대한 낮은 지연 시간을 요구합니다. 스케일 아웃은 대규모 클러스터 안에서 높은 대역폭과 안정적인 집합 통신 성능이 중요합니다. 스케일 어크로스는 데이터센터와 지역 경계를 넘어 트래픽을 제어해야 합니다. 요구 사항이 다른 만큼 각 영역을 별도 네트워크로 구축하기 쉽습니다. 문제는 AI 워크로드가 하나의 영역에만 머물지 않는다는 점입니다.

하나의 모델은 랙 내부 AI 가속기 사이에서 데이터를 교환하고 스케일 아웃 패브릭을 통해 다른 랙의 AI 가속기와 통신합니다. 훈련 데이터나 체크포인트를 다른 데이터센터에서 가져오거나 하나의 작업을 여러 사이트에 걸쳐 실행하기도 합니다. 세 영역을 서로 다른 장비와 운영 플랫폼으로 관리하면 경계를 지날 때마다 정책, 텔레메트리, 장애 분석 체계가 단절됩니다. 장애가 발생해도 원인이 랙 내부 인터커넥트에 있는지, 스케일 아웃 패브릭에 있는지, 데이터센터 간 구간에 있는지 파악하기 어렵습니다. Arista가 통합 AI 패브릭을 강조하는 이유가 여기에 있습니다.

통합 AI 패브릭이 갖춰야 할 조건

Arista가 말하는 통합 AI 패브릭은 서로 다른 워크로드의 트래픽 특성에 대응해야 합니다. 대규모 훈련에서는 많은 AI 가속기가 동시에 동작하며 장시간 대용량 데이터를 전송하는 동기식 엘리펀트 플로우가 발생합니다. 실시간 추론에서는 짧고 지연 시간에 민감한 요청이 다수 몰립니다. 성격이 다른 트래픽을 정적인 경로 분산 방식만으로 처리하면 특정 구간에 핫스팟과 지터가 생깁니다. 훈련에서는 작업 완료 시간인 JCT(Job Completion Time)가 늘어나고 추론에서는 첫 토큰 응답 시간인 TTFT(Time To First Token)가 길어질 수 있습니다.

통합 AI 패브릭은 토폴로지와 혼잡 상태를 인식하고 워크로드가 실행되는 동안 경로를 동적으로 조정해야 합니다. 적응 범위도 L3에만 머물러서는 안 됩니다. Arista는 L1·L2·L3 계층에 걸쳐 데이터, 제어, 관리 네트워크를 함께 최적화해야 한다고 설명합니다. 광 연결부터 패킷 경로와 운영 정책까지 하나의 관점에서 관리해야 한다는 의미입니다.

멀티 플레인 설계도 중요합니다. 독립된 여러 패브릭 플레인으로 트래픽을 분산하면 하나의 플레인에 장애가 생기더라도 다른 경로로 통신을 이어갑니다. 트래픽을 서로 격리해 예측 가능한 성능을 유지하고 전체 패브릭의 회복력과 확장성을 높입니다. 전체 구간의 가시성도 확보해야 합니다. 평균 대역폭만으로는 AI 워크로드의 병목을 찾기 어렵습니다. 특정 링크의 혼잡과 패킷 손실, 꼬리 지연이 JCT와 TTFT에 어떤 영향을 미쳤는지 확인할 수 있어야 합니다.

Arista는 MRC(Multipath Reliable Connection)를 하드웨어 가속 패킷 트리밍과 지능형 버퍼링으로 최적화해 혼잡 상황에서 재전송 부담과 꼬리 지연을 줄이고, 여러 경로를 안정적으로 활용하도록 지원합니다. EOS의 SRv6 uSID를 결합하면 출발지 기반의 세밀한 경로 제어도 가능합니다. 또한 멀티 플레인 오케스트레이션은 독립된 패브릭 플레인으로 트래픽을 나눠 예측 가능한 성능과 회복력을 함께 확보합니다.

Arista AI Etherlink와 EOS로 구축하는 통합 AI 패브릭

Arista는 기존 데이터센터의 경직된 3계층 네트워크를 대체했던 유니버설 리프-스파인(CLOS) 아키텍처를 AI 인프라로 확장하고 있습니다. 과거 데이터센터 트래픽이 서버 간 동서 방향을 중심으로 움직였다면 AI 데이터센터에서는 대규모 All-to-All과 All-Reduce 트래픽이 짧은 시간에 동기화된 형태로 발생합니다. SerDes가 112G에서 224G로, 향후 448G급 레인으로 발전하면서 패브릭이 감당해야 할 총대역폭도 빠르게 늘고 있습니다. 이러한 변화에 대응하는 Arista 전략의 중심에는 AI Etherlink 포트폴리오와 Arista EOS가 있습니다.

Etherlink는 스케일 업, 스케일 아웃, 스케일 어크로스를 개방형 이더넷으로 연결하고 하나의 운영 체계에서 관리하기 위한 AI 네트워킹 포트폴리오입니다. 스케일 업 영역에서는 Arista가 제시하는 200G SerDes 기반 ESUN(Ethernet Scale-Up Network)이 저지연·고대역폭 인터커넥트 구현을 목표로 합니다. 이는 전용 인터커넥트에 의존하던 랙 내부 연결을 표준 이더넷 기반으로 확장하려는 접근입니다.

스케일 아웃에서는 Etherlink 스위치와 리프-스파인 아키텍처가 대규모 AI 클러스터를 연결합니다. 정적인 라우팅을 넘어 토폴로지를 인식하는 CLB(Cluster Load Balancing)를 적용해 실제 연결 구조와 네트워크 상태에 따라 트래픽을 분산합니다.

스케일 어크로스에서는 7800 AI Spine이 여러 클러스터와 데이터센터를 잇는 중심축 역할을 담당합니다. 높은 라딕스의 스파인 계층과 SRv6 uSID를 활용해 메트로 메시 환경의 클러스터 간 트래픽을 처리하고, 서로 다른 지역의 데이터 플레인을 연계합니다.

AI Etherlink 플랫폼은 MRC를 하드웨어 가속 패킷 트리밍과 지능형 버퍼링으로 최적화해 꼬리 지연을 줄이는 방향을 제시합니다. 멀티 플레인 오케스트레이션은 트래픽을 독립된 패브릭 플레인으로 나눠 성능 예측 가능성과 장애 회복력을 높입니다.

세 가지 확장 영역에서 사용하는 하드웨어와 연결 방식은 서로 다를 수 있습니다. Arista EOS를 공통 운영 체계로 활용하면 정책, 자동화, 텔레메트리, 경로 제어, 장애 관리 방식을 일관되게 유지할 수 있습니다.

대원씨티에스의 역할

통합 AI 패브릭도 고객 환경과 워크로드에 맞게 설계하고 검증하지 않으면 기대한 성능을 내기 어렵습니다. 대원씨티에스는 대형 모델 훈련, 분산 추론, 데이터 이동, 멀티 사이트 운영 등 고객의 AI 워크로드 특성을 바탕으로 스케일 업, 스케일 아웃, 스케일 어크로스 요구를 분석합니다. 이를 토대로 Arista의 개방형 AI 패브릭과 AI 서버, 스토리지, 네트워크를 아우르는 풀스택 AI 인프라 역량을 결합해 현재 요구와 향후 확장을 함께 고려한 전략을 제안합니다.

AI 데이터센터 설계와 네트워크 확장 전략을 검토하고 계시다면 대원씨티에스에 문의해 주십시오.

참고 자료

• Arista Networks, 「The Many Facets of AI Fabrics」

• Arista Etherlink Smart Networking Portfolio Solution Brief