네트워크가 랙의 백플레인이 되는 시대 - Arista가 공개한 개방형 랙스케일 AI 패브릭 아키텍처

Chang Sun Park

10월 14일

5분 분량

AI 인프라는 단순한 서버의 집합체가 아닙니다. 여러 서버에 장착된 XPU들이 유기적으로 연결되어 있는 하나의 시스템이라 할 수 있습니다. 이런 특성으로 AI 인프라를 주제로 하는 글로벌 행사에 가보면 XPU의 연산 능력뿐 아니라 가속기들을 얼마나 효율적으로 연결하느냐에 대한 이야기가 빠지지 않습니다. 올 하반기만 해도 Hot Chips 2026, AI Infra Summit 2026, OCP Global Summit 2026 같은 주요 행사에서 네트워크 기술은 모두의 관심사였습니다.

관련해 이번 포스팅에서는 2026년 10월 7일 Arista가 발표한 개방형 이더넷 기반의 랙스케일 AI 패브릭 포트폴리오를 중심으로 Arista의 스케일 업·스케일 아웃 아키텍처를 통해 AI 네트워크의 역할과 인프라 설계 방향이 어떻게 달라지고 있는지 살펴보겠습니다. 참고로 이번에 공개한 포트폴리오는 2026년 10월 12일부터 15일까지 3일 간 일정으로 열리는 OCP Global Summit 2026의 Arista 부스에서 만나볼 수 있습니다.

랙스케일 시대 네트워크 역할의 변화

AI 인프라 분야에서 랙스케일이라는 말이 점점 익숙해지고 있습니다. NVIDIA를 비롯한 글로벌 서버 제조사들이 랙스케일 아키텍처를 제품 전략의 중심에 두고 있기 때문입니다. 네트워크 분야에서도 이러한 변화가 나타나고 있습니다. Arista는 개방형 이더넷 기반 랙스케일 아키텍처를 위한 기술 개발과 제품 출시를 추진하고 있으며, 이번 AI 패브릭 포트폴리오 발표를 통해 그 방향을 구체화했습니다.

이번 발표에서 주목할 점은 네트워크의 역할에 대한 설명입니다. Arista의 클라우드·AI 네트워킹 부문 수석 부사장인 Tyson Lamoreaux는 네트워크를 연산 성능을 극대화하는 데 필수적인 ‘랙스케일 백플레인’으로 표현했습니다. 백플레인은 시스템 안의 여러 구성 요소를 연결하는 기반입니다. 이 역할이 랙 전체로 확장되면서 네트워크도 가속기들이 함께 연산하는 컴퓨팅 시스템의 일부가 되고 있다는 뜻입니다.

이를 구현하기 위해 Arista는 스케일 업과 스케일 아웃을 모두 개방형 이더넷 기반으로 확장하는 방향을 제시합니다. 스케일 업은 여러 가속기를 긴밀하게 연결해 하나의 연산 영역으로 활용하는 방식이고, 스케일 아웃은 여러 서버와 랙을 더 큰 AI 클러스터로 확장하는 방식입니다. 랙스케일 환경에서는 스케일 업 영역도 여러 랙에 걸쳐 구성할 수 있습니다.

연결 범위가 넓어지면 "앞으로 추가할 가속기와 서버도 같은 구조 안에서 유연하게 연결할 수 있을까?"라는 궁금증이 생깁니다. 이는 당연한 것입니다. AI 인프라는 가속기 세대가 바뀌고 학습과 추론의 비중이 달라지면서 계속 진화합니다. 연결 구조가 특정 가속기와 전용 인터커넥트에 종속되어 있다면 이러한 변화에 대응할 선택지가 줄어들 수 있습니다. Arista가 스케일 업 영역에서도 개방형 이더넷 생태계를 강조하는 이유입니다.

개방형 스케일 업을 위한 ESUN

AI 기술 발전과 유행이 달라져도 지속 가능한 스케일 업을 보장하기 위한 노력은 업계 차원에서 이루어지고 있습니다. 바로 ESUN(Ethernet for Scale-Up Networks)인데요. Arista는 OCP(Open Compute Project) 안에서 Broadcom, Meta, Microsoft 등과 함께 창립 멤버로 참여했습니다. ESUN은 가속기들이 긴밀하게 통신하는 AI 패브릭에 필요한 개방형 이더넷 스위칭과 프레임 구조, 무손실 전달, 오류 복원력과 확장성을 다룹니다.

그렇다면 개방성을 확보하면서 랙스케일 스케일 업의 성능 요구를 충족하려면 어떤 기술 조건이 필요할까요? 우선 많은 가속기를 적은 홉으로 연결하는 구조가 필요합니다. 포트 수가 많은 High Radix 스위치를 활용하고 통신이 거치는 스위칭 단계를 줄여야 연결 규모가 커져도 지연을 낮게 유지할 수 있습니다.

혼잡 상황에서도 안정적으로 데이터를 전달하는 능력도 중요합니다. 텐서 병렬 처리처럼 여러 가속기가 중간 결과를 교환하는 작업에서는 일부 통신이 유난히 늦어지는 지연(Tail Latency)이 전체 작업에 영향을 줍니다. 혼잡 제어와 무손실 전송, 순서 보장 전달이 중요한 이유입니다.

물리적 연결의 신뢰성도 뒷받침되어야 합니다. 레인당 200G급 전송을 구현하는 224G급 이상 고속 신호 환경에서는 신호 무결성(SI)과 전력 무결성(PI), 냉각 설계를 함께 검토해야 합니다. 여기에 물리 계층을 검증하는 진단·텔레메트리와 안정적이고 안전한 네트워크 운영체제(NOS)가 필요합니다.

이러한 요구를 충족하려면 네트워크 기술과 랙의 물리적 구조를 함께 설계해야 합니다. 많은 가속기를 짧은 경로로 연결하면서도 고속 신호의 품질을 유지하고, 전력과 냉각을 안정적으로 공급할 수 있어야 하기 때문입니다. Arista가 발표한 Etherlink SU-144와 세 가지 랙 설계는 이러한 요구를 실제 시스템 구성으로 구체화한 것입니다.

144개에서 1,024개 가속기로 확장하는 Etherlink SU-144

Arista가 발표한 Etherlink SU-144는 최대 144개의 AI 가속기(XPU)를 단일 홉 네트워크 안에서 하나의 스케일 업 영역으로 연결하는 아키텍처입니다. 크로스 랙 구성에서는 여러 랙을 연결해 최대 1,024개의 가속기로 확장하는 방향을 제시합니다. 이를 구현하는 물리적 설계는 세 가지입니다. 데이터센터마다 공간과 전력, 냉각 조건이 다르고 가속기 아키텍처도 다른 만큼, 환경에 맞는 구조를 선택할 수 있도록 했습니다.

직교형 섀시(Orthogonal Chassis): 가속기 블레이드와 스위치 블레이드를 직교 구조로 직접 연결합니다. 단일 랙·단일 홉 구성을 통해 최대 144개 가속기를 수용하고, 100~400kW급 직접 액체 냉각(DLC)을 지원하는 설계를 제시합니다. 높은 대역폭과 집적도가 필요한 AI 학습·추론 환경을 겨냥한 구조입니다.
케이블 백플레인(Cabled Backplane): 고밀도 케이블 백플레인과 모듈형 랙 구조를 결합합니다. 고속 신호의 품질과 성능을 확보하면서 장비에 접근하고 정비하기 쉬운 구조를 지향합니다. 구축 이후의 유지보수까지 고려한 선택지입니다.
크로스 랙(Cross-Rack): 여러 랙에 걸쳐 컴퓨팅과 네트워크를 확장하는 모듈형 구조입니다. 더 큰 스케일 업 영역을 구성하고, 차세대 가속기와 시스템을 수용할 수 있도록 확장 유연성을 확보하는 데 초점을 맞춥니다.

세 가지 설계는 ESUN이 지향하는 개방성을 다양한 구축 환경에 적용하는 선택지입니다. 운영자는 가속기와 스위칭 칩, 광 연결 기술, 네트워크 소프트웨어뿐 아니라 물리적 랙 구조도 함께 검토할 수 있습니다. 실제 구축에서는 각 구성 요소의 지원 범위와 상호운용성을 검증해, 선택의 유연성이 시스템의 성능과 신뢰성으로 이어지도록 해야 합니다.

https://youtu.be/YJEfA7FUIX8?si=JzqbWqKYc1ZXYE0C

스케일 아웃도 랙 단위로 통합

앞서 살펴본 스케일 업 아키텍처가 여러 가속기를 하나의 연산 영역으로 묶는다면 스케일 아웃 패브릭은 이러한 영역들을 더 큰 AI 클러스터로 연결합니다. Arista는 스케일 아웃에서도 네트워크 기술과 물리적 랙 구조를 함께 설계하는 접근을 이어갑니다. 스위치와 광 연결, 전력과 냉각을 통합한 랙스케일 구성입니다.

중심에는 스위치당 102.4Tbps의 용량을 제공하는 7060XE7 시리즈가 있습니다. 800G에서 포트당 1.6T로 전환하는 고밀도 네트워크를 지원하는 플랫폼입니다. 랙에는 여러 수냉식 스위치와 광 패치 패널, 액체 냉각 분배 장치, 랙 관리 컨트롤러를 함께 배치합니다. 누수 감지 기능을 갖춘 드립 트레이와 백업 배터리 유닛(BBU)을 포함한 전력 공급 장치도 통합합니다.

이처럼 랙 전체를 함께 구성하는 이유는 높은 스위칭 용량을 지속적으로 활용할 수 있는 가동 조건을 확보하기 위해서입니다. 연결 용량이 커지고 장비가 밀집할수록 전력 공급과 열 관리, 누수 감지까지 네트워크 설계의 범위에 포함해야 합니다.

안정적인 가동 기반 위에서는 트래픽을 효율적으로 전달하는 기술이 필요합니다. Arista는 패브릭에 UEC(Ultra Ethernet Consortium) 표준과 MRC(Multipath Reliable Connection), 멀티 플레인 라우팅, DLB(Dynamic Load Balancing), CLB(Cluster Load Balancing)를 반영합니다. 여러 경로를 활용하고 트래픽을 분산해 혼잡과 장애의 영향을 줄이는 방향입니다.

물리적 통합과 통신 최적화가 지향하는 결과는 같습니다. 가속기가 데이터를 기다리는 시간을 줄이고, 작업 완료 시간(JCT)을 단축하며, 토큰 생성 효율을 높이는 것입니다. 이러한 효과를 실제 운영에서도 유지하려면 랙 안의 구성 요소가 어떤 상태로 동작하는지 지속적으로 확인할 수 있어야 합니다.

고밀도 운영의 기반이 되는 Netdi

랙 안에 컴퓨팅과 네트워크, 전력과 냉각을 통합할수록 진단 범위도 넓어져야 합니다. 많은 가속기와 고속 링크가 긴밀하게 연결된 환경에서는 작은 물리적 이상도 작업 성능과 가동률에 영향을 줄 수 있기 때문입니다.

Arista는 이를 위해 Netdi(Network Diagnostics Infrastructure)를 스위치와 랙 수준의 공통 진단·텔레메트리 기반으로 제시합니다. Netdi는 하드웨어 검증과 신호 무결성 분석, 보안 부팅 검증을 지원하고, 일시적으로 비트 상태가 바뀌는 단일 이벤트 업셋(SEU)에 대한 복원력도 제공합니다. 진단 범위는 스위치에서 광 모듈과 전력 공급 장치, 액체 냉각 인프라까지 이어집니다.

특히 Netdi는 특정 네트워크 운영체제에 종속되지 않는 구조입니다. Arista EOS를 사용하거나 SONiC 같은 개방형 NOS를 선택하더라도 하드웨어 상태를 파악하기 위한 공통 기반을 활용할 수 있도록 합니다. 구성 요소의 선택권과 운영의 일관성을 함께 확보하려는 접근입니다.

운영자는 이러한 정보를 바탕으로 성능 저하의 원인을 좁혀갈 수 있습니다. 네트워크 혼잡인지, 광 연결의 신호 문제인지, 전력과 냉각 이상인지 구분하는 능력은 가속기 활용률을 유지하는 데 중요합니다. 이처럼 랙스케일 인프라의 확장에는 성능을 유지할 운영 기반이 필요합니다. 동시에 늘어나는 연결 용량을 제한된 공간에 수용할 방법도 마련해야 합니다.

차세대 광 연결로 높이는 랙당 대역폭 밀도

연결 규모를 늘릴 때마다 스위치와 배선 공간도 함께 늘어난다면 데이터센터 확장 부담이 커집니다. 따라서 같은 랙 안에 얼마나 많은 대역폭을 수용할 수 있는지가 중요한 설계 기준이 됩니다.

Arista는 XPO와 개방형 CPO(Co-Packaged Optics), NPO(Near-Packaged Optics) 같은 차세대 광 연결 기술을 활용해 랙당 대역폭 밀도를 높이는 방향을 제시했습니다.

발표 자료에 따르면 현재 OSFP 기반 스위치 구성의 랙당 대역폭은 1.6Pbps이며, 차세대 광 연결을 적용한 구성에서는 6.5Pbps까지 높아집니다. 약 네 배의 연결 용량을 랙 단위에 집적하는 것입니다. Arista는 이러한 고밀도화로 전체 데이터센터 설치 공간을 약 50% 줄일 수 있다고 설명합니다. 실제 절감 수준은 컴퓨팅과 네트워크 구성, 전력과 냉각 조건에 따라 달라질 수 있습니다.

광 연결 기술의 변화는 데이터 전송 속도에만 영향을 주지 않습니다. 필요한 랙 수와 배선 공간, 전력과 냉각 설계에도 영향을 줍니다. 스케일 업과 스케일 아웃, 진단 인프라와 광 연결을 하나의 시스템 관점에서 검토해야 하는 이유가 여기에 있습니다.

대원씨티에스와 함께 준비하는 풀스택 AI 인프라

랙스케일 AI 인프라는 워크로드 분석부터 연결 구조와 확장 계획, 운영과 시설 조건까지 이어지는 설계가 필요합니다. 서버와 스위치, 스토리지의 성능을 전체 시스템 안에서 어떻게 활용할 것인지가 중요합니다. 대원씨티에스는 Arista를 비롯한 AI 인프라 파트너와 함께 서버와 가속기, 네트워크와 스토리지를 아우르는 풀스택 관점에서 고객 환경에 맞는 인프라 전략을 제안합니다. 현재의 AI 워크로드와 향후 확장 계획을 바탕으로 스케일 업과 스케일 아웃 요구를 검토하고, 전력·냉각 조건과 운영 요구를 고려해 전체 시스템의 설계와 구축 방향을 함께 구체화합니다.

AI 데이터센터의 랙스케일 설계와 네트워크 확장 전략을 검토하고 계시다면 대원씨티에스로 문의해 주십시오.

참고 자료