엔비디아 베라 루빈 플랫폼의 전력 효율과 AI 인프라 혁신

주장엔비디아의 베라 루빈 플랫폼은 칩부터 그리드까지 통합 설계된 시스템으로, 전력 대비 최고 성능과 최저 토큰 비용 구현을 목표로 합니다. 이는 전력 제약이 심한 현대 인공지능(AI) 데이터센터에서 효율성을 극대화하기 위한 전략입니다.

팩트코어위브가 진행한 딥시크-R1 벤치마크 결과에 따르면, 베라 루빈 NVL72는 그레이스 블랙웰 NVL72 대비 메가와트당 처리량이 10배 높습니다. 동일한 전력 예산 내에서 더 많은 지능을 생성하거나, 동일한 작업을 훨씬 적은 전력으로 수행할 수 있습니다.

팩트베라 루빈 시스템은 베라 중앙처리장치(CPU), 그록 3 LPX, 스펙트럼-6 SPX 등 7개의 칩과 5개의 랙 트레이를 하나의 시스템으로 통합 설계했습니다. 이러한 공동 설계를 통해 기존의 기성품 조립 방식보다 높은 효율성을 확보했습니다.

팩트베라 CPU는 에이전트 시대를 위해 설계되었으며, 기존 칩렛 설계 대비 단일 스레드 성능은 2배, 코어 간 대역폭은 3배 향상되었습니다. 또한 메모리 지연 시간을 40% 낮추어 에이전트 작업 부하에 최적화된 성능을 제공합니다.

교차검증에이전트 시스템은 기존 AI 애플리케이션보다 최대 15배 많은 토큰을 소비합니다. 따라서 인프라의 효율성은 단순한 성능 경쟁을 넘어 기업의 수익성과 직결되는 전략적 우선순위가 됩니다.

팩트네트워킹 측면에서 6세대 엔비링크는 기존 이더넷 대비 2배 이상의 처리량과 3배 낮은 지연 시간을 제공합니다. 스펙트럼-X 이더넷은 102.4T 스펙트럼-6 스위치와 1.6T 커넥트X-9 슈퍼NIC를 결합하여 원격 직접 메모리 접근(RDMA) 대역폭을 1.6배 높였습니다.

팩트베라 루빈 NVL72는 랙 트레이 내부의 케이블, 팬, 호스를 제거하여 조립 시간을 수 시간에서 1분으로 단축했습니다. 또한 섭씨 45도의 액체 냉각 입구 온도를 설계하여 냉각기 없는 건식 냉각 운영이 가능하며, 이를 통해 매년 수백만 갤런의 물을 절약합니다.

주장베라 루빈은 유럽의 AI 주권 확보를 위한 핵심 기반이 됩니다. 마이크로소프트와 미스트랄의 파트너십을 통해 유럽 정부와 규제 산업은 자체적인 데이터 통제권과 거버넌스를 유지하면서 최첨단 AI를 도입할 수 있습니다.

팩트베라 루빈 NVL72는 기존 블랙웰 대비 메가와트당 토큰 처리량이 최대 10배 높으며, 백만 토큰당 비용은 10분의 1 수준입니다. 이는 유럽 내 기업들이 혁신과 경제성, 데이터 통제권 사이에서 타협하지 않고 AI를 도입할 수 있는 환경을 제공합니다.

주장시스템의 통합 설계는 하드웨어의 물리적 한계를 극복하고 에너지 소비를 최적화합니다. 이는 지속 가능한 AI 성장을 위한 필수적인 기술적 진보입니다.

교차검증다만, 이러한 고성능 시스템 도입을 위해서는 기존 데이터센터 인프라의 전면적인 교체와 대규모 초기 투자 비용이 수반될 수 있습니다.

출처엔비디아 공식 블로그(https://blogs.nvidia.com/blog/vera-rubin/)를 통해 해당 내용을 교차 검증했습니다.