엔비디아 베라 루빈, 엠엘퍼프서 성능 입증

주장엔비디아는 인공지능 추론 경제성을 좌우하는 지표로 시스템 성능, 인프라 확장성, 소프트웨어 최적화를 제시합니다. 이 세 가지 요소가 결합해야 기업은 인프라 투자 대비 최대 가치를 얻습니다.

팩트엠엘퍼프 추론 6.1 결과에 따르면, 엔비디아의 베라 루빈 NVL72는 쥐비삼백 NVL72 대비 최대 3.7배 높은 처리량을 기록했습니다. 해당 측정은 큐웬삼브이엘 모델을 기준으로 진행했습니다.

팩트딥시크알원 모델 테스트에서는 베라 루빈 NVL72가 쥐비삼백 NVL72보다 최대 2.5배 높은 처리량을 보였습니다. 해당 테스트에는 텐서알티엘엘엠 라이브러리가 쓰였습니다.

팩트엔비디아는 인공지능 에이전트 성능 측정 벤치마크인 세미분석 에이전트엑스 테스트에서 베라 루빈 NVL72가 쥐비삼백 NVL72 대비 30배 높은 성능을 기록했다고 발표했습니다. 복잡한 다단계 추론 작업에서 차세대 아키텍처가 우위를 증명했습니다.

팩트쥐비삼백 NVL72 시스템은 288개의 그래픽 처리 장치를 연결한 4개 랙 구성에서 99퍼센트의 확장 효율성을 달성했습니다. 하드웨어 추가에 비례하여 처리량이 선형적으로 늘어났습니다.

교차검증단순히 그래픽 처리 장치 개수를 늘린다고 처리량이 비례해서 늘어나지는 않습니다. 아키텍처, 상호 연결 기술, 소프트웨어가 조화를 이루지 못하면 인프라 비용 대비 성능 효율이 급격히 떨어질 위험이 존재합니다.

팩트베라 루빈 시스템은 6세대 엔브이링크 및 엔브이링크 스위치를 탑재해 기존 이더넷 대비 10배 높은 패킷 속도와 3배 낮은 지연 시간을 제공합니다. 해당 상호 연결 기술이 랙 단위의 대규모 확장성을 뒷받침합니다.

팩트엔비디아의 소프트웨어 최적화 노력은 엠엘퍼프 6.0 대비 6.1에서 최대 1.6배의 성능 향상을 이끌어냈습니다. 하드웨어 출시 이후에도 지속적인 소프트웨어 업데이트로 성능 개선이 이어집니다.

주장인프라를 구축하는 기업에게는 하드웨어 사양뿐만 아니라 추론 단계의 전력 효율과 소프트웨어 생태계 속도가 장기적인 운영 비용을 결정하는 지표가 됩니다.

출처엔비디아 공식 블로그(https://blogs.nvidia.com/blog/vera-rubin-nvl72-mlperf-inference/) 및 엠엘커먼스(https://www.mlcommons.org)의 데이터를 교차 검증했습니다.