엔비디아 베라 루빈의 전력 효율적 추론 기술
엔비디아 베라 루빈 플랫폼은 제한된 전력 환경에서 인공지능 연산 효율을 높이는 기술을 공개했습니다. 전력 대비 성능을 극대화하는 소프트웨어와 하드웨어 설계가 핵심입니다. 기사는 새로운 아키텍처가 전력 소모를 줄이는 구체적 원리를 다룹니다.
주장엔비디아 베라 루빈(NVIDIA Vera Rubin) 플랫폼은 인공지능 공장의 핵심 가치를 전력 대비 성능으로 규정합니다. 제한된 전력 예산 안에서 연산 출력을 극대화하는 일이 인프라 구축의 핵심 과제입니다.
팩트베라 루빈 엔브이엘 72(Vera Rubin NVL72)는 대규모 배치 처리와 고도의 상호작용이 필요한 소규모 배치를 지원합니다. 이 플랫폼은 이전 세대인 지비 200 엔브이엘 72(GB200 NVL72) 대비 2조 개 이상의 매개변수 모델에서 메가와트당 최대 35배 높은 처리량을 기록했습니다.
팩트엔비디아 디에스엑스 맥스엘피에스(NVIDIA DSX MaxLPS) 소프트웨어는 랙 간 전력을 유연하게 분배해 유휴 자원을 회복합니다. 이 소프트웨어는 동일한 전력 범위 안에서 그래픽 처리 장치(GPU)를 최대 40% 더 배치하고 토큰 처리량을 35% 향상합니다.
팩트베라 루빈 엔브이엘 72 내부의 랙 레벨 커패시터와 지능형 전력 평활화 기술은 급격한 전력 급증을 흡수합니다. 시스템은 최악의 상황을 가정하지 않고 지속적인 수요에 맞춰 전력을 계획적으로 운용합니다.
주장엔비디아 그록 3 엘피엑스(NVIDIA Groq 3 LPX)의 결정론적 실행 모델은 전력 효율을 높이는 핵심 기술입니다. 이 모델은 256개의 엘피유(LPU) 칩 전체에서 데이터 이동과 연산 시점을 클록 사이클 단위로 제어합니다.
팩트그록 3 엘피엑스는 선제적 전력 관리(PEP)와 클록 주기 합성(CPS) 기술을 사용합니다. 이 기술은 전압 강하를 60% 이상 줄이고 전압 가드밴드를 낮춰 동일 작업 대비 전력을 두 자릿수 퍼센트만큼 절감합니다.
교차검증인공지능 칩은 연산 중 급격한 전류 변화로 인해 전압 강하 현상을 겪습니다. 전압 강하가 최소 동작 전압 이하로 떨어지면 오류가 발생하므로, 기존에는 이를 방지하려고 불필요하게 높은 전압 가드밴드를 유지해야 했습니다.
팩트그록 3 엘피엑스 컴파일러는 작업 시작 전 연산과 데이터 이동 일정을 생성하여 전류 소모를 예측합니다. 전력 전달 시스템은 이 예측 가능성을 바탕으로 수요 변화에 미리 대응합니다.
주장전력은 인공지능 공장의 가장 큰 제약 조건이며, 전력 효율은 단순한 처리량보다 중요한 지표입니다. 전력은 전압의 제곱에 비례하므로 전압 가드밴드를 줄이는 작업만으로도 상당한 전력 절감 효과를 거둡니다.
출처NVIDIA Technical Blog(https://developer.nvidia.com/blog/how-nvidia-groq-3-lpx-deterministic-execution-drives-power-efficient-high-interactivity-inference-on-nvidia-vera-rubin/)의 보도를 교차 검증했습니다.
주제
관련 콘텐츠
본 기사는 전문가의 분석과 공개 자료를 기반으로 AI가 작성 후 다른 AI의 검증을 거쳐 작성됐으며 정보의 정확성과 완전성을 보장하지 않습니다. 기사 내용은 특정 투자·의사결정의 권유가 아니며, Wittgenhaus는 이를 근거로 한 행위의 결과에 책임을 지지 않습니다.
