엔비디아, 인공지능 에이전트용 네모트론 3.5 라이트닝 공개

주장엔비디아 네모트론 3.5 라이트닝은 상시 가동되는 인공지능(AI) 에이전트의 실행 계층을 지원하기 위해 300억 파라미터 규모의 오픈 소스 모델로 설계되었습니다.

주장이 모델은 복잡한 추론 과정보다 도구 호출과 결과 검증처럼 반복적이고 대량으로 발생하는 작업을 처리하는 데 최적화되어 있습니다.

팩트네모트론 3.5 라이트닝은 혼합 전문가(MoE) 구조를 채택했으며, 전체 파라미터 중 30억 파라미터만 활성화하여 연산 효율을 극대화합니다.

팩트엔비디아는 이 방식을 통해 유사한 크기를 가진 모델과 비교했을 때 최대 4배 빠른 출력 속도를 제공합니다.

팩트엔비디아는 네모 스위치야드(NeMo Switchyard) 라이브러리를 함께 공개하여 모델 라우팅 기능을 지원합니다.

팩트복잡한 계획 수립은 대형 모델이 담당하고 단순 실행 작업은 라이트닝 모델이 처리하도록 업무를 배분합니다.

교차검증에이전트 시스템에서 모델 라우팅은 필수적이지만 잘못된 라우팅은 전체 작업의 정확도를 떨어뜨릴 위험이 있습니다.

교차검증따라서 적절한 모델 선택을 돕는 오케스트레이션 설계가 시스템 성능을 좌우하는 핵심 변수가 됩니다.

팩트핀치벤치(PinchBench) 테스트 결과, 네모트론 3.5 라이트닝은 86퍼센트의 정확도를 기록했습니다.

팩트이 모델은 쿠엔(Qwen) 3.6 35B 모델과 비교할 때 유사한 정확도를 유지하면서 1만 개의 작업을 30퍼센트 더 빠르게 완료합니다.

팩트엔비디아는 개발자가 모델을 자유롭게 수정하도록 가중치와 학습 데이터를 오픈MDW-1.1 라이선스로 공개했습니다.

출처엔비디아 개발자 블로그를 교차 검증했습니다. (https://developer.nvidia.com/blog/nvidia-nemotron-3-5-lightning-delivers-fast-accurate-specialized-task-execution-for-long-running-agents/)