엔비디아 네모트론 3 울트라의 아마존 세이지메이커 점프스타트 출시

팩트엔비디아는 네모트론 3 울트라 모델을 아마존 세이지메이커 점프스타트에서 즉시 사용할 수 있도록 공개했습니다. 이 모델은 복잡한 에이전트 워크로드를 효율적으로 처리하도록 설계된 오픈 모델입니다.

팩트네모트론 3 울트라는 총 5500억 개의 파라미터를 보유하며, 이 중 550억 개가 활성화되는 구조를 갖춥니다. 하이브리드 트랜스포머-맘바 혼합 전문가 아키텍처를 채택하여 연산 효율을 높였습니다.

팩트해당 모델은 이전 모델보다 추론 속도가 5배 빠르며 에이전트 작업 비용을 최대 30%까지 절감합니다. 엔비디아의 NVFP4 형식을 지원하여 호스팅 비용과 속도 측면에서 최적화된 성능을 보입니다.

팩트모델은 최대 100만 토큰의 컨텍스트 길이를 제공합니다. 이는 수백 번의 턴이 필요한 복잡한 에이전트의 계획 수립 및 도구 호출 과정에서 일관성을 유지합니다.

주장에이전트형 인공지능은 단순한 답변을 넘어 계획 수립과 도구 호출, 결과 확인 과정을 반복합니다. 네모트론 3 울트라는 이러한 다단계 추론 작업에 특화되어 기업의 자동화 워크플로우를 지원합니다.

팩트주요 활용 사례로는 다수의 하위 에이전트를 조정하는 오케스트레이터와 코드 생성 및 디버깅 에이전트가 있습니다. 대규모 데이터 기반의 심층 연구 시스템과 복잡한 비즈니스 프로세스 자동화에도 적합합니다.

팩트아마존 세이지메이커 점프스타트는 원클릭 배포 기능을 통해 인프라 관리 없이 모델을 즉시 제공합니다. 사용자는 파이썬 소프트웨어 개발 키트를 활용한 프로그래밍 방식의 배포도 선택할 수 있습니다.

교차검증모델 배포 시에는 ml.p5en.48xlarge와 같은 고성능 그래픽 처리 장치 인스턴스를 사용해야 하므로 시간당 비용이 발생합니다. 사용자는 작업 완료 후 엔드포인트를 삭제하여 불필요한 과금을 방지해야 합니다.

교차검증모델을 사용하려면 아마존 웹 서비스 계정 권한 설정과 충분한 그래픽 처리 장치 서비스 할당량이 필요합니다. 지원 인스턴스는 ml.p5en.48xlarge, ml.p5.48xlarge, ml.g7e.48xlarge로 제한됩니다.

주장이번 출시는 기업이 고성능 인공지능 모델을 클라우드 환경에서 손쉽게 도입할 수 있는 기반을 마련합니다. 모델의 효율적인 아키텍처는 인공지능 도입 비용을 고민하는 기업에 실질적인 대안이 됩니다.

주장네모트론 3 울트라의 도입은 아마존 웹 서비스 생태계 내에서 인공지능 에이전트 개발의 속도를 높일 전망입니다. 복잡한 추론 능력이 필요한 산업 현장에서의 활용도가 높을 것으로 예상합니다.

출처아마존 웹 서비스 공식 블로그 자료를 교차 검증했습니다.