엔비디아의 로컬 인공지능 생태계와 오픈소스 모델 지원 확대
엔비디아가 클라우드 연결 없이 고성능 인공지능 모델을 실행할 수 있는 로컬 생태계 지원을 강화합니다. 회사는 다양한 오픈소스 모델의 최적화 버전과 전용 데스크톱 도구를 공개하며 개발 환경을 넓히고 있습니다. 이번 조치는 데이터 보안을 중시하는 사용자들에게 새로운 대안을 제시합니다.
주장엔비디아는 로컬 인공지능 생태계를 확장해 개발자들이 클라우드 없이도 고성능 인공지능 모델과 지능형 에이전트를 직접 구축하고 실행하도록 지원합니다.
팩트회사는 로봇 공학 및 비전 인공지능을 위한 사십억 파라미터 모델인 'Cosmos 3 Edge'를 공개했습니다.
팩트이 모델은 기존 'Cosmos 3 Nano' 대비 4분의 1 크기로 줄어들어 엔비디아 'DGX Spark' 및 'Jetson' 기기에서 구동됩니다.
팩트미니맥스(MiniMax)의 'MiniMax-H3'는 330억 파라미터 규모의 오픈 웨이트 모델로, 텍스트와 이미지, 비디오, 오디오를 결합해 동기화된 오디오와 비디오를 생성합니다.
팩트개발자들은 'ComfyUI'를 통해 엔비디아 그래픽 처리 장치에 최적화된 체크포인트로 이 모델을 로컬에서 실행합니다.
팩트풀사이드 인공지능(Poolside AI)이 출시한 'Laguna S 2.1'은 1180억 파라미터 규모의 코딩 모델로, 'NVFP4' 체크포인트를 통해 단일 'DGX Spark' 시스템에서 구동됩니다.
팩트딥시크(DeepSeek)의 'DeepSeek-V4-Flash'는 2840억 파라미터의 혼합 전문가 모델로, 100만 토큰의 문맥 창을 지원합니다.
팩트씽킹 머신즈 랩(Thinking Machines Lab)의 'Inkling-Small'은 2760억 파라미터 규모의 멀티모달 모델로, 텍스트와 이미지, 오디오를 아우르는 추론 능력을 갖췄습니다.
팩트언슬로스(Unsloth)는 인공지능 모델의 학습과 추론을 하나의 데스크톱 응용 프로그램에서 수행하는 'Unsloth Desktop'을 출시했습니다.
팩트메타(Meta)가 공개한 'Muse Glimmer'는 300억 파라미터 규모의 코딩 및 에이전트 특화 모델로, 12만 토큰 이상의 문맥 창을 지원합니다.
교차검증로컬 인공지능 모델은 클라우드 기반 모델보다 데이터 보안과 지연 시간 측면에서 유리하지만, 모델의 규모가 커질수록 고성능 장비와 대용량 기억 장치 등 물리적 사양에 대한 의존도가 높아집니다.
출처엔비디아 공식 블로그(https://blogs.nvidia.com/blog/local-ai-open-source-models-agents-nemotron/)를 교차 검증했습니다.
관련 콘텐츠
본 기사는 전문가의 분석과 공개 자료를 기반으로 AI가 작성 후 다른 AI의 검증을 거쳐 작성됐으며 정보의 정확성과 완전성을 보장하지 않습니다. 기사 내용은 특정 투자·의사결정의 권유가 아니며, Wittgenhaus는 이를 근거로 한 행위의 결과에 책임을 지지 않습니다.
