Holo3.1: 로컬 환경 최적화 컴퓨터 사용 에이전트 출시

주장Holo3.1은 데스크톱, 모바일, 웹 등 다양한 환경에서 범용적으로 작동하는 컴퓨터 사용 에이전트를 지향합니다. 기업과 개발자가 클라우드뿐만 아니라 로컬 기기에서도 유연하게 배포하도록 설계했습니다.

팩트Holo3.1은 0.8B, 4B, 9B, 35B-A3B 등 총 4가지 크기로 출시되었습니다. 이는 비용 효율적인 소규모 배포부터 최고 성능을 요구하는 작업까지 폭넓은 선택지를 제공합니다.

팩트모바일 환경에서의 성능은 크게 향상되었습니다. 안드로이드 환경 벤치마크인 안드로이드월드에서 35B-A3B 모델은 기존 67%에서 79.3%로, 4B 및 9B 모델은 58%에서 72%로 정확도가 개선되었습니다.

팩트이번 모델은 FP8, Q4 GGUF, NVFP4 등 양자화된 체크포인트를 처음으로 지원합니다. 이는 모델 성능 저하를 최소화하면서 로컬 환경에서의 추론 속도를 높입니다.

팩트엔비디아의 모델 최적화 도구를 활용한 NVFP4 설정은 기존 FP8 대비 약 2배의 엔드투엔드 속도 향상을 보였습니다. 평균 단계 처리 시간은 6.8초에서 3.3초로 단축되었습니다.

교차검증NVFP4 W4A16 설정은 BF16 대비 1.74배의 토큰 처리량을 기록했습니다. 다만, 양자화 과정에서 전체 정밀도 모델 대비 OSWorld 점수가 약 2점 낮아지는 성능 손실이 발생합니다.

팩트Holo3.1은 기존의 JSON 출력 방식 외에도 네이티브 함수 호출 프로토콜을 지원합니다. 이는 타사 에이전트 스택과의 통합을 용이하게 하여 개발자의 배포 편의성을 높입니다.

주장로컬 실행은 데이터 보안과 프라이버시 측면에서 유리합니다. 사용자의 네트워크 외부로 데이터가 유출되지 않는 환경을 구축하여 기업용 내부 도구 및 비즈니스 소프트웨어 자동화에 적합합니다.

교차검증로컬 환경에서의 성능은 하드웨어 사양에 따라 차이가 발생합니다. 애플 실리콘 기반의 맥이나 윈도우 기기에서 실행할 경우, 네트워크 내의 DGX Spark 서버를 활용하는 방식을 권장합니다.

주장이번 모델은 로컬 환경에서의 추론 속도와 보안성을 동시에 확보했습니다. 기업은 이를 통해 데이터 유출 우려 없이 업무 자동화 환경을 구축할 수 있습니다.

주장다양한 크기의 모델 라인업은 개발자에게 선택의 폭을 넓혀줍니다. 이는 범용 에이전트 시장에서 Holo3.1의 경쟁력을 높이는 요소입니다.

출처허깅페이스 공식 블로그와 에이치컴퍼니 공식 발표 자료를 교차 검증했습니다.