마이크로소프트 파운드리와 허깅페이스의 기업용 AI 모델 배포 협력

주장마이크로소프트는 2026년 7월 7일 빌드 컨퍼런스에서 파운드리 매니지드 컴퓨트와 허깅페이스 모델 컬렉션을 공개했습니다. 이는 기업이 오픈 소스 모델을 도입할 때 직면하는 보안 및 운영상의 복잡성을 해결하기 위한 전략적 행보입니다.

팩트허깅페이스는 1,500만 명의 개발자와 40만 개의 조직이 참여하는 오픈 AI 생태계의 중심지입니다. 현재 300만 개 이상의 오픈 모델이 게시되어 있으며 매주 새로운 기술이 생태계에 추가됩니다.

팩트파운드리 매니지드 컴퓨트는 브이엘엘엠(vLLM), 에스지랭(SGLang), 텐서알티-엘엘엠(TensorRT-LLM), 님(NIM), 티이아이(TEI), 라마닷씨피피(llama.cpp) 등 주요 런타임을 지원합니다. 마이크로소프트는 해당 런타임의 컨테이너 업데이트와 보안 패치를 자동으로 관리합니다.

주장오픈 소스 모델은 현재 성능 면에서 독점적인 프론티어 모델과 대등한 수준에 도달했습니다. 기업은 이를 활용해 모델을 미세 조정하거나 도메인 데이터에 맞춰 최적화하는 등 깊이 있는 맞춤형 개발을 수행합니다.

교차검증허깅페이스 자체는 엔터프라이즈급 서비스 플랫폼이 아니라는 운영상의 한계가 존재합니다. 마이크로소프트 파운드리는 라이선스 검토, 보안 스캐닝, 그래픽 처리 장치(GPU) 자원 할당을 대행하며 이러한 공백을 보완합니다.

팩트파운드리 컬렉션에 포함된 모든 모델은 세이프텐서(SafeTensors) 형식으로만 제공됩니다. 신뢰할 수 없는 코드 실행을 방지하기 위해 엄격한 보안 검토를 거치며, 검증되지 않은 외부 파이썬 코드 실행은 차단됩니다.

팩트마이크로소프트는 허깅페이스 모델을 매주 갱신하여 파운드리 모델 카탈로그에 반영합니다. 텍스트, 비전, 오디오, 멀티모달 등 다양한 모달리티를 지원하며 기업은 클릭 한 번으로 모델을 배포합니다.

주장이번 협력은 기업이 모델의 버전 관리와 배포 주기를 직접 통제하면서도 클라우드 인프라의 안정성을 확보하게 합니다. 이는 데이터 주권과 보안이 중요한 엔터프라이즈 환경에서 오픈 모델 도입을 가속화하는 계기가 됩니다.

팩트파운드리는 토큰당 과금 방식과 프로비저닝된 처리량 방식을 모두 지원합니다. 사용자는 모델의 파라미터 수와 컨텍스트 길이에 따라 최적의 그래픽 처리 장치 토폴로지를 선택하여 비용 효율성을 극대화합니다.

주장기업은 파운드리를 통해 오픈 소스 모델의 유연성과 클라우드 인프라의 관리 효율성을 동시에 누립니다. 이는 인공지능 기술의 기업 내 확산을 촉진하는 핵심적인 인프라 역할을 수행합니다.

팩트마이크로소프트는 파운드리 환경 내에서 모델의 성능을 실시간으로 모니터링하고 최적화할 수 있는 도구를 제공합니다. 이를 통해 기업은 운영 비용을 절감하고 모델의 가용성을 높입니다.

출처마이크로소프트와 허깅페이스의 공동 발표 자료(https://huggingface.co/blog/microsoft/foundry-managed-compute)를 교차 검증했습니다. 본 내용은 2026년 7월 7일 발행된 자료를 기반으로 작성되었습니다.