아마존 베드록, 미니맥스 파운데이션 모델 지원 시작

주장아마존 베드록은 기업이 보안과 규정 준수 체계를 유지하면서 최신 오픈 웨이트 파운데이션 모델을 활용하도록 돕습니다. 이러한 환경은 기업이 실험 단계를 넘어 실제 운영 환경으로 인공지능을 도입할 때 필요한 핵심 요구사항을 충족합니다.

팩트아마존 베드록은 미니맥스의 M2, M2.1, M2.5 모델을 제공합니다. 해당 모델군은 소프트웨어 엔지니어링과 에이전트 기반 작업에 최적화된 설계를 갖췄습니다.

팩트미니맥스 M2.5 모델은 2300억 개의 전체 파라미터 중 토큰당 100억 개만 활성화하는 혼합 전문가(MoE, Mixture of Experts) 아키텍처를 채택합니다. 이 구조는 대규모 모델의 지식 용량을 유지하면서 추론 비용을 효과적으로 절감합니다.

교차검증미니맥스 모델은 오픈 웨이트 방식으로 제공되어 사용자가 모델 아키텍처를 독립적으로 평가할 수 있습니다. 기업은 자체 데이터를 활용해 모델을 미세 조정할 수 있으며, 인프라를 직접 운영하지 않아도 됩니다.

팩트미니맥스 M2 모델은 100만 토큰의 컨텍스트 윈도우를 지원하며 다국어 텍스트 생성과 추론에 강점을 보입니다. 이어 출시된 M2.1 모델은 추론 깊이와 코딩 정확도를 개선했습니다.

팩트최신 버전인 M2.5 모델은 에이전트 실행과 도구 호출 작업에 특화된 성능을 제공합니다.

팩트아마존 베드록은 미니맥스 모델 접근을 위해 '베드록 맨틀(bedrock-mantle)'과 '베드록 런타임(bedrock-runtime)'이라는 두 가지 엔드포인트를 지원합니다. 베드록 맨틀은 오픈에이아이(OpenAI) 소프트웨어 개발 키트(SDK)와 호환되는 응용 프로그램 인터페이스(API)를 사용하여 기존 개발 환경에서 전환이 용이합니다.

팩트베드록 런타임 엔드포인트는 가드레일, 에이전트, 플로우 등 아마존 베드록의 고유 기능을 활용할 때 사용합니다. 사용자는 아마존 웹 서비스(AWS) SDK를 통해 이러한 기능을 연동하여 복잡한 워크플로우를 구축합니다.

교차검증아마존 베드록에서 처리하는 모든 프롬프트와 결과물은 모델 학습에 사용하지 않습니다. 고객의 콘텐츠는 모델 제공업체와 공유하지 않으므로 데이터 보안을 엄격하게 보호합니다.

팩트미니맥스 M2.5 모델을 사용하려면 아마존 베드록 콘솔의 플레이그라운드에서 모델을 선택하여 적용합니다. 이후 API 키나 SigV4 인증을 통해 프로그래밍 방식으로 모델을 호출합니다.

주장이번 지원 확대로 기업들은 미니맥스의 고성능 모델을 아마존 웹 서비스의 보안 인프라 내에서 안정적으로 운용할 수 있게 됩니다. 이는 생성형 인공지능 도입을 고려하는 기업들에 유연한 선택지를 제공합니다.

출처아마존 웹 서비스 공식 블로그(https://aws.amazon.com/blogs/machine-learning/run-minimax-models-on-amazon-bedrock/) 및 아마존 베드록 공식 문서를 교차 검증했습니다.