AWS GovCloud, 엔비디아 및 오픈AI 모델 지원 개시

주장미국 정부 기관은 엄격한 보안 규정을 준수하면서도 최신 인공지능 기술을 도입해야 하는 과제를 안고 있습니다. 아마존웹서비스(AWS)는 이러한 요구를 충족하기 위해 정부 전용 클라우드인 AWS GovCloud(US)에서 엔비디아와 오픈AI의 오픈 웨이트 모델 지원을 시작했습니다.

팩트이번 업데이트를 통해 아마존 베드록(Amazon Bedrock)은 오픈AI의 GPT OSS 모델 2종과 엔비디아 네모트론 모델 4종을 지원합니다. 사용자는 단일 통합 API를 통해 애플리케이션 코드 변경 없이 다양한 모델을 선택하여 활용합니다.

팩트AWS GovCloud(US)는 미국 시민권자가 관리하는 미국 내 물리적 데이터 센터로 구성되어 있습니다. 이 환경은 연방 위험 및 승인 관리 프로그램(FedRAMP High)과 국방부 보안 요구 사항 가이드(DoD SRG) 등 엄격한 규정 준수 프레임워크를 지원합니다.

교차검증정부 기관은 민감한 데이터를 외부로 유출하지 않고 지능형 분석이나 임무 계획 등의 작업을 수행해야 합니다. 이번 서비스는 데이터가 AWS GovCloud(US)의 격리 경계 내부에서 처리되도록 설계하여 보안 우려를 해소합니다.

팩트엔비디아 네모트론 3 Super 120B는 혼합 전문가(MoE) 모델로 1200억 개의 파라미터를 가집니다. 이 모델은 토큰당 120억 개의 파라미터만 활성화하며 100만 토큰의 컨텍스트 윈도우를 제공하여 복잡한 다단계 작업 수행에 적합합니다.

팩트오픈AI의 GPT OSS 모델은 12만8000 토큰의 컨텍스트 윈도우를 지원하며 텍스트 입력과 출력을 처리합니다. 모델 가중치가 공개되어 있어 정부 기관은 배포 전 자체적인 위험 평가와 보안 검증을 수행할 수 있습니다.

주장이번 모델 도입은 정부 기관이 제로 트러스트 원칙을 준수하면서도 최신 인공지능 기술을 활용할 수 있는 기반을 마련했습니다. 기관은 인프라 프로비저닝이나 그래픽 처리 장치(GPU) 관리 없이 서버리스 방식으로 인공지능 모델을 즉시 활용합니다.

팩트아마존 베드록의 차세대 추론 엔진은 제로 운영자 액세스(Zero Operator Access) 설계를 채택했습니다. AWS 직원이나 모델 제공업체는 고객의 추론 프롬프트나 결과 데이터에 접근할 수 없습니다.

팩트개발자는 베드록 맨틀(bedrock-mantle) 엔드포인트를 통해 오픈AI 호환 API를 사용합니다. 또한 베드록 런타임(bedrock-runtime) 엔드포인트를 통해 AWS 소프트웨어 개발 키트(SDK)와 가드레일 기능을 활용하여 기존 개발 환경과의 높은 호환성을 보장합니다.

주장정부 기관은 이번 업데이트를 통해 보안성과 효율성을 동시에 확보합니다. 클라우드 환경에서 검증된 모델을 즉각 도입함으로써 공공 부문의 디지털 전환이 가속화될 전망입니다.

교차검증다만 정부 기관은 각 모델의 특성과 보안 요구 사항을 사전에 면밀히 검토해야 합니다. 기술 도입 과정에서 발생하는 데이터 처리 방식의 적절성을 확인하는 절차는 여전히 중요합니다.

출처아마존웹서비스 공식 블로그(https://aws.amazon.com/blogs/machine-learning/run-nvidia-nemotron-and-openai-gpt-oss-models-on-amazon-bedrock-in-aws-govcloud-us/)를 교차 검증했습니다.