아마존 베드록, 뉴질랜드 리전서 생성형 AI 추론 지원

주장아마존웹서비스(AWS)가 뉴질랜드 고객을 위해 아마존 베드록(Amazon Bedrock) 서비스를 아시아 태평양 오클랜드 리전(ap-southeast-6)에 출시했습니다. 이번 서비스 확장을 통해 현지 기업은 파운데이션 모델(FM)을 직접 활용할 수 있는 환경을 갖추었습니다.

팩트뉴질랜드 고객은 이제 오클랜드 리전에서 앤스로픽(Anthropic)의 클로드(Claude) 모델군과 아마존 노바(Nova) 2 라이트 모델을 사용합니다. 해당 모델들은 교차 리전 추론 기능을 통해 제공됩니다.

팩트아마존 베드록의 교차 리전 추론은 여러 리전에 걸쳐 추론 처리를 분산하여 대규모 처리량을 확보하는 기술입니다. 이 기능은 API 호출이 시작된 소스 리전에서 대상 리전으로 요청을 자동으로 라우팅합니다.

팩트교차 리전 작업 중 발생하는 모든 데이터는 AWS 내부 네트워크를 통과하며 공용 인터넷을 거치지 않습니다. 또한 리전 간 전송되는 데이터는 암호화 과정을 거쳐 보안성을 유지합니다.

주장아마존 베드록은 지리적 교차 리전 추론과 글로벌 교차 리전 추론이라는 두 가지 유형을 제공합니다. 지리적 추론은 특정 경계 내에서 요청을 처리하여 데이터 상주 요구 사항을 엄격히 준수합니다.

팩트오클랜드 리전이 포함된 호주 지리적 교차 리전 추론 프로필은 오클랜드, 시드니, 멜버른 세 곳의 리전을 연결합니다. 오클랜드에서 시작된 요청은 이 세 리전 중 한 곳으로 분산 처리됩니다.

교차검증기존 시드니와 멜버른을 잇던 호주 교차 리전 추론 프로필은 이번 오클랜드 추가와 무관하게 기존 라우팅 경로를 유지합니다. 오클랜드의 합류가 기존 호주 리전의 대상 리전 구성을 변경하지는 않습니다.

주장데이터 상주 요건이 상대적으로 자유로운 조직은 글로벌 교차 리전 추론을 활용할 수 있습니다. 이는 전 세계 모든 AWS 상업 리전의 추론 용량을 활용하여 더 높은 처리량과 복원력을 제공합니다.

팩트사용자는 모델 식별자에 'au.' 또는 'global.' 접두사를 붙여 지리적 프로필과 글로벌 프로필을 구분하여 사용합니다. 지리적 프로필은 클로드 모델을, 글로벌 프로필은 더 광범위한 파운데이션 모델을 지원합니다.

팩트파운데이션 모델 호출을 위한 아이덴티티 앤 액세스 매니지먼트(IAM) 정책은 소스 리전의 추론 프로필과 대상 리전의 모델 접근 권한을 모두 포함해야 합니다. 해당 프로필은 인보크 모델(InvokeModel) 및 컨버스(Converse) API 등과 연동되어 작동합니다.

출처https://aws.amazon.com/ko/blogs/aws/amazon-bedrock-is-now-available-in-the-aws-asia-pacific-auckland-region/