아마존 베드록의 세밀한 비용 귀속 기능 도입

주장아마존 베드록은 인공지능 추론 비용이 클라우드 지출에서 차지하는 비중이 커짐에 따라, 기업의 비용 최적화와 재무 계획을 지원하는 세밀한 비용 귀속 기능을 도입했습니다. 기업은 이번 기능으로 누가 어떤 목적으로 인공지능을 사용하는지 명확하게 파악합니다.

팩트아마존 베드록은 추론 요청을 수행한 아이에이엠 주체(IAM Principal)에게 비용을 자동으로 귀속합니다. 아이에이엠 주체는 아이에이엠 사용자, 애플리케이션이 사용하는 역할, 외부 인증 제공업체의 연합 아이디를 포함합니다.

팩트비용 데이터는 에이더블유에스 빌링(AWS Billing) 및 시유알(CUR) 2.0 보고서에 자동으로 반영됩니다. 사용자는 별도의 리소스를 관리하거나 기존 워크플로우를 변경하지 않고 즉시 비용 추적을 시작합니다.

팩트태그 기능을 활용하면 팀, 프로젝트 또는 사용자 정의 차원별로 비용을 집계합니다. 비용 할당 태그를 활성화하면 에이더블유에스 비용 탐색기(Cost Explorer)에서 시각적인 분석을 수행합니다.

팩트시유알 2.0 보고서의 라인 아이템 아이에이엠 프린시펄(line_item_iam_principal) 열을 통해 호출자별 비용을 확인합니다. 해당 항목에는 사용된 모델, 토큰 유형, 각 항목에 대한 비용이 상세히 기록됩니다.

팩트태그는 주체 태그(Principal tags)와 세션 태그(Session tags) 두 가지 방식으로 적용됩니다. 주체 태그는 아이에이엠 사용자나 역할에 직접 부착하며, 세션 태그는 임시 자격 증명을 얻을 때 동적으로 전달합니다.

팩트비용 할당 태그를 활성화한 후 데이터가 비용 탐색기에 나타나기까지는 약 24시간에서 48시간이 소요됩니다. 사용자는 에이더블유에스 빌링 콘솔이나 에이피아이(API)를 통해 태그 상태를 업데이트합니다.

교차검증대규모 언어 모델 게이트웨이를 사용하는 경우 모든 요청이 단일 게이트웨이 역할로 귀속될 위험이 존재합니다. 이를 방지하려면 사용자별로 세션 이름과 태그를 포함한 어슘 롤(AssumeRole) 설정을 별도로 구성해야 합니다.

주장이번 업데이트는 특히 개발 환경이나 소규모 팀의 프로토타이핑 단계에서 유용합니다. 개별 개발자의 사용량을 추적하여 비용 효율성을 높이고 부서별 비용 청구 체계를 구축하는 데 핵심적인 역할을 수행합니다.

출처아마존 웹 서비스의 공식 블로그 게시물을 통해 해당 기능을 교차 검증했습니다. (https://aws.amazon.com/blogs/machine-learning/introducing-granular-cost-attribution-for-amazon-bedrock/)