아마존 베드록의 에이전트 AI 안전성 강화 API 출시

주장아마존 베드록은 에이전트 AI 애플리케이션의 안전성을 강화하기 위해 InvokeGuardrailChecks API를 새롭게 출시했습니다. 이 API는 개발자가 에이전트 루프의 모든 단계에서 개별적인 안전 검사를 즉시 적용하도록 지원합니다.

팩트InvokeGuardrailChecks API는 별도의 가드레일 리소스를 생성하거나 관리할 필요가 없는 리소스리스 방식으로 작동합니다. 개발자는 API 호출 시 필요한 안전 검사 항목을 직접 지정하여 운영 효율성을 높입니다.

팩트해당 API는 탐지 전용 모드로 운영되며, 각 안전 검사 항목에 대해 0에서 1 사이의 수치화된 점수를 반환합니다. 개발자는 이 점수를 바탕으로 차단, 우회, 재시도, 로그 기록과 같은 맞춤형 대응 로직을 설정합니다.

교차검증기존의 가드레일 방식은 단일 리소스를 생성하여 일괄 적용하는 구조였습니다. 에이전트 AI는 루프를 반복하며 매 단계마다 다른 위험 프로필을 가지기에 기존 방식은 수많은 에이전트를 배포할 때 운영 부담이 크고 확장성이 떨어지는 한계가 있었습니다.

팩트InvokeGuardrailChecks API는 콘텐츠 필터, 프롬프트 공격 탐지, 민감 정보 필터 등 세 가지 주요 안전 검사를 지원합니다. 특히 프롬프트 공격 탐지는 다른 필터와 분리되어 독립적으로 호출할 수 있어 세밀한 제어가 가능합니다.

팩트콘텐츠 필터와 프롬프트 공격 탐지는 0, 0.2, 0.4, 0.6, 0.8, 1.0의 심각도 점수를 반환합니다. 민감 정보 필터는 개인정보 식별 정보의 존재 여부에 대해 0에서 1 사이의 신뢰도 점수를 제공합니다.

팩트이 API는 시스템, 사용자, 어시스턴트와 같은 역할이 포함된 구조화된 메시지 스키마를 사용합니다. 이러한 구조는 에이전트의 다중 턴 워크플로우에서 문맥을 정확히 파악하여 안전 검사를 수행하는 데 필수적입니다.

교차검증리소스리스 방식의 도입으로 가드레일 리소스 생성, 호출, 삭제라는 복잡한 생명주기 관리가 불필요해졌습니다. 이는 에이전트가 수십 번의 루프를 반복하는 상황에서도 리소스 낭비 없이 실시간 안전 검사를 가능하게 합니다.

팩트API 사용을 위해서는 아마존 웹 서비스 계정 내 아마존 베드록 접근 권한과 bedrock:InvokeGuardrailChecks 권한이 포함된 아이덴티티 앤 액세스 매니지먼트 역할이 필요합니다. 또한 아마존 웹 서비스 커맨드 라인 인터페이스나 파이썬용 보토3 소프트웨어 개발 키트와 같은 개발 환경이 사전에 준비되어야 합니다.

주장이번 API 출시는 복잡한 에이전트 워크플로우 환경에서 보안 정책을 유연하게 적용하려는 개발자들에게 실질적인 대안이 됩니다. 실시간 점수 기반의 대응은 에이전트의 자율성을 보장하면서도 위험 요소를 효과적으로 통제합니다.

주장앞으로 개발자들은 에이전트의 각 단계별로 최적화된 보안 정책을 적용하여 서비스 신뢰도를 높일 수 있습니다. 이는 기업용 생성형 AI 도입 과정에서 필수적인 안전장치 역할을 수행할 전망입니다.

출처아마존 웹 서비스 공식 블로그(https://aws.amazon.com/blogs/machine-learning/safeguard-your-agentic-ai-applications-with-the-amazon-bedrock-guardrails-invokeguardrailchecks-api/)를 교차 검증했습니다.