아마존 링, 베드록 기반 자동화로 고객 지원 비용 21% 절감

주장아마존 링(Ring)은 기존 규칙 기반 챗봇의 한계를 극복하고자 검색 증강 생성(RAG, Retrieval-Augmented Generation) 기술을 도입했습니다. 과거의 규칙 기반 시스템은 다양한 고객 문의를 처리하는 데 어려움이 있었으며, 시스템 유지보수에 상당한 엔지니어링 자원을 소모했습니다.

팩트규칙 기반 챗봇 운영 당시 전체 고객 문의의 16%가 상담원에게 연결되었습니다. 또한 지원 엔지니어는 업무 시간의 10%를 시스템 유지보수에 할애했습니다.

주장링은 지역별 인프라 구축 대신 중앙 집중식 서버리스(Serverless) 아키텍처를 선택했습니다. 이는 운영 복잡성을 줄이고 글로벌 확장에 필요한 비용 효율성을 극대화하기 위한 전략입니다.

팩트중앙 집중식 아키텍처로 전환한 결과, 새로운 지역 추가 시 발생하는 확장 비용을 21% 절감했습니다. 현재 이 시스템은 영국과 독일을 포함한 10개 국제 지역에서 일관된 고객 지원을 제공합니다.

교차검증중앙 집중식 아키텍처 도입 시 지역 간 지연 시간 발생이 우려되었습니다. 그러나 성능 분석 결과, 지역 간 지연 시간은 전체 응답 시간의 10% 미만으로 나타나 운영의 타당성을 입증했습니다.

팩트링은 아마존 베드록(Amazon Bedrock) 지식 기반, 에이더블유에스 람다(AWS Lambda), 에이더블유에스 스텝 펑션(AWS Step Functions), 아마존 에스쓰리(Amazon S3)를 핵심 기술 스택으로 활용합니다. 메타데이터 기반 필터링을 통해 단일 시스템 내에서 지역별 맞춤형 콘텐츠를 제공합니다.

주장콘텐츠 관리 프로세스를 수집·평가 단계와 프로모션 단계로 분리하여 시스템 안정성을 확보했습니다. 콘텐츠 팀은 운영 중인 챗봇에 영향을 주지 않고 지식 베이스를 지속적으로 개선합니다.

팩트콘텐츠 팀은 아마존 에스쓰리에 문서를 업로드하며, 각 파일에 언어와 지역 정보를 포함한 메타데이터를 부여합니다. 에이더블유에스 람다는 이 데이터를 자동으로 처리하여 지식 베이스에 최적화된 형태로 변환합니다.

팩트에이더블유에스 스텝 펑션은 매일 지식 베이스를 생성하고 품질을 검증하는 워크플로우를 자동화합니다. 각 버전은 독립적으로 관리되어 성능 평가가 용이하며, 문제 발생 시 즉각적인 롤백(Rollback)이 가능합니다.

출처https://aws.amazon.com/blogs/machine-learning/how-ring-scales-global-customer-support-with-amazon-bedrock-knowledge-bases/