아마존 베드록 기반 기업용 AI 메모리 구축 사례

주장기업용 인공지능 챗봇은 단순한 질의응답을 넘어 조직의 고유한 맥락을 파악하는 기억 능력이 필수적입니다. 아마존 베드록(Amazon Bedrock)과 넵튠(Neptune), 멤제로(Mem0)를 결합하면 인공지능 에이전트가 기업 특화 지식을 지속적으로 학습합니다.

팩트보안 기업 트렌드마이크로는 고객에게 개인화된 지원을 제공하기 위해 트렌드 컴패니언(Trend Companion)을 개발했습니다. 이 챗봇은 대화 이력을 유지하고 기업 내부 지식을 대규모로 참조하여 정확한 답변을 생성합니다.

팩트시스템은 아마존 넵튠을 활용해 조직의 관계와 업무 프로세스를 담은 지식 그래프를 저장합니다. 멤제로는 단기 대화 맥락과 장기적인 기업 지식을 관리하는 핵심 역할을 수행합니다.

팩트메모리 생성 과정에서 클로드(Claude) 모델은 사용자 메시지에서 엔티티와 관계를 추출합니다. 추출된 정보는 아마존 베드록 타이탄 텍스트 임베딩(Titan Text Embeddings)을 통해 벡터화되어 오픈서치(OpenSearch)와 넵튠에 저장됩니다.

팩트검색 단계에서는 오픈서치의 의미론적 유연성과 넵튠의 구조적 정밀함을 동시에 활용합니다. 검색된 메모리는 아마존 베드록 리랭크(Rerank) 모델을 통해 가장 정확한 정보 순으로 재정렬됩니다.

팩트아마존 넵튠을 활용하면 일반적인 답변 대신 구조화된 지식에 기반한 답변이 가능합니다. 예를 들어 특정 인물의 권한 인정 여부를 질문할 때, 그래프 데이터를 통해 구체적인 근거를 제시합니다.

주장이번 아키텍처는 생성형 인공지능과 그래프 기반 지식을 결합하여 시스템이 조직의 변화하는 지식에 지속적으로 적응하도록 돕습니다. 이는 기업 고객에게 더 안전하고 확장 가능한 지능형 경험을 제공하는 기반이 됩니다.

교차검증인공지능이 생성한 답변의 신뢰성을 확보하기 위해 인간의 피드백 루프를 도입했습니다. 사용자는 인공지능이 참조한 메모리 매핑을 승인하거나 거부할 수 있으며, 거부된 정보는 즉시 데이터베이스에서 삭제됩니다.

교차검증현재 트렌드마이크로의 해당 시스템은 최종 사용자 경험을 개선하기 위해 지속적인 평가와 튜닝 과정을 거치고 있습니다. 앞으로 그래프 적용 범위 확대와 다국어 지원 기능을 추가할 예정입니다.

출처아마존 웹 서비스 공식 블로그 및 아마존 넵튠 기술 문서를 교차 검증했습니다.