버라이즌 커넥트의 에이전트 AI 기반 데이터 분석 시스템 도입

주장버라이즌 커넥트는 기존의 정적인 대시보드와 규칙 기반 자동화 시스템이 가진 한계를 극복하기 위해 에이전트 AI를 도입했습니다. 에이전트 AI는 새로운 패턴을 동적으로 조사하고 상황에 맞춰 분석 방식을 조정하므로 예측 불가능한 차량 운영 환경에 적합합니다.

팩트버라이즌 커넥트는 현재 120만 개 이상의 활성 차량 구독을 관리합니다. 매일 8만 개의 데이터 지표에서 5억 개 이상의 데이터 포인트가 생성됩니다.

팩트방대한 데이터로 인해 수동 분석이 불가능했던 문제를 해결했습니다. 현재 10만 명의 사용자가 매일 에이전트 AI를 통해 통찰력을 얻습니다.

팩트시스템은 2단계 아키텍처로 구성됩니다. 1단계에서는 거대언어모델(LLM)이 이상 징후를 그룹화하고 우선순위를 지정합니다.

팩트2단계에서는 에이전트가 도구를 사용하여 데이터를 심층 조사하고 최종 통찰력을 생성합니다.

교차검증거대언어모델에 직접 대규모 원시 데이터를 입력하여 수치 분석을 수행하면 오류가 발생할 가능성이 높습니다. 따라서 버라이즌 커넥트는 통계 모델로 수치 분석을 먼저 수행하고 거대언어모델이 그 결과를 바탕으로 맥락을 해석하는 방식을 채택했습니다.

팩트기술 스택으로는 서버리스 환경인 아마존 웹 서비스(AWS) 람다와 AWS 스텝 펑션을 활용하여 비용 효율성을 확보했습니다. 데이터 저장 및 조회에는 아마존 S3, 아마존 오로라, 아마존 다이나모DB를 사용합니다.

주장에이전트 AI는 고정된 규칙을 따르는 대신 자율적인 추론 루프를 통해 조사 경로를 결정합니다. 이는 개발 단계에서 예상하지 못한 예외 상황이나 새로운 상관관계를 발견하는 데 효과적입니다.

팩트에이전트 구현을 위해 오픈 소스 소프트웨어 개발 키트(SDK)인 스트랜드 에이전트를 사용했습니다. 이 에이전트는 상태를 저장하지 않는 방식으로 설계되어 분석 시점에 필요한 맥락을 실시간으로 검색하여 처리합니다.

교차검증기존의 규칙 기반 시스템은 명시적으로 프로그래밍된 패턴만 감지할 수 있다는 한계가 있습니다. 반면 에이전트 AI는 데이터 흐름에 따라 조사 전략을 실시간으로 변경할 수 있어 유연성이 높습니다.

팩트버라이즌 커넥트 프로젝트에는 마테오 시몬치니, 루카 브라비, 알베르토 로세티니, 마틴 빌라루엘, 세이훈 운루, 아드리엘 주키니, 안드레아 베네리체티가 참여했습니다. 이들은 데이터 과부하 문제를 해결하기 위해 아키텍처 설계부터 구현까지 협력했습니다.

출처아마존 웹 서비스 공식 블로그(https://aws.amazon.com/blogs/machine-learning/from-data-overload-to-actionable-insights-how-verizon-connect-scaled-agentic-ai-to-100000-users/)를 교차 검증했습니다.