데이터브릭스, 에이전트 AI 통합 거버넌스 솔루션 도입

주장데이터브릭스는 에이전트 인공지능(AI) 환경의 복잡한 보안과 관리 문제를 해결하기 위해 통합 거버넌스 계층인 AI 게이트웨이를 확장했습니다. 기존의 파편화된 도구로는 다단계 워크플로우를 수행하는 AI 에이전트를 효과적으로 통제하기 어렵다는 판단에 따른 결정입니다.

팩트AI 게이트웨이는 클로드, GPT-4, 제미나이, 라마 등 다양한 모델 제공업체와 관계없이 일관된 권한 설정과 가드레일을 적용합니다. 사용자는 모델을 변경하더라도 거버넌스 설정을 매번 수정할 필요 없이 동일한 프레임워크를 유지합니다.

팩트이번 업데이트에는 모델 컨텍스트 프로토콜(MCP) 서버를 통한 외부 시스템 접근 제어 기능이 포함되었습니다. 특히 사용자의 권한을 그대로 상속받아 실행하는 온비홀프오브(On-behalf-of) 사용자 실행 방식을 지원하여 보안성을 강화했습니다.

팩트AI 게이트웨이는 개인정보(PII) 탐지 및 마스킹, 콘텐츠 안전 필터, 프롬프트 인젝션 탐지, 데이터 유출 방지 및 환각 방지 가드레일을 제공합니다. 이러한 가드레일은 고정된 로직이 아닌 편집 가능한 프롬프트와 모델을 기반으로 작동합니다.

교차검증현재 AI 게이트웨이의 가드레일 기능은 베타 단계로 제공됩니다. 모든 기능이 모든 지역에서 즉시 사용 가능한 것은 아니며, 일부 기능은 앞으로 일주일 내에 순차적으로 배포될 예정입니다.

팩트기업 재무팀은 토큰 사용량뿐만 아니라 실제 달러 비용을 계산하여 유니티 카탈로그 시스템 테이블에 기록할 수 있습니다. 이를 통해 팀별, 모델별, 사용자별로 비용을 세밀하게 추적하고 예산을 관리합니다.

팩트엔지니어링 팀은 추론 테이블을 통해 전체 요청 및 응답 페이로드, 지연 시간, 오류 상태 코드를 델타 테이블에 저장합니다. 이는 에이전트 장애 발생 시 정확한 원인을 파악하고 디버깅하는 데 활용됩니다.

팩트보안 팀은 요청자 신원, 타임스탬프, MCP 호출 정보 등을 포함한 완전한 감사 추적을 확보합니다. 모든 로그는 유니티 카탈로그 권한에 의해 제어되어 데이터 접근 권한을 엄격하게 관리합니다.

주장AI 게이트웨이는 오픈AI 호환 API를 제공하여 모델 간 전환 시 코드 수정이나 재배포가 필요 없도록 설계되었습니다. 또한 기본 모델의 장애나 속도 제한 발생 시 자동으로 백업 모델로 전환하는 페일오버 기능을 지원합니다.

출처데이터브릭스 공식 블로그의 'AI 게이트웨이 거버넌스 계층' 관련 게시물을 교차 검증했습니다.