데이터브릭스, 유니티 카탈로그 기반 AI 에이전트 거버넌스 강화

주장인공지능 거버넌스는 데이터 거버넌스의 연장선에서 구현해야 합니다. 데이터브릭스는 데이터 계보와 감사 로그, 추론 추적, 데이터 품질 모니터링을 통합하여 기업이 AI 시스템을 안전하게 관리하고 신뢰성을 확보해야 한다고 강조합니다.

팩트데이터브릭스는 2021년부터 유니티 카탈로그를 통해 기업 데이터를 관리합니다. 최근 이 거버넌스 인프라를 확장하여 대규모 언어 모델과 모델 컨텍스트 프로토콜 서버, 에이전트 등 AI 시스템이 다루는 모든 자산을 관리 범위에 포함했습니다.

교차검증전통적인 거버넌스 도구는 인간의 의사결정을 전제로 설계되어 자율적인 AI 에이전트의 복잡한 행동을 통제하는 데 한계가 있습니다. 에이전트는 매번 다른 선택을 하고 도구를 연쇄적으로 사용하므로 코드 검토만으로는 통제가 불가능합니다.

팩트유니티 AI 게이트웨이는 모든 모델 호출과 도구 실행을 실시간으로 평가하는 집행 계층입니다. 이 도구는 정책에 따라 실행 여부를 결정하며, 실행 후에는 모든 상호작용을 기록하여 완전한 감사 추적을 제공합니다.

주장에이전트의 권한은 공유 서비스 계정이 아닌 사용자 본인의 신원을 기반으로 위임해야 합니다. 데이터브릭스는 대리 토큰 전달 방식을 통해 사용자가 접근할 수 없는 데이터는 에이전트도 접근하지 못하도록 설계했습니다.

팩트서비스 정책은 유니티 카탈로그 내에서 관리되는 함수로 특정 도구 호출의 성공 여부를 제어합니다. 시스템은 도구 이름과 인수, 호출자의 신원을 기반으로 실행 허용과 거부, 또는 사용자 동의 요청을 결정합니다.

교차검증기업이 보안을 위해 모든 에이전트 배포를 엄격히 제한하면 경쟁사보다 뒤처지는 위험이 발생합니다. 반대로 거버넌스 없이 에이전트를 방치하면 측정 불가능한 보안 위험에 노출되므로 두 극단 사이의 균형이 필요합니다.

팩트유니티 AI 게이트웨이는 모든 모델 호출의 전체 페이로드를 추론 테이블에 저장합니다. 여기에는 정확한 프롬프트와 응답, 토큰 수, 지연 시간 등이 포함되며, 이는 데이터 레이크하우스에 저장되어 장기 보관이 가능합니다.

주장에이전트의 행동은 접근 가능한 데이터에 의해 결정되므로 데이터 거버넌스와 AI 거버넌스를 분리해서는 안 됩니다. 두 영역을 통합하면 거버넌스 체계가 상호 보완적으로 강화되어 더 강력한 보안 환경을 구축할 수 있습니다.

팩트데이터브릭스는 레이크워치를 통해 감사 추적 데이터를 능동적인 보안 인텔리전스로 전환합니다. 이는 데이터 레이크하우스 기반의 AI 주도 위협 탐지 및 대응 시스템으로, 공격자의 에이전트 활용에 대응하기 위해 설계되었습니다.

출처데이터브릭스 공식 블로그(https://www.databricks.com/blog/governing-ai-agents-scale-unity-catalog)를 교차 검증했습니다.