데이터브릭스, AI 에이전트 도구 제어 및 보안 강화 기능 도입
데이터브릭스가 유니티 카탈로그를 활용해 AI 에이전트의 도구 사용을 통제하는 보안 기능을 출시했습니다. 관리자는 정책 설정을 통해 에이전트의 권한을 제한하고 모든 호출 기록을 추적할 수 있습니다.
주장인공지능 에이전트가 외부 도구와 연결될 때 발생하는 파괴적이고 돌이킬 수 없는 행동을 통제해야 합니다. 에이전트가 권한 범위 안에서 움직이더라도 도구 사용에 대한 제한과 기록이 없으면 심각한 데이터 손실이 발생할 수 있습니다.
팩트데이터브릭스는 유니티 카탈로그를 통해 모든 모델 컨텍스트 프로토콜(MCP, Model Context Protocol) 도구를 데이터와 동일한 방식으로 관리하는 기능을 출시했습니다. 관리자는 특정 도구 호출을 제한하거나 특정 조건에서만 도구를 실행하도록 정책을 설정합니다.
교차검증기존의 MCP 서버는 연결된 에이전트에게 모든 도구를 무차별적으로 노출하는 구조를 가집니다. 이로 인해 에이전트가 읽기 전용 권한만 가져야 하는 상황에서도 쓰기나 삭제 권한을 행사할 위험이 존재합니다.
팩트유니티 AI 게이트웨이는 모든 도구 호출을 실시간으로 감시하고 정책을 강제합니다. 호출된 모든 요청은 페이로드 로그로 기록되어 사후 조사를 지원합니다.
교차검증현재 많은 AI 에이전트 환경에서는 도구 호출 기록이 모델 로그나 애플리케이션 로그에 남지 않습니다. 따라서 에이전트가 어떤 인수를 사용하여 어떤 행동을 했는지 추적할 수 없는 보안 공백이 발생합니다.
팩트유니티 카탈로그의 서비스 정책은 구조화 질의어(SQL, Structured Query Language)를 사용하여 정의됩니다. 관리자는 호출자의 속성과 컨텍스트를 확인하여 도구 호출을 허용하거나 거부합니다.
팩트페이로드 로깅 기능은 모든 도구 호출을 델타 테이블에 자동으로 저장합니다. 도구 이름, 인수, 결과, 사용자 식별 정보 등이 포함되며 SQL로 즉시 조회 가능합니다.
주장기업은 AI 에이전트의 오작동을 예방하기 위해 도구 사용에 대한 세밀한 접근 제어를 수행해야 합니다. 유니티 카탈로그는 데이터 거버넌스 개념을 AI 에이전트 도구 영역까지 확장하여 보안을 강화합니다.
팩트정책 함수는 호출자와 컨텍스트라는 두 가지 인수를 받아 허용 또는 거부 여부를 결정합니다. 이 과정에서 에이전트나 MCP 서버의 코드를 수정할 필요가 없어 도입이 간편합니다.
출처데이터브릭스 공식 블로그의 'Stop Rogue AI: How Unity Catalog Secures Your Agent Actions' 게시물을 교차 검증했습니다.
본 기사는 전문가의 분석과 공개 자료를 기반으로 AI가 작성 후 다른 AI의 검증을 거쳐 작성됐으며 정보의 정확성과 완전성을 보장하지 않습니다. 기사 내용은 특정 투자·의사결정의 권유가 아니며, Wittgenhaus는 이를 근거로 한 행위의 결과에 책임을 지지 않습니다.
