데이터브릭스, 옴니젠트 기반 맥락 인식 AI 보안 정책 도입

주장데이터브릭스는 인공지능(AI) 에이전트의 세션 상태를 기억하고 이를 바탕으로 다음 행동을 결정하는 맥락 기반 정책을 도입했습니다. 이는 기존의 단순한 규칙 기반 제어 방식이 가진 보안과 편의성의 한계를 극복하기 위한 시도입니다.

팩트옴니젠트는 클로드 코드, 코덱스, 오픈AI 에이전트 SDK 등 다양한 에이전트 프레임워크를 감싸는 메타 하니스 역할을 수행합니다. 사용자는 기존 에이전트를 그대로 유지하면서 옴니젠트를 통해 협업, 구성, 정책 적용 기능을 추가합니다.

팩트맥락 기반 정책은 에이전트가 세션 동안 읽은 문서, 사용한 도구, 지출한 비용 등을 추적하여 상태를 업데이트합니다. 정책 핸들러는 이전 상태와 새로운 이벤트를 입력받아 행동 허용, 거부, 사용자 승인 요청을 결정합니다.

교차검증기존 에이전트 제어 방식은 특정 도구 호출을 무조건 허용하거나 차단하는 방식에 의존했습니다. 이러한 방식은 보안을 강화하면 사용성이 떨어지고, 사용성을 높이면 보안 위험이 커지는 딜레마를 안고 있습니다.

팩트옴니젠트의 비용 정책은 세션별 지출을 추적하여 설정된 예산을 초과할 경우 경고를 보냅니다. 더 저렴한 모델로 전환하도록 유도하거나 사용자별 일일 예산 한도를 설정하여 기업의 AI 운영 비용을 관리합니다.

팩트구글 드라이브 정책은 에이전트가 세션 내에서 직접 생성한 문서만 수정하도록 접근 권한을 제한합니다. 기밀 문서를 읽는 순간 정책이 강화되어 외부 유출을 방지하는 벨-라파둘라 보안 원칙을 구현합니다.

팩트위험 점수 정책은 에이전트의 행동에 따라 실시간으로 위험 수치를 누적합니다. 일상적인 작업에는 낮은 점수를 부여하지만, 기밀 문서 접근 등 민감한 작업 시 점수를 높여 임계치를 넘으면 행동을 차단하거나 추가 승인을 요구합니다.

주장AI 에이전트가 프롬프트 인젝션 공격 등에 노출될 위험이 커짐에 따라 개별 행동 검사만으로는 부족합니다. 에이전트의 이전 행동 이력을 고려하는 맥락 기반 보안은 기업 환경에서 필수적인 요소로 자리 잡습니다.

교차검증옴니젠트와 같은 메타 하니스를 도입하면 에이전트의 모든 도구 호출을 서버가 가로채어 정책을 적용해야 하므로 시스템 복잡도가 증가합니다. 정책 설정이 지나치게 엄격하면 에이전트의 자율적인 업무 수행 효율이 저하될 위험도 존재합니다.

주장기업은 옴니젠트를 통해 AI 에이전트의 자율성을 보장하면서도 통제 가능한 환경을 구축합니다. 이는 AI 도입 과정에서 발생하는 보안 우려를 해소하는 실질적인 대안이 됩니다.

주장데이터브릭스의 이번 정책은 AI 운영의 투명성을 높이고 비용 효율성을 극대화하는 방향으로 나아갑니다. 향후 AI 에이전트의 활용 범위가 넓어질수록 이러한 맥락 기반 제어 기술의 중요성은 더욱 커집니다.

출처데이터브릭스 공식 블로그의 맥락 기반 정책 도입 관련 게시물을 교차 검증했습니다.