기업 AI 에이전트 도입 확산과 보안 거버넌스 구축 전략

주장기업들은 인공지능(AI) 에이전트를 조직의 핵심 구성원으로 활용하고 있으나, 이에 상응하는 보안 거버넌스 체계는 갖추지 못했습니다. 에이전트가 민감한 시스템과 데이터에 직접 접근할 권한을 확보하면서 새로운 보안 위협이 발생합니다.

팩트딜로이트 AI 연구소의 2026년 AI 현황 보고서에 따르면, 기업의 74%가 향후 2년 이내에 에이전트형 AI를 도입할 계획입니다. 반면 자율 에이전트에 대한 성숙한 거버넌스 모델을 갖췄다고 응답한 기업은 21%에 불과합니다.

팩트기업 경영진은 AI 도입 시 데이터 개인정보 보호와 보안을 가장 크게 우려합니다. 응답자의 73%가 이를 최우선 과제로 꼽았으며, 법적 문제와 지식재산권 및 규제 준수(50%), 거버넌스 역량과 감독(46%)이 그 뒤를 잇습니다.

교차검증적절한 거버넌스 체계 없이 에이전트를 무분별하게 확장하면 관리되지 않는 실행으로 인해 기업 운영에 막대한 위험을 초래합니다. 에이전트의 동작을 추적하거나 중단할 수 없는 상황은 기업의 운영 안정성을 저해합니다.

주장기업은 AI 에이전트와 이들이 사용하는 도구 및 모델을 통합적으로 관리하고 보호하는 강력한 제어 평면을 구축해야 합니다. 제어 평면은 누가 어떤 권한과 정책으로 에이전트를 실행하는지 중앙에서 관리하는 핵심 계층입니다.

팩트딜로이트 사이버 프랙티스의 앤드류 라플라 수석은 제어 평면 없는 에이전트 확장이 위험하다고 지적합니다. 에이전트가 누구를 대신해 어떤 데이터를 사용했는지 명확히 답변할 수 없다면 기능적인 제어 평면이 존재하지 않는 것과 같습니다.

주장거버넌스는 AI 실험을 실제 생산 환경으로 전환하는 가교 역할을 합니다. 거버넌스가 뒷받침되지 않는 에이전트 배포는 예측 불가능한 방식으로 대규모 실패를 야기할 수 있습니다.

팩트현대 기업 환경에서 비인간 식별자(NHI)의 수가 인간 식별자의 수를 앞지르고 있습니다. 이러한 추세는 에이전트형 AI의 도입과 함께 더욱 가속화될 전망입니다.

교차검증대다수 기업은 에이전트가 시스템의 핵심 권한을 쥐고 있다는 사실을 인지하지 못합니다. 이러한 인식 부재는 기업 내 보안 사각지대와 잠재적인 노출 지점을 만드는 원인이 됩니다.

출처딜로이트 AI 연구소의 2026년 AI 현황 보고서와 테크놀로지 리뷰의 관련 보도를 통해 위 내용을 교차 검증했습니다. (https://www.technologyreview.com/2026/04/21/1136158/building-agent-first-governance-and-security/)