AI 에이전트 안전성 확보 위한 경량화 프레임워크 'AgentDoG 1.5' 공개

주장인공지능 에이전트의 활용 범위가 넓어지면서 보안과 안전성 문제가 핵심 과제로 떠올랐습니다. 둥루이 리우를 포함한 다국적 연구진은 이러한 위협에 대응하기 위해 경량화된 안전 정렬 프레임워크인 'AgentDoG 1.5'를 개발했습니다.

팩트연구진은 오픈클로(OpenClaw)와 같은 최신 에이전트 환경에서 발생하는 새로운 위험 요소를 정의하고 이를 안전 분류 체계(Taxonomy)에 반영했습니다. 이 체계는 에이전트가 수행하는 작업의 위험성을 사전에 식별합니다.

팩트AgentDoG 1.5는 8억 개에서 80억 개 사이의 파라미터(매개변수) 규모를 가진 네 가지 버전으로 구성됩니다. 연구진은 단 1천 개의 학습 데이터 샘플만을 활용해 이 모델들을 최적화했습니다.

팩트해당 모델은 GPT-5.4와 같은 최상위 폐쇄형 모델과 대등한 수준의 안전성 성능을 기록했습니다. 이는 적은 데이터로도 높은 효율을 낼 수 있음을 입증합니다.

주장이번 연구의 핵심은 영향력 함수 정화(Influence-function purification) 기술을 활용한 데이터 엔진입니다. 이 기술은 데이터의 품질을 높여 모델이 학습 과정에서 불필요한 정보를 걸러내도록 돕습니다.

팩트연구진은 에이전트 안전성을 위한 지도 미세 조정(SFT, Supervised Fine-Tuning)과 강화 학습(RL, Reinforcement Learning) 환경을 구축했습니다. 이를 통해 도커(Docker) 수준의 환경에서 배포 오버헤드를 100배가량 절감했습니다.

주장AgentDoG 1.5는 실시간 안전 조정을 위한 학습 불필요(Training-free) 온라인 가드레일로도 활용됩니다. 이는 에이전트가 실시간으로 위험한 명령을 차단하도록 지원합니다.

교차검증본 연구는 아카이브(arxiv)에 공개된 사전 논문으로, 아직 학계의 공식적인 동료 평가(Peer review) 과정을 거치지 않았습니다. 따라서 연구 결과의 학술적 타당성은 향후 검증이 필요합니다.

교차검증모델의 범용성 측면에서도 한계가 존재합니다. 특정 환경인 오픈클로와 코덱스(Codex) 시나리오에 최적화된 데이터셋을 사용했기에, 다른 도메인이나 미지의 공격 패턴에 대해서는 성능이 저하될 가능성이 있습니다.

팩트연구진은 개발된 모든 모델과 데이터셋을 오픈소스로 공개했습니다. 이는 관련 분야 연구자들이 에이전트 보안 기술을 발전시키는 데 기여할 것으로 보입니다.

주장AI 에이전트의 복잡성이 증가하는 상황에서 AgentDoG 1.5는 실용적인 보안 해법을 제시합니다. 특히 자원이 제한된 환경에서도 강력한 안전망을 구축할 수 있다는 점이 큰 강점입니다.

출처arxiv의 선공개 논문(https://arxiv.org/abs/2605.29801)을 참고했습니다.