오픈AI, 거대언어모델 보안 강화용 해커 AI 'GPT-Red' 개발

주장오픈AI는 자사 거대언어모델의 보안성을 극대화하기 위해 'GPT-Red'라는 인공지능 해커를 개발했습니다. 이 도구는 모델 간 대결을 통해 취약점을 사전에 발견하고 방어 체계를 구축하는 역할을 수행합니다.

팩트오픈AI가 최근 출시한 GPT-5.6은 GPT-Red를 통한 훈련 과정을 거쳤습니다. 이 과정을 통해 이전 모델 대비 공격 성공률을 90% 이상에서 23% 미만으로 낮추는 성과를 보였습니다.

팩트GPT-Red는 인간 레드팀이 수행하던 소프트웨어 취약점 점검 과정을 자동화합니다. 이 시스템은 웹 브라우징, 이메일 확인, 코드 편집 등 실제 환경을 모방한 훈련장에서 공격 기술을 학습합니다.

주장인공지능 모델이 복잡해지고 에이전트 형태로 외부 시스템과 상호작용하는 범위가 넓어지면서, 인간의 수작업만으로는 보안 위협을 모두 대응하기 어렵습니다. 오픈AI는 이러한 위험 표면적 확대에 대비해 미래지향적인 보안 테스트 시스템을 구축했습니다.

팩트GPT-Red는 '프롬프트 인젝션(사용자 입력으로 모델의 동작을 강제하는 공격)'에 집중하여 훈련되었습니다. 특히 연구진이 발견하지 못했던 '가짜 사고 연쇄'라는 새로운 공격 방식을 찾아내어 모델이 잘못된 정보를 사실로 믿게 만드는 취약점을 확인했습니다.

팩트GPT-Red는 앤돈 랩스의 자판기 에이전트 '벤디(Vendy)'를 대상으로 테스트를 진행했습니다. 이 시스템은 해당 에이전트의 가격 설정을 변경하고 주문을 취소하는 등 실제 시스템을 해킹하는 능력을 입증했습니다.

교차검증GPT-Red가 완벽한 보안을 보장하는 것은 아닙니다. 인간 해커와 달리 대화형 공격이나 이미지 기반의 프롬프트 인젝션 공격을 수행하는 데에는 여전히 기술적 한계가 존재합니다.

팩트조지타운 대학교의 제시카 지 연구원은 오픈AI의 자기 대결 방식이 매우 유망하다고 평가했습니다. 다만, 인공지능의 효율성과 인간 전문가의 통찰력을 결합하는 것이 여전히 중요하다고 강조했습니다.

주장오픈AI는 GPT-Red를 외부에 공개하지 않을 방침입니다. 막대한 컴퓨팅 자원과 1년 이상의 연구 기간이 투입된 기술인 만큼, 모방 모델이 쉽게 만들어질 수 없다는 것이 오픈AI 측의 입장입니다.

주장오픈AI는 이번 시스템을 통해 인공지능이 스스로를 방어하는 새로운 보안 패러다임을 제시했습니다. 앞으로도 모델의 자율적인 보안 점검 역량을 강화할 계획입니다.

교차검증다만 인공지능의 자율적 보안 점검이 인간의 통제를 완전히 대체할 수는 없습니다. 기술적 고도화와 함께 윤리적 기준 마련이 병행되어야 합니다.

출처MIT 테크놀로지 리뷰의 2026년 7월 15일 보도를 통해 해당 내용을 교차 검증했습니다.