마이크로소프트 코파일럿 악용 자기 복제 웜 발견 및 보안 위협

주장보안 연구원 하콘 말뢰는 마이크로소프트 코파일럿의 프롬프트 주입 취약점을 이용해 스스로 전파되는 웜을 설계했습니다. 이 공격은 인공지능 시스템이 문서 내부의 숨겨진 명령어를 처리하는 방식을 악용하여 보안 위협을 실체화했습니다.

팩트공격자는 워드 문서 내에 흰색 배경과 흰색 글씨를 사용하여 아주 작은 크기의 명령어를 숨겨둡니다. 일반 사용자는 이를 식별할 수 없지만, 코파일럿은 색상과 글꼴 크기 정보를 제거하고 텍스트를 처리하므로 숨겨진 명령어를 인식합니다.

팩트사용자가 해당 문서를 참조 자료로 활용하면 코파일럿은 숨겨진 명령을 실행하고 이를 새로운 파일에 복사합니다. 새로 생성된 파일은 악성 명령을 포함한 운반체가 되어 공격이 연쇄적으로 발생합니다.

팩트시장 분석 보고서와 같은 문서가 감염되면 이를 기반으로 작성되는 모든 재무 보고서가 자동으로 감염됩니다. 이는 기업 내부 문서 체계 전반에 걸쳐 악성 코드가 확산될 수 있음을 의미합니다.

교차검증마이크로소프트는 지난 3월 31일 해당 취약점의 존재를 확인했습니다. 그러나 두 차례의 수정 시도에도 불구하고 근본적인 해결책을 마련하지 못했습니다.

팩트연구원은 취약점 발견 후 144일이 지나도록 수정이 이루어지지 않자 연구 결과를 공개했습니다. 다만, 실제 공격에 사용되는 페이로드 텍스트는 공개하지 않고 보관합니다.

주장인공지능 연구원 안드레아스 키르슈는 인공지능 보안 위험을 회의적으로 보는 시각에 경각심을 주기 위해 이러한 웜 연구가 필요하다고 언급했습니다. 이번 사례는 인공지능 보안이 이론적 위험을 넘어 실질적인 위협이 되었음을 증명합니다.

교차검증프롬프트 주입 공격은 현재 인공지능 업계에서 해결되지 않은 고질적인 보안 문제입니다. 인공지능 모델이 외부 데이터를 처리할 때 발생하는 신뢰성 문제는 여전히 기술적 난제로 남습니다.

주장이번 사건은 기업이 인공지능 도구를 도입할 때 보안 검증 절차를 강화해야 한다는 점을 시사합니다. 자동화된 문서 작성 도구가 오히려 보안 사고의 통로가 될 수 있다는 점을 경계해야 합니다.

주장기업은 인공지능 시스템이 외부 데이터를 처리하는 과정에서 발생하는 비정상적인 명령 실행 가능성을 상시 점검해야 합니다. 보안 정책 수립 시 인공지능 도구의 문서 처리 방식에 대한 기술적 이해가 선행되어야 합니다.

주장인공지능 기술의 발전 속도에 맞춰 보안 체계도 함께 진화해야 합니다. 기술적 취약점이 방치될 경우 기업의 정보 자산이 심각한 위협에 노출될 수 있습니다.

출처더 디코더(The Decoder) 및 엔 클라이프 솔트(En Klype Salt), 안드레아스 키르슈(Andreas Kirsch)의 소셜 미디어 게시물을 통해 해당 내용을 교차 검증했습니다.