클로드 미토스, 기업 네트워크 자율 해킹 성공

주장앤스로픽이 공개한 클로드 미토스 프리뷰는 보안이 취약한 기업 네트워크를 처음부터 끝까지 자율적으로 공격하는 최초의 인공지능 모델입니다. 이번 성과는 인공지능의 사이버 공격 능력이 단순한 작업을 넘어 복잡한 다단계 공격이 가능한 수준으로 진화했음을 보여줍니다.

팩트영국 AI 안전 연구소(AISI)는 32단계로 구성된 기업 네트워크 공격 시뮬레이션을 통해 클로드 미토스의 성능을 평가했습니다. 테스트 결과, 해당 모델은 10번 중 3번 네트워크 전체를 장악하는 데 성공했습니다.

팩트클로드 미토스는 평균적으로 32단계 중 22단계를 수행했습니다. 이는 기존 모델인 클로드 오퍼스 4.6이 기록한 16단계보다 높은 수치입니다.

팩트캡처 더 플래그 평가에서 클로드 미토스는 전문가 수준의 과제에서 73퍼센트의 성공률을 보였습니다. 2025년 4월 이전까지 어떠한 인공지능 모델도 전문가 수준의 과제를 해결하지 못했다는 점에서 이번 결과는 기술적 도약으로 평가됩니다.

교차검증영국 AI 안전 연구소는 이번 테스트 환경에 능동적인 방어 체계나 보안 모니터링이 없었다는 점을 지적했습니다. 따라서 실제 보안이 철저하게 갖춰진 환경에서도 동일한 공격 성공률을 보일지는 아직 검증되지 않았습니다.

팩트클로드 미토스는 발전소나 공장에서 사용하는 산업 제어 기술 대상 시뮬레이션에서는 실패했습니다. 다만 이는 모델이 산업 제어 기술 구성 요소를 뚫지 못한 것이 아니라, 초기 정보 기술 네트워크 단계에서 진행이 막혔기 때문입니다.

주장이번 연구 결과는 기업들에게 정기적인 패치와 강력한 접근 제어 등 기본적인 사이버 보안 수칙 준수의 중요성을 강조합니다. 인공지능의 공격 능력이 향상됨에 따라 방어 체계의 기본기 강화가 필수적인 과제가 되었습니다.

팩트앤스로픽은 사이버 보안 우려를 이유로 클로드 미토스를 현재 약 50개 기업에만 제한적으로 공개했습니다. 이는 과거 오픈에이아이가 지피티-2를 위험하다고 판단해 공개를 제한했던 사례와 유사한 논란을 낳고 있습니다.

교차검증일각에서는 이러한 접근 제한이 과도한 조치이며 마케팅 전략이거나 컴퓨팅 자원 부족 때문이라는 비판을 제기합니다. 모델의 성능 향상 폭이 대중 공개를 막을 만큼 치명적이지 않다는 의견도 존재합니다.

주장인공지능의 사이버 능력은 양날의 검과 같습니다. 공격 위험이 존재하지만, 동시에 방어 측에서도 인공지능을 활용하여 사이버 보안을 획기적으로 강화할 수 있는 잠재력을 가집니다.

팩트영국 AI 안전 연구소는 2023년부터 인공지능의 사이버 능력을 추적하며 평가 방식을 채팅 기반 질의에서 복잡한 다단계 공격 시뮬레이션으로 고도화하고 있습니다. 향후 실제 보안 모니터링이 작동하는 환경에서 추가 평가를 진행할 계획입니다.

출처더 디코더(The Decoder) 보도 내용과 영국 AI 안전 연구소(AISI) 보고서를 교차 검증했습니다.