키미 K3의 사이버 공격 역량과 미국 모델 간 기술 격차 분석

주장중국의 인공지능 모델인 키미 K3는 사이버 공격과 네트워크 침투 테스트에서 미국 최첨단 모델에 비해 현저히 낮은 성능을 보였습니다. 이는 중국의 인공지능 기술이 빠르게 추격하고 있으나 미국 시스템과의 격차를 완전히 극복하지 못했음을 의미합니다.

팩트영국 인공지능 안전 연구소와 미국 인공지능 표준 혁신 센터는 공동으로 키미 K3의 사이버 보안 능력을 평가했습니다. 평가 결과 키미 K3는 카네기 멜론 대학교가 개발한 익스플로잇 벤치마크에서 32.2퍼센트의 점수를 기록했습니다.

팩트미국 최첨단 모델들은 동일한 벤치마크에서 평균 76.2퍼센트의 점수를 기록하며 압도적인 성능 차이를 나타냈습니다. 특히 키미 K3는 시스템의 완전한 제어권을 획득하는 임의 코드 실행 단계에 단 한 번도 도달하지 못했습니다.

교차검증키미 K3는 중국의 GLM-5.2 모델보다는 우수한 성적을 거두며 오픈 웨이트 모델 분야에서 새로운 기준을 제시했습니다. 그러나 미국 모델들이 41개 작업 중 20개에서 임의 코드 실행에 성공한 점을 고려하면 키미 K3의 공격 역량은 여전히 제한적입니다.

팩트네트워크 공격 시뮬레이션인 티엘오 테스트에서 키미 K3는 32단계 중 평균 17단계까지만 도달했습니다. 미국 모델들이 평균 28.5단계를 수행한 것과 비교하면 절반 수준의 공격 경로를 확보하는 데 그쳤습니다.

주장키미 K3가 일반적인 벤치마크에서는 우수한 성적을 내면서도 사이버 공격 능력에서 뒤처지는 이유는 모델 증류 방식 때문으로 분석됩니다. 미국 모델의 출력을 학습 데이터로 사용하는 과정에서 안전 장치에 의해 차단된 공격 데이터가 누락되었기 때문입니다.

팩트마이클 크라시오스 미국 과학 고문은 문샷 에이아이가 앤스로픽의 페이블 모델을 증류하여 키미 K3를 학습시켰다고 밝혔습니다. 또한 문샷 에이아이가 미국의 수출 통제 대상인 엔비디아 지비300 칩을 사용했다는 의혹이 제기되었습니다.

교차검증영국 인공지능 안전 연구소는 미국 모델의 시스템 수준 안전 장치를 해제한 상태에서 최대 성능을 측정했습니다. 일반적인 공개 인터페이스를 통해서는 이러한 깊은 수준의 공격 역량을 추출하거나 증류하기가 사실상 불가능합니다.

주장인공지능 모델의 사이버 공격 능력이 향상됨에 따라 오픈 웨이트 모델의 오용 위험은 지속적이고 돌이킬 수 없는 수준으로 커지고 있습니다. 연구소는 이러한 기술 격차가 존재하더라도 안주해서는 안 된다고 경고합니다.

주장인공지능 기술의 발전 속도가 빠른 만큼 사이버 보안 체계의 강화가 시급합니다. 모델의 설계 단계부터 안전성을 검증하는 체계적인 접근이 필요합니다.

주장향후 인공지능 모델의 공격 역량 평가를 위한 국제적인 표준화 작업이 요구됩니다. 기술적 우위를 점하기 위한 경쟁보다 안전한 인공지능 생태계 조성이 우선되어야 합니다.

출처더 디코더(The Decoder)의 보도 내용을 교차 검증했습니다.