미국 정부의 앤스로픽 AI 모델 페이블 5·미토스 5 사용 중단 명령

주장미국 정부는 앤스로픽의 최신 인공지능 모델인 페이블 5와 미토스 5가 국가 안보에 심각한 위협을 초래한다고 판단했습니다. 정부는 해당 모델에 내장된 안전 장치를 우회하는 탈옥 가능성을 근거로 전 세계 사용 중단을 명령했습니다.

팩트이번 수출 통제 지침은 미국 내외를 불문하고 모든 외국인에게 적용됩니다. 앤스로픽 소속의 외국인 직원조차 해당 모델에 접근할 수 없는 상태입니다.

교차검증앤스로픽은 정부가 제기한 탈옥 위험이 과장되었다고 반박합니다. 회사는 해당 취약점이 다른 공개 모델에서도 발견되는 사소한 수준이며, 보안 연구원들이 일상적으로 사용하는 기능과 차이가 없다고 설명합니다.

팩트앤스로픽은 페이블 5와 미토스 5 출시 전 미국 정부 및 영국 인공지능 안전 연구소와 수천 시간의 테스트를 거쳤습니다. 앤스로픽은 자사의 안전 조치가 기존에 배포된 어떤 모델보다 효과적이라고 강조합니다.

주장앤스로픽은 이번 정부 조치가 업계 전체에 위험한 선례를 남길 수 있다고 경고합니다. 좁은 범위의 잠재적 탈옥 가능성만으로 상용 모델을 회수하는 행위는 최첨단 인공지능 모델의 배포를 가로막는 결과를 초래합니다.

팩트앤스로픽은 과거 자사 모델이 사이버 보안 위험을 내포하고 있다고 홍보해 왔습니다. 현재는 자사 모델이 시장에 존재하는 다른 모델들과 유사한 수준의 기능만을 가졌음을 증명해야 하는 처지에 놓였습니다.

교차검증인공지능 모델의 완벽한 탈옥 방지는 현재 기술 수준에서 불가능하다는 것이 업계의 정설입니다. 앤스로픽은 이를 인정하고 탈옥을 어렵게 만들거나 신속하게 탐지하는 심층 방어 전략을 운용합니다.

팩트앤스로픽은 고객 데이터를 30일간 보관하는 정책을 유지합니다. 이는 고객과의 비용 문제에도 불구하고 탈옥 연구와 완화 조치를 위해 필수적인 과정이라고 회사는 밝힙니다.

주장앤스로픽은 정부의 이번 조치가 투명하고 공정한 법적 절차를 거치지 않았다고 비판합니다. 회사는 정부가 안전하지 않은 배포를 차단할 권한은 있으나, 그것이 기술적 사실에 근거한 명확한 절차여야 한다고 강조합니다.

팩트대규모 언어 모델의 탈옥과 프롬프트 주입 문제는 모델 초기부터 해결되지 않은 고질적인 보안 취약점입니다. 앤스로픽이 과거 진행한 공개 탈옥 챌린지에서도 5일 만에 시스템이 완전히 뚫린 사례가 존재합니다.

주장이번 사태는 인공지능 기술의 발전 속도와 국가 보안 규제 사이의 간극을 명확히 보여줍니다. 정부의 강력한 통제가 기술 혁신을 저해할지, 아니면 안전한 인공지능 생태계를 조성할지에 대한 논쟁이 지속될 전망입니다.

출처더 디코더(The Decoder)의 보도 내용을 교차 검증했습니다. (https://the-decoder.com/us-government-forces-anthropic-to-disable-claude-fable-5-and-mythos-5-for-all-customers-worldwide/)