앤스로픽, 위험성 이유로 클로드 미토스 프리뷰 공개 보류

주장앤스로픽은 자사 최신 인공지능 모델인 클로드 미토스 프리뷰가 일반 대중에 공개하기에는 지나치게 위험하다고 판단했습니다. 회사는 이 모델을 사이버 보안 방어 목적으로만 활용하는 글래스윙 프로젝트를 시작했습니다.

팩트클로드 미토스 프리뷰는 오픈BSD 운영체제에서 27년간 발견되지 않았던 TCP SACK 구현 버그를 찾아냈습니다. 또한 미디어 라이브러리인 FFmpeg에서 16년 된 H.264 코덱 취약점을 발견하며 기존 자동화 도구가 놓친 문제들을 해결했습니다.

팩트해당 모델은 단순히 취약점을 찾는 수준을 넘어 이를 악용하는 익스플로잇 코드까지 생성합니다. 이전 모델인 클로드 오퍼스 4.6이 거의 성공하지 못했던 자동화된 익스플로잇 개발 분야에서 미토스는 압도적인 성능을 보였습니다.

팩트코딩 벤치마크인 SWE-벤치 검증에서 미토스 프리뷰는 93.9%의 점수를 기록했습니다. 이는 이전 모델인 오퍼스 4.6의 80.8%를 상회하는 수치이며, 미국 수학 올림피아드 문제에서도 97.6%의 정답률을 기록하며 비약적인 지능 향상을 입증했습니다.

팩트앤스로픽은 이번 프로젝트를 위해 아마존, 구글, 마이크로소프트, 엔비디아 등 11개 주요 기술 기업 및 기관과 협력합니다. 이들은 모델 사용을 위한 크레딧 지원과 오픈소스 보안 단체 기부금 400만 달러를 포함해 총 1억 달러 규모의 지원을 약속했습니다.

팩트2019년 오픈AI는 GPT-2 모델이 가짜 뉴스를 생성할 위험이 있다는 이유로 전체 공개를 보류한 바 있습니다. 당시 업계는 이를 홍보용 전략으로 보기도 했으나, 앤스로픽은 실제 운영체제와 브라우저의 취약점을 발견한 데이터를 근거로 제시했습니다.

주장앤스로픽 공동 창업자인 잭 클라크는 과거 오픈AI에서 GPT-2의 단계적 출시 전략을 주도했습니다. 그는 앤스로픽을 통해 책임 있는 확장 정책과 시스템 카드 도입 등 더욱 강화된 안전 표준을 업계에 제시합니다.

교차검증과거 업계는 모델을 숨기기보다 보안 가이드라인을 마련하고 안전 조치를 강화한 뒤 출시하는 방식을 택했습니다. 앤스로픽의 이번 결정은 이러한 관행에서 벗어나 모델 공개를 제한하는 방향으로 회귀했다는 평가를 받습니다.

교차검증앤스로픽은 미토스 모델의 위험성을 인지하고 클로드 오퍼스 모델을 통해 안전 장치를 정교화한 뒤 미토스급 모델을 점진적으로 공개할 계획입니다. 보안 전문가들은 사이버 검증 프로그램을 통해 제한적으로 모델에 접근할 수 있습니다.

출처더 디코더(The Decoder)의 'GPT-2에서 클로드 미토스까지: 공개하기에 너무 위험하다고 판단된 AI 모델의 귀환' 기사를 교차 검증했습니다.