앤스로픽 아모데이 CEO의 오픈 웨이트 모델 위험성 경고와 규제 강화 제안

주장다리오 아모데이 앤스로픽 최고경영자는 강력한 오픈 웨이트 모델이 심각한 안보 위험을 초래할 수 있다는 기존 입장을 재확인했습니다. 그는 오픈 웨이트 모델 자체를 원칙적으로 반대하지 않으며 위험한 기능이 없는 모델은 공공의 이익에 기여한다고 설명했습니다.

팩트아모데이 최고경영자는 공식 블로그를 통해 앤스로픽이 오픈 웨이트 모델의 전면적인 금지를 옹호한 적이 없음을 분명히 했습니다. 그는 위험한 능력을 갖추지 않은 모델은 사회에 긍정적인 기여를 할 수 있다고 덧붙였습니다.

팩트그는 두 가지 주요 위협으로 권위주의 국가의 군사적 우위 확보와 오픈 모델을 악용한 사이버 및 생물학적 공격을 꼽았습니다. 이미 폐쇄형 모델에서도 이러한 악용 시도가 데이터로 확인되고 있다고 그는 경고했습니다.

팩트오픈 웨이트 모델은 안전 장치가 부족하고 배포 후 회수가 불가능하다는 점에서 위험성이 높습니다. 특히 생물학적 위협의 경우 모델을 이용한 바이러스 무기화 속도가 방어 체계 구축 속도보다 빠르다는 불균형이 존재합니다.

팩트영국 인공지능 안전 연구소의 조사에 따르면 오픈 웨이트 모델은 사이버 보안 분야에서 최첨단 모델보다 성능이 몇 달 정도 뒤처집니다. 아모데이 최고경영자는 과거 자신의 모델 성능에 대해서도 직접 경고를 보냈으며 이는 미국 정부의 규제 조치를 이끌어내는 계기가 됐습니다.

주장아모데이 최고경영자는 중국이 미국산 반도체 없이 강력한 모델을 훈련하지 못하도록 더 엄격한 칩 수출 통제를 요구합니다. 그는 중국이 산업용 증류 기술을 통해 미국의 인공지능 성과에 무임승차하는 상황을 차단해야 한다고 강조합니다.

교차검증반대 측에서는 미국의 칩 수출 제한이 오히려 중국 자체 반도체 산업의 성장을 가속화할 뿐이라고 지적합니다. 또한 산업용 증류 기술은 인공지능 분야에서 합법적이고 유용한 기술적 방법론이라는 반론도 제기됩니다.

교차검증비평가들은 앤스로픽이 자사의 비즈니스를 저렴한 경쟁 모델로부터 보호하기 위해 오픈 웨이트 모델을 폄하한다고 주장합니다. 오픈에이아이 역시 공개적으로는 반대 서한에 서명했으나 내부적으로는 오픈 웨이트 모델에 반대하는 로비를 지속한다는 의혹이 있습니다.

팩트아모데이 최고경영자는 모델의 출처나 라이선스 방식과 관계없이 모든 강력한 모델에 대해 의무적인 안전 테스트를 실시해야 한다고 제안했습니다. 최근에는 스타트업이나 연구용의 덜 강력한 모델은 규제에서 제외하자는 제안에 대해 공감대가 형성됩니다.

주장이러한 규제 논의는 인공지능 기술의 발전 속도와 안전성 확보 사이의 균형을 찾는 과정에서 필수적인 절차입니다. 기술의 개방성과 국가 안보라는 두 가치가 충돌하는 지점에서 명확한 기준 마련이 필요합니다.

팩트인공지능 모델의 위험성을 평가하는 기준은 점차 고도화되고 있습니다. 기술적 방법론에 대한 논의와 더불어 국제적인 협력 체계 구축이 향후 인공지능 산업의 핵심 과제로 부상했습니다.

출처더 디코더(The Decoder)의 보도 내용과 앤스로픽 공식 블로그를 교차 검증했습니다.