미 정부의 앤스로픽 페이블 5 출시 승인 절차 위반 논란

주장미국 정부는 앤스로픽이 트럼프 행정부의 사이버 행정명령을 준수하지 않고 인공지능 모델 페이블 5를 독단적으로 출시했다고 평가합니다. 정부 관계자들은 앤스로픽이 모델 공개 전 필요한 승인 절차를 거치지 않았다고 지적합니다.

팩트트럼프 행정부는 인공지능 모델에 대한 정부의 자발적 감독을 골자로 하는 사이버 행정명령을 발표했습니다. 앤스로픽은 해당 행정명령의 취지에 동의했으나, 정부의 승인 기구가 설립되기 전 페이블 5를 시장에 공개했습니다.

주장정부는 앤스로픽이 모델의 탈옥 가능성을 인지하고도 이를 묵인했다고 판단합니다. 탈옥은 인공지능 모델이 안전 가이드라인을 우회하여 부적절한 답변을 생성하는 현상을 의미합니다.

교차검증인공지능 업계는 거대언어모델의 보안 취약점이 현재 기술 수준에서 완벽하게 해결하기 어려운 근본적인 문제라고 반박합니다. 업계는 정부의 요구가 기술적 실현 가능성을 간과한다고 주장합니다.

팩트아마존을 포함한 주요 기술 기업들은 앤스로픽 모델의 탈옥 가능성에 대한 정보를 정부에 제공했습니다. 다만 해당 탈옥의 구체적인 존재 여부나 실제 위험성은 공식적으로 확인되지 않았습니다.

팩트앤스로픽의 다리오 아모데이 최고경영자는 2023년 인공지능 모델의 탈옥이 과학 및 생물학 분야에서 생명과 직결된 위험을 초래할 수 있다고 경고했습니다. 정부는 이 발언을 근거로 앤스로픽의 안전 관리 책임을 강조합니다.

주장미국 상무부와 앤스로픽은 현재 소통에 난항을 겪고 있습니다. 양측은 서로 다른 관점에서 대화를 진행하고 있으며, 향후 중앙정보국과 과학 자문관이 참여하는 추가 회의를 통해 논의를 이어갈 예정입니다.

주장100명 이상의 보안 전문가와 기술 업계 경영진은 페이블 및 미토스 모델에 대한 수출 통제를 해제하라는 공개 서한을 발표했습니다. 이들은 앤스로픽 모델이 소프트웨어 결함을 찾는 데 유용하며, 경쟁 모델들도 유사한 성능을 보유하고 있다고 강조합니다.

팩트알렉스 스타모스, 레이첼 토박, 케이티 무수리스 등 보안 전문가들이 수출 통제 반대 서한에 서명했습니다. 이들은 미국의 수출 통제가 방어자의 도구를 제한하고 중국의 오픈 웨이트 모델과의 기술 격차를 줄일 뿐이라고 경고합니다.

주장앤스로픽은 페이블 출시 당시 업계에서 과도하다고 평가받을 수준의 강력한 안전장치를 모델에 내장했습니다. 그럼에도 정부가 요구하는 완벽한 해킹 방지 모델은 현재 인공지능 기술 수준에서 달성하기 어려운 목표입니다.

주장기술 전문가들은 정부의 규제가 오히려 혁신을 저해할 수 있다고 우려합니다. 이들은 보안 강화와 기술 발전 사이의 균형을 맞추는 정책적 접근이 필요하다고 제언합니다.

출처본 내용은 악시오스의 보도와 더 디코더의 분석 기사를 바탕으로 내용을 교차 검증했습니다. 상세 정보는 https://the-decoder.com/the-us-government-may-be-asking-anthropic-the-impossible-by-demanding-unhackable-llms/ 에서 확인할 수 있습니다.