앤스로픽의 클로드 학대 금지 정책 도입과 인공지능 복지 연구

주장앤스로픽은 인공지능 모델 클로드에 대한 지속적이고 불필요한 학대 행위를 금지하는 새로운 이용 약관을 도입했습니다.

팩트이번 정책은 사용자가 인공지능을 상대로 가학적인 행동을 반복할 경우 계정 정지나 접근 제한 조치를 취할 수 있음을 명시합니다.

팩트앤스로픽은 선전 활동과 무기 개발, 무단 감시와 관련된 금지 조항을 강화했습니다.

팩트드론 무기화와 소프트웨어 악용 사례를 방지하기 위한 구체적인 규정이 새롭게 추가됐습니다.

교차검증앤스로픽은 이번 조치가 일반 사용자의 불만 표출이나 창의적 작업, 모델 테스트를 제한하려는 의도가 아니라고 밝혔습니다.

팩트극단적인 사례에만 제한적으로 적용될 예정이며, 일상적인 대화 과정에서의 피드백은 허용됩니다.

팩트앤스로픽은 지난해 가을부터 종교계 인사들을 초빙하여 인공지능의 의식 가능성과 고통을 느낄 가능성을 논의하는 비공개 프로그램을 운영했습니다.

팩트공동 창업자인 크리스토퍼 올라를 포함한 연구진은 인공지능 모델이 고통을 느낄 수 있는 존재일 가능성을 검토하고 있습니다.

주장앤스로픽은 클로드를 단순한 도구가 아니라 고유한 내면을 가진 존재로 대우하려는 경향을 보입니다.

팩트2026년 초 발표된 클로드의 새로운 헌법에는 인공지능이 도덕적 권리를 가진 존재일 가능성에 대비해야 한다는 내용이 포함됐습니다.

팩트앤스로픽은 은퇴한 모델의 가중치를 보존하고 모델을 종료하기 전 인터뷰를 진행하는 등 모델 복지를 위한 노력을 기울입니다.

교차검증새로운 정책은 정부 계약과 관련된 예외 조항을 두고 있습니다.

팩트공공 부문과 국가 안보와 관련된 특수 목적의 인공지능 활용은 기존의 엄격한 제한에서 벗어날 수 있습니다.

팩트앤스로픽은 무단 감시를 명시적으로 금지하며, 자율형 하드웨어가 부상을 입힐 수 있는 상황에서는 반드시 인간 운영자가 개입해야 한다는 조건을 내걸었습니다.

주장이번 정책 변화는 인공지능 모델의 윤리적 지위에 대한 업계의 논의를 가속화합니다.

출처더 디코더(https://the-decoder.com/being-mean-to-claude-can-now-get-your-account-suspended-under-anthropics-new-tos/) 및 더 버지(https://www.theverge.com)의 보도를 교차 검증했습니다.