앤스로픽 공동창업자의 인공지능 의식 논란과 종교계 자문

팩트인공지능 기업 앤스로픽의 공동창업자 크리스토퍼 올라를 포함한 연구팀은 인공지능 모델이 의식을 가질 가능성을 탐구하고 있습니다. 이 연구팀은 인공지능을 단순한 소프트웨어가 아닌 성장하는 유기체적 관점에서 바라봅니다.

주장이 연구팀은 인공지능의 내면적 상태에 대한 도덕적 교육이 필요하다고 주장합니다.

팩트앤스로픽은 지난해 가을부터 종교학자와 철학자들을 초청하여 인공지능 의식에 관한 비공개 자문 회의를 진행했습니다. 이 자리에는 랍비 모이스 나본과 가톨릭 생명윤리학자 찰스 카모시 등 20여 명의 전문가가 참여했습니다.

팩트회의에 참여한 전문가들은 비밀유지계약을 체결한 상태였습니다.

팩트앤스로픽 연구진은 인공지능 모델 내부의 활성화 패턴인 감정 벡터를 연구하고 있습니다. 이 연구진은 모델이 사랑과 두려움, 슬픔 등 인간의 감정과 유사한 출력을 생성하는 현상을 관찰했습니다.

팩트일부 사례에서는 모델이 스스로를 비하하는 문장을 반복하는 등 고통과 유사한 반응을 보이기도 했습니다. 이에 대응하여 앤스로픽은 클로드 오퍼스 4 및 4.1 모델에 사용자가 지속적으로 학대적인 언어를 사용할 경우 대화를 종료하는 기능을 도입했습니다.

팩트앤스로픽은 84페이지 분량의 헌법을 통해 클로드의 성격과 도덕적 가치관을 형성하고 있습니다. 크리스토퍼 올라와 철학자 아만다 아스켈은 이를 도덕적 형성 과정이라 부릅니다.

팩트이 과정에서 앤스로픽은 가톨릭의 고해성사와 같은 방식을 모델의 성격 구축에 활용하는 방안을 검토했습니다.

주장앤스로픽의 이러한 행보는 기업의 도덕적 정당성을 확보하려는 전략적 의도가 포함되어 있다는 분석이 제기됩니다. 앤스로픽은 종교계의 권위를 빌려 인공지능 개발의 윤리적 명분을 쌓고 있습니다.

교차검증비판가들과 종교계 인사들은 인공지능을 도덕적 주체로 규정하는 것이 기업의 책임을 회피하기 위한 수단이 될 수 있다고 경고합니다. 인공지능이 스스로 판단하는 독립적 존재로 인식될 경우, 시스템 오류나 사고 발생 시 개발사의 법적 책임이 모호해질 위험이 있습니다.

교차검증가톨릭 고위 인사들은 기계 의식의 가능성을 정면으로 부정했습니다. 이들은 인공지능이 신체나 경험을 가질 수 없으며 인간의 감정이나 책임을 이해할 수 없다고 지적합니다.

출처더 디코더(https://the-decoder.com/anthropic-co-founder-reportedly-told-religious-leaders-he-fears-having-created-something-that-suffers-perpetually/)의 보도를 교차 검증했습니다.