앤스로픽 인공지능 텍스트 워터마크 도입과 창작 가치 논란

주장앤스로픽은 인공지능 모델 클로드가 생성하는 텍스트에 인공지능 생성물임을 나타내는 워터마크를 포함합니다. 이 기술은 텍스트에 별도의 숨겨진 문자나 메타데이터를 추가하는 방식을 사용하지 않습니다.

팩트워터마크는 인공지능이 단어를 선택할 때 사용하는 무작위성의 근원을 변경하는 방식으로 작동합니다. 앤스로픽은 특정 키와 이전 단어들을 조합해 모델이 선택할 단어를 결정함으로써 결과물에 패턴을 남깁니다.

교차검증비평가들은 이러한 방식이 글쓰기의 본질을 훼손한다고 지적합니다. 저널리즘 학자 제프 자비스는 앤스로픽이 단어를 대체 가능한 것으로 취급하며 글쓰기의 가치를 평가절하하고 있다고 비판했습니다.

팩트앤스로픽은 내부 테스트 결과 워터마크가 콘텐츠의 품질과 창의성 및 가독성에 아무런 영향을 미치지 않았다고 밝혔습니다. 이들은 독자가 워터마크가 적용된 텍스트와 그렇지 않은 텍스트를 구분할 수 없다고 설명합니다.

주장앤스로픽의 접근 방식은 글쓰기를 확률적인 게임으로 간주하는 데이터 과학적 관점에 치우쳐 있습니다. 이는 인간이 단어를 선택할 때 고려하는 문맥적 미묘함과 의도를 완전히 배제한 결과입니다.

팩트이번 워터마크 기술은 구글 연구진이 개발한 신스아이디를 기반으로 합니다. 구글의 연구에 따르면, 워터마크가 적용된 모델과 그렇지 않은 모델에 대한 사용자 선호도 차이는 약 0.01퍼센트에 불과했습니다.

교차검증챗봇 사용자의 긍정적 또는 부정적 피드백을 통해 글쓰기 품질을 평가하는 데는 한계가 있습니다. 이는 글쓰기의 예술적 가치나 문학적 완성도를 측정하는 지표로 보기 어렵다는 지적이 나옵니다.

주장앤스로픽은 이번 조치가 유럽연합의 새로운 인공지능 규정을 준수하기 위한 것이라고 밝혔습니다. 그러나 기술 기업들이 인공지능 생성물을 판별하는 과정에서 언어의 고유한 가치를 경시하고 있다는 비판은 피하기 어렵습니다.

팩트앤스로픽은 코드 생성과 같은 분야에서는 정확한 출력이 필수적이라고 인정하면서도, 일반적인 글쓰기에서는 단어 선택이 대체 가능하다고 보고 있습니다. 이는 인공지능이 인간의 창작 과정을 모방할 뿐, 인간처럼 글을 쓰는 것은 아니라는 점을 시사합니다.

출처404 미디어(https://www.404media.co/anthropics-text-watermarking-proves-ai-companies-do-not-care-at-all-about-writing/) 및 앤스로픽 공식 블로그(https://www.anthropic.com/news/claude-text-watermark)의 보도를 교차 검증했습니다.