유럽연합 규제 대응 오픈에이아이의 텍스트 워터마크 도입

팩트오픈에이아이는 유럽연합 인공지능법 준수를 위해 텍스트 워터마크 기술인 텍스트그레인을 도입합니다.

주장이 기술은 생성된 텍스트에 기계가 읽을 수 있는 통계적 신호를 삽입하여 인공지능 생성물임을 식별하게 합니다.

팩트텍스트그레인은 모델의 단어 선택 과정에 보이지 않는 신호를 심는 방식으로 작동합니다.

교차검증이는 구글의 오픈소스 기술을 활용한 앤스로픽의 신스아이디 워터마크와 유사한 원리입니다.

팩트유럽연합 지역의 챗GPT 및 코덱스 사용자를 대상으로 수주 내 워터마크 기능이 활성화됩니다.

팩트전 세계 응용 프로그램 인터페이스 사용자는 해당 기능을 선택적으로 켜거나 끌 수 있습니다.

교차검증앤스로픽의 클로드는 전 세계적으로 워터마크를 의무화하고 있습니다.

팩트오픈에이아이는 마이크로소프트 애저와 같은 클라우드 파트너를 통해서도 응용 프로그램 인터페이스 워터마크 기능을 제공합니다.

팩트400토큰 분량의 심리학 관련 텍스트에서 1퍼센트의 오탐률을 기준으로 테스트했을 때, 약 95퍼센트의 워터마크 탐지율을 보입니다.

팩트텍스트가 200토큰으로 줄어들 경우 탐지율은 80퍼센트로 감소합니다.

교차검증수학적 콘텐츠의 경우 모델의 단어 선택 자유도가 낮아 탐지율이 하락합니다.

교차검증텍스트의 25퍼센트만 동의어로 수정해도 탐지율이 17퍼센트까지 하락하여 워터마크 회피가 가능합니다.

주장오픈에이아이는 워터마크 적용이 모델의 출력 품질에 영향을 주지 않는다고 밝힙니다.

팩트아스트라 모델을 대상으로 한 8가지 평가 기준 테스트에서 워터마크 유무에 따른 성능 차이는 발견되지 않습니다.

팩트워터마크가 탐지되었다고 해서 해당 텍스트의 인간 창의성이나 편집 정도를 보장하지는 않습니다.

팩트워터마크가 탐지되지 않는다고 해서 인간이 작성했다는 증거가 될 수도 없으며, 소유권이나 책임 소재를 명확히 규정하지 않습니다.

팩트현재 텍스트그레인 탐지 도구는 선별된 연구자와 전문 기관에만 제한적으로 제공됩니다.

팩트오픈에이아이는 유럽연합의 실행 규정에 따라 사례별로 접근 권한을 승인합니다.

교차검증탐지 도구는 오탐 가능성이 존재하므로 회사는 책임 있는 해석이 가능할 때까지 접근 범위를 제한합니다.

팩트기존의 이미지 및 오디오 검증 도구는 계속해서 공개적으로 이용할 수 있습니다.

출처더 디코더(https://the-decoder.com/openai-will-watermark-chatgpt-text-in-the-eu-but-makes-it-optional-for-api-users-worldwide/)의 보도를 교차 검증했습니다.