디스코드, AI 오류로 사용자 8천 명 부당 정지 인정

팩트디스코드가 지난 2개월 동안 인공지능(AI) 기반 자동 중재 시스템의 오류로 8천 명 이상의 사용자를 잘못 정지했다고 밝혔습니다. 이번 사태는 시스템이 무해한 이미지를 유해 콘텐츠로 오인하면서 발생했습니다.

팩트오류의 주된 원인은 스프레드시트와 체스판, 게임 텍스처 등 격자무늬가 포함된 이미지를 유해 자료로 잘못 분류한 것입니다. 시스템은 지난 5월부터 오작동을 시작했으며, 수정 직전 주말에만 200명의 사용자가 추가로 정지되었습니다.

팩트디스코드의 자동 안전 시스템은 업로드된 콘텐츠를 유해 자료 데이터베이스와 대조하는 방식으로 작동합니다. 본래 인간 중재자의 검토를 거쳐야 하지만, 이번 버그로 인해 시스템이 즉각적인 계정 정지를 실행했습니다.

팩트회사는 현재 부당하게 정지된 모든 계정을 복구하는 절차를 밟고 있다고 발표했습니다.

교차검증사용자들은 디스코드의 AI가 격자무늬 패턴에 지나치게 민감하게 반응한다고 지적합니다. 과거 일부 사용자가 부적절한 콘텐츠를 숨기기 위해 격자무늬를 악용한 사례가 있어, AI가 이를 과도하게 차단한 것으로 풀이됩니다.

교차검증소셜 미디어 이용자들은 자동화된 정지가 업무와 커뮤니티 활동을 방해한다고 비판합니다. 특히 게임 개발자나 원거리 소통이 중요한 사용자에게 계정 정지는 치명적인 피해를 줍니다.

팩트디스코드 외에도 인스타그램과 페이스북, 텀블러 등 다른 플랫폼에서도 AI 중재 시스템으로 인한 대규모 계정 정지 논란이 지속됩니다. 메타의 경우 감독 위원회가 자동화 시스템의 투명성 강화를 요구하고 있습니다.

주장이번 사건은 플랫폼이 유해 콘텐츠 차단을 위해 자동화 시스템에 지나치게 의존할 때 발생하는 위험성을 보여줍니다. 기술적 효율성보다 사용자의 권익 보호를 위한 인간의 개입이 필수적입니다.

주장플랫폼 기업은 AI의 오탐지 가능성을 인정해야 합니다. 자동화된 제재에 앞서 인간의 검토를 거치는 안전장치를 강화하는 것이 플랫폼 신뢰도를 유지하는 핵심입니다.

주장디스코드는 이번 사태를 계기로 기술적 결함이 사용자에게 미칠 수 있는 피해를 재확인했습니다. 향후 시스템 설계 과정에서 사용자 보호를 최우선으로 고려해야 합니다.

주장자동화된 시스템의 오류를 최소화하기 위해서는 정기적인 데이터 검증과 알고리즘 개선이 필요합니다. 기술적 완성도를 높이는 작업이 플랫폼 운영의 기본이 되어야 합니다.

출처테크크런치(TechCrunch)의 2026년 7월 7일 보도를 통해 해당 내용을 교차 검증했습니다.