텔레그램, AI 성착취물 수익화 생태계의 온상으로 전락

주장인공지능 기술이 비동의 성적 이미지 제작과 유통을 자동화하면서 거대한 수익화 생태계를 형성했습니다. 연구진은 이러한 범죄 행위가 텔레그램의 플랫폼 설계와 밀접하게 연관되어 있다고 분석합니다.

팩트인공지능 포렌식 보고서에 따르면 이탈리아와 스페인의 16개 텔레그램 채널에서 280만 개의 메시지를 분석했습니다. 분석 결과 '봇'이라는 단어가 1만 6232회 등장했으며, 공유된 링크의 49.71%가 인공지능 여자친구 생성기로, 19.14%가 누드 생성 봇으로 연결됩니다.

팩트비동의 성적 이미지 아카이브는 20유로에서 50유로 사이의 일회성 비용이나 월 5유로 이상의 구독료로 판매됩니다. 일부 사용자는 제휴 마케팅을 통해 누드 생성 봇 수익의 최대 40%를 수수료로 챙기는 구조를 보입니다.

팩트결제 수단으로는 페이팔, 암호화폐, 스페인의 비줌 서비스가 주로 사용됩니다. 연구진은 조사 대상 그룹에서 2만 4671명의 활성 사용자를 식별했으며, 스페인 콘텐츠의 72%가 이탈리아 그룹에서도 동일하게 유통되는 사실을 확인했습니다.

교차검증텔레그램은 프리미엄 기능을 통해 채널 폴더 정리와 봇을 이용한 접근 제어를 지원합니다. 이러한 기능은 사용자 편의를 위한 것이지만, 범죄자들이 폐쇄 그룹을 신속하게 재개설하고 운영하는 도구로 악용됩니다.

팩트텔레그램은 2024년 프리미엄 구독을 통해 2억 9200만 달러의 수익을 올렸습니다. 보고서는 텔레그램이 인공지능 기술 등장 초기부터 이러한 봇들이 활동하는 중심지 역할을 수행해 왔다고 지적합니다.

팩트사용자들은 그록이나 제미나이 같은 상용 챗봇의 명령어를 공유하여 이미지를 조작합니다. 특히 특정 해시태그를 통해 여성 틱톡 인플루언서의 합성 이미지와 가짜 음성 파일을 생성하는 사례가 보고됩니다.

교차검증인공지능 기술의 발전으로 성착취물 제작의 기술적 장벽이 낮아지면서 잠재적 피해자 수가 급격히 증가합니다. 이는 단순한 기술 오용을 넘어 조직적인 범죄 비즈니스 모델로 고착화되는 추세입니다.

주장연구진은 텔레그램을 유럽연합의 디지털 서비스법에 따른 초대형 온라인 플랫폼으로 지정해야 한다고 요구합니다. 또한 유럽연합 전역에서 누드 생성 도구를 금지하고 인공지능법에 강제적인 안전장치를 포함할 것을 촉구합니다.

출처더 디코더의 보도와 AI 포렌식의 비동의 성적 이미지 보고서를 교차 검증했습니다.