AI 배변 분석 앱 사용자 데이터 판매 논란

팩트'PoopCheck' 앱 개발자는 사용자 2만 5천여 명으로부터 수집한 배변 이미지 15만 1,317장을 AI 학습용 데이터베이스로 판매하려 시도했습니다. 개발자는 이 데이터가 암 연구 및 머신러닝 학습에 높은 가치를 지닌다고 판단했습니다.

팩트개발자는 1만 개의 AI 검증 이미지를 3,000달러에, 5,000개의 인간 검수 이미지를 4,000달러에 판매하겠다는 구체적인 가격표를 제시했습니다. 이는 데이터 판매를 위한 명확한 의사를 보인 것입니다.

교차검증앱스토어 페이지와 웹사이트는 '개인정보 보호'와 '데이터 수집 없음'을 강조하고 있습니다. 그러나 앱 설치 시 동의하는 서비스 약관은 이와 정반대의 내용을 담고 있어 사용자에게 혼란을 줍니다.

팩트서비스 약관에는 회사가 사용자의 배변 데이터를 전 세계적으로 영구적이고 무제한적으로 사용, 수정, 판매할 수 있는 포괄적인 권한이 명시되어 있습니다. 또한, 계정을 삭제하더라도 이미 AI 모델에 통합된 데이터는 삭제되지 않는다는 조항이 포함되어 있습니다.

주장이번 사건은 건강 관리 앱이 사용자의 민감한 생체 정보를 수집하면서, 실제로는 이를 AI 기업에 판매하기 위한 데이터 확보 수단으로 악용하고 있음을 보여줍니다. 이는 디지털 헬스케어 산업 전반의 신뢰도를 크게 훼손하는 사례입니다.

교차검증앱 내 커뮤니티 기능은 사용자들이 서로의 배변 사진을 공유하고 댓글을 달 수 있도록 설계되어 있습니다. 이러한 공유 과정에서 사용자의 건강 정보가 무분별하게 노출되고, 의학적 근거가 없는 잘못된 정보가 공유되는 부작용이 발생할 수 있습니다.

팩트404 미디어 기자가 구매 의사를 밝히자, 개발자 '마르코'는 즉시 샘플 데이터를 제공하며 구체적인 거래 조건을 협의했습니다. 기자가 AI 학습용으로 1만 개의 데이터를 요청하자, 개발자는 인간이 직접 검수한 데이터와 AI가 검증한 데이터를 구분하여 가격을 책정했습니다.

주장사용자가 자신의 건강을 위해 제공한 데이터가 본인의 동의 없이 상업적 AI 모델의 학습 재료로 전락하는 것은 심각한 윤리적 문제입니다. 특히 민감한 신체 정보가 포함된 데이터의 경우, 기업의 투명한 정보 공개와 엄격한 규제가 필수적입니다.

교차검증기업은 약관을 통해 법적 책임을 회피하고 있으나, 앱스토어의 설명란에는 데이터를 수집하지 않는다고 명시하여 사용자를 기만하고 있습니다. 이러한 이중적인 태도는 사용자가 자신의 데이터가 어떻게 활용되는지 정확히 인지하지 못한 채 동의하게 만드는 결과를 초래합니다.

출처404 미디어 기사(https://www.404media.co/ai-poop-analysis-app-offered-to-sell-me-access-to-its-users-poops/) 및 PoopCheck 서비스 약관을 교차 검증했습니다.