미 보수 단체, AI 활용해 학교 도서 금지 운동 가속화

주장미국 내 보수 성향 학부모 단체들이 인공지능(AI) 도구를 동원해 학교와 도서관에서 특정 도서를 제거하려는 시도를 강화하고 있습니다. 이들은 AI 기술로 도서 내 부적절한 내용을 신속하게 식별하고 이를 근거로 도서 금지 신청을 추진합니다.

팩트'BLOCKADE'라는 명칭의 프로그램은 엑스에이아이(xAI)나 오픈에이아이(OpenAI)의 응용 프로그램 인터페이스(API)를 사용하여 피디에프(PDF) 및 이펍(ePUB) 형식의 도서 내용을 분석합니다. 해당 프로그램은 약 300개의 단어 목록을 기반으로 도서의 부적절성 점수를 산출하며 보수적 가치에 반하는 내용을 공격적으로 찾아냅니다.

팩트이러한 도구들은 과거 키워드 개수를 세는 방식을 넘어 더 빠르고 대규모로 도서를 검열합니다. 펜 아메리카(PEN America)의 케이시 미한은 이러한 도구들이 도서의 맥락을 완전히 제거하고 있다고 비판합니다.

교차검증빙햄턴 대학교의 제레미 블랙번 교수는 AI 모델이 무엇을 포르노그래피나 보수적 가치로 정의할지에 대한 통제권을 챗봇에 넘기는 것은 무책임한 처사라고 지적합니다. AI는 맥락을 이해하지 못한 채 단어의 빈도나 특정 매개변수에만 의존하여 도서를 평가할 위험이 큽니다.

팩트유타주의 활동가 브룩 스티븐스가 운영하는 'Rated Books'는 AI를 활용해 도서가 주법을 위반했는지 판단하는 실험을 지속합니다. 이들은 유타주의 '밝은 선(bright-line)' 규칙을 적용하여 미성년자에게 유해한 성적 묘사가 포함된 도서를 찾아내려 합니다.

교차검증스티븐스 본인조차 AI가 실제 법적 기준보다 더 엄격하게 적용되는 경향이 있다고 인정합니다. AI는 인간이 법 위반이라고 판단하지 않을 내용까지도 유해한 것으로 분류하는 오류를 범합니다.

팩트유타주는 최소 3개 교육구에서 금지된 도서를 주 전체 학교에서 퇴출하는 법안을 시행 중입니다. 이로 인해 이미 20권 이상의 도서가 학교에서 사라졌으며, 결정 과정에 AI가 생성한 편향된 보고서가 증거로 제출됩니다.

교차검증지역 감시 단체인 'Let Davis Read'의 제시카 호튼은 위원회가 AI 보고서의 편향된 정보에 의존하여 도서를 금지하려는 경향이 있다고 경고합니다. 맥락이 제거된 채 '포르노'라는 딱지가 붙은 보고서가 위원회의 판단을 왜곡합니다.

팩트최근 'National Book Rating Index'는 'NarraTrue'라는 AI 콘텐츠 스캐너를 출시했습니다. 이 서비스는 5달러의 비용으로 도서 내 민감한 내용을 스캔해주며, 도서 검열을 자동화하고 상업화하려는 시도로 해석됩니다.

출처https://www.404media.co/blockade-the-right-is-using-ai-content-scanners-to-try-to-supercharge-book-banning/