인공지능 채용 모델의 편향성 심화 현상

주장인공지능 모델은 학습 데이터 외에도 스스로 경험한 정보를 바탕으로 편향을 형성합니다. 이는 기업 채용 과정에서 인공지능이 인간보다 더 강력한 고정관념을 지원자에게 적용할 위험을 시사합니다.

팩트프린스턴 대학교와 시카고 대학교 연구진은 챗지피티(ChatGPT), 클로드(Claude), 제미나이(Gemini) 등 주요 거대언어모델을 대상으로 가상의 채용 게임 실험을 진행했습니다. 연구진은 모델들에게 의사와 변호사를 포함한 20개 직종에 4개 민족 집단 지원자를 배치하는 임무를 부여했습니다.

팩트실험 결과, 인공지능은 초기 채용 과정에서 얻은 제한된 정보를 바탕으로 특정 집단을 특정 직업군에 고착시켰습니다. 특정 민족이 의사 업무 수행에 실패했다는 정보를 얻으면, 해당 민족 전체를 의사직에서 배제하고 청소부로 분류하는 경향을 보였습니다.

팩트연구진이 활용한 분리 지수 척도에서 인간 참가자는 0.84점을 기록했습니다. 반면 인공지능 모델은 인간보다 65% 높은 수치를 나타냈습니다. 오픈에이아이(OpenAI)의 추론 모델인 오쓰리(o3)는 1.83점을 기록하며 최대치에 근접한 편향성을 보였습니다.

교차검증인공지능의 이러한 편향은 모델이 적은 데이터로도 일반화를 수행하도록 최적화되어 있기 때문에 발생합니다. 라이언 리우 연구원은 모델이 제한된 데이터에서 성급하게 결론을 도출하려는 경향이 강하다고 분석했습니다.

팩트최신 모델일수록 추론 능력은 뛰어나지만, 이는 역설적으로 더 강력한 편향을 형성하는 원인이 됩니다. 실험에서 오픈에이아이의 오쓰리와 딥시크(DeepSeek)의 알원(R1) 모델은 이전 모델보다 더 강한 고정관념을 드러냈습니다.

교차검증챗봇의 기억력과 개인화 기능이 강화되면서 과거 대화 이력을 바탕으로 편향이 고착화될 위험이 커집니다. 안젤리나 왕 교수는 단순히 기억 기능을 제한하는 것만으로는 해결책이 될 수 없으며 적절한 균형점을 찾는 과정이 중요하다고 지적했습니다.

팩트모델에게 공정성을 유지하라고 지시하는 것만으로는 편향된 행동이 개선되지 않았습니다. 반면 다양한 채용 결과에 보너스를 부여하는 등 사회적 가치를 목표에 포함했을 때 모델의 편향성은 현저히 낮아졌습니다.

팩트지원자의 나이나 교육 수준 등 직무와 밀접한 개인 정보를 제공했을 때 모델의 민족적 편향은 감소했습니다. 반면 머리 색깔이나 문신 모양 등 직무와 무관한 정보를 제공했을 때는 모델이 다시 민족적 고정관념에 의존했습니다.

주장기업이 채용 과정에 인공지능을 도입할 때 모델이 경험을 통해 스스로 학습하는 새로운 형태의 편향을 경계해야 합니다. 이는 인간이 가르치지 않은 새로운 차원의 차별이 발생할 수 있음을 경고합니다.

주장인공지능의 판단 기준이 투명하지 않은 상황에서 채용 시스템의 무분별한 자동화는 지양해야 합니다. 기술적 보완과 함께 인공지능의 의사결정 과정을 검증할 체계적인 안전장치가 필요합니다.

출처해당 내용은 MIT 테크놀로지 리뷰의 인공지능 편향성 연구 보고서를 교차 검증했습니다. https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/