AI 벤치마크, 인간 의견 다양성 반영해야 신뢰성 확보

주장현재의 인공지능(AI) 벤치마크는 인간의 의견 차이를 체계적으로 무시합니다. 기존 방식은 소수의 평가자 의견을 다수결로 처리하여 인간의 다양한 관점을 배제하는 한계를 보입니다.

팩트구글 리서치와 로체스터 공과대학 연구진은 AI 평가 예산의 효율적 배분 방식을 연구했습니다. 연구팀은 실제 데이터셋을 활용한 시뮬레이터를 구축하여 수천 가지 예산 배분 조합을 테스트했습니다.

팩트일반적인 AI 벤치마크는 테스트 예제당 3명에서 5명의 평가자를 사용합니다. 연구 결과에 따르면 통계적으로 신뢰할 수 있는 결과를 얻으려면 예제당 10명 이상의 평가자가 필요합니다.

교차검증평가 예산이 충분하더라도 배분 방식이 잘못되면 신뢰할 수 없는 결과가 나옵니다. 단순히 평가자 수를 늘리는 것만이 능사가 아니며, 측정 목적에 맞는 전략적 배분이 필요합니다.

주장평가 예산 배분은 측정하려는 목표에 따라 달라져야 합니다. 다수결 기반의 정확도를 측정할 때는 많은 예제를 적은 평가자로 평가하는 방식이 효율적입니다.

팩트인간의 의견 분포를 전체적으로 파악하려면 적은 예제를 많은 평가자가 평가해야 합니다. 이러한 방식은 모델 간의 미세한 성능 차이를 식별하는 데 더 효과적입니다.

교차검증다수결 방식은 동일한 라벨을 가진 예제라도 그 이면에 숨겨진 의견 분포의 차이를 간과합니다. 이는 AI 모델의 안전성이나 편향성을 평가할 때 심각한 오류를 초래할 수 있습니다.

팩트연구진은 약 1,000개의 주석(annotation)만으로도 신뢰성 있는 결과를 도출할 수 있음을 확인했습니다. 단, 이는 테스트 예제 수와 평가자 수 사이의 균형이 적절할 때만 가능합니다.

주장AI 산업계는 현재의 얕은 평가 모델에서 벗어나야 합니다. 인간의 의견 다양성을 포용하는 평가 지표를 도입하는 것이 AI 모델의 신뢰성을 높이는 핵심입니다.

출처더 디코더(The Decoder) 보도와 구글 리서치 아카이브 논문을 교차 검증했습니다.