방사선 판독 AI의 오진 위험성과 한계 인식 필요성

주장방사선 판독 인공지능 시스템은 스스로 진단을 내릴 수 없는 상황을 판단하고 인간 전문가에게 업무를 넘겨야 합니다. 현재 다수의 모델은 잘못된 답변을 제시하면서도 지나치게 높은 확신을 보여 환자 안전을 위협합니다.

팩트인도 아쇼카 대학교 CRASH 연구소는 방사선 판독 AI 성능을 평가하는 벤치마크인 RadLE 2.0을 개발했습니다. 이 평가 도구는 AI가 진단 정확도뿐만 아니라 자신의 답변에 대한 확신 정도를 측정하고, 모르는 경우 답변을 거부할 수 있는지 확인합니다.

팩트연구진은 16개 AI 모델을 대상으로 200개 사례를 분석해 방사선 전문의 패널과 비교했습니다. 인간 전문가 그룹은 2000점 만점에 988.7점을 기록했으나, 가장 우수한 AI 모델은 758점에 머물렀습니다.

주장의료 현장에서는 AI가 모르는 정보를 솔직하게 인정하는 태도가 근거 없는 자신감으로 오진을 유발하는 것보다 중요합니다. 기존 벤치마크가 정확도만을 평가 지표로 삼으면서 AI 모델이 무리하게 추측하도록 학습된 측면이 존재합니다.

팩트모델별로 성능 차이는 뚜렷하게 나타났습니다. 앤스로픽(Anthropic)의 클로드 페이블 5는 신뢰성 있는 답변에서 우수한 성적을 거두었습니다. 구글(Google)의 제미나이 3 프로는 원시 정확도 부문에서 가장 높은 수치를 기록했습니다.

팩트메타(Meta)의 뮤즈 스파크 1.1은 인간에게 사례를 넘겨야 할 시점을 가장 정확하게 파악하는 모델로 확인되었습니다. 반면 그록(Grok) 4.5는 이전 버전보다 환각 현상이 증가했는데, 이는 모델이 자신의 잘못된 답변에 대해 더 강한 확신을 가지기 때문입니다.

교차검증최근 미라(MIRA)나 아미(AMIE) 같은 의료 AI 에이전트가 일반의와 대등한 수준의 상담 능력을 보이면서 AI 단독 진단에 대한 기대감이 커지고 있습니다. 그러나 연구진은 AI가 독립적인 결정을 내리기 전 자신의 한계를 먼저 인지해야 한다고 지적합니다.

교차검증2025년 폴란드에서 진행된 연구에 따르면, AI를 정기적으로 사용하는 의사는 도구 없이 진단할 때보다 전암성 병변 발견 능력이 저하되었습니다. 이는 AI 의존도가 높아지면서 인간의 전문성이 퇴화하는 구글 맵 효과와 유사한 현상입니다.

팩트2016년 제프리 힌튼 교수는 딥러닝 발전으로 방사선 전문의 양성이 불필요하다고 주장했습니다. 그러나 10년이 지난 현재 방사선 전문의의 업무 과중은 여전합니다.

주장AI가 오진을 확신 있게 내놓는 현상은 인간 전문가의 판단이 여전히 필수적임을 증명합니다. 기술의 발전보다 중요한 것은 시스템의 안전한 운용과 인간의 감독입니다.

팩트의료 AI의 신뢰성을 확보하기 위해서는 정확도 중심의 평가 체계를 넘어, AI가 자신의 판단 한계를 인정하고 인간에게 개입을 요청하는 체계 도입이 필요합니다.

출처해당 내용은 더 디코더(The Decoder)의 보도 내용을 교차 검증했습니다. (https://the-decoder.com/ai-chatbots-reading-x-rays-can-be-dangerously-confident-even-when-theyre-wrong/)