의료 인공지능 자율성 확대와 규제 개선

주장의학 저널 자마에 게재된 논문은 자율형 인공지능이 의사와 인공지능의 협업 모델보다 뛰어난 의료적 추론 능력을 갖출 것으로 전망했습니다. 저자들은 규제 당국이 의료 과정에 인간 개입을 의무화하는 규정을 마련해서는 안 된다고 주장했습니다.

팩트논문의 주저자인 에제키엘 에마누엘은 펜실베이니아 대학교의 생명윤리학자이자 오바마 케어의 설계자 중 한 명입니다. 공동 저자인 닐 코슬라는 원격 의료 인공지능 기업인 쿠라이 헬스의 최고경영자이며, 그의 아버지 비노드 코슬라는 오픈에이아이와 쿠라이 헬스의 투자자입니다.

팩트2024년 이후 진행된 대다수의 연구에서 인공지능은 환자 병력 청취, 진단, 검사 선택, 가이드라인 기반 치료, 만성 질환 관리 등 5가지 핵심 의료 과제에서 의사와 대등하거나 더 뛰어난 성과를 보였습니다. 구글의 대화형 시스템인 에이미는 모의 환자 대화에서 일차 진료 의사들보다 높은 점수를 기록했습니다.

팩트377개의 복잡한 사례를 분석한 결과, 챗지피티 오쓰리는 60퍼센트의 확률로 정확한 진단을 내렸으나 20명의 내과 의사들은 15.9퍼센트의 정확도를 보였습니다. 마이크로소프트의 진단 오케스트레이터는 예산 제약 조건 하에서 의사보다 약 4배 더 자주 정확한 진단을 내리며 비용 효율성도 입증했습니다.

주장저자들은 인공지능 모델이 빠르게 발전하는 반면, 의사들은 인공지능 의존도가 높아짐에 따라 고유한 진단 기술을 상실할 위험이 있다고 경고했습니다.란셋에 발표된 대장 내시경 관련 연구는 인공지능 도입 이후 인간의 숙련도가 저하될 수 있음을 시사했습니다.

팩트106개의 실험을 분석한 메타 분석에 따르면, 인공지능이 인간보다 뛰어난 성능을 보일 때 인간이 시스템의 판단을 잘못된 방향으로 수정하면 전체 결과가 악화되는 것으로 나타났습니다. 실제 환자 사례를 활용한 연구에서 지피티포 단독 진단은 92퍼센트의 정확도를 보였으나, 동일한 모델을 활용한 의사들의 정확도는 76퍼센트에 그쳤습니다.

주장저자들은 1997년 딥 블루가 가리 카스파로프를 이긴 이후 체스 분야에서 인간과 기계의 팀이 우위를 점하다가 결국 인공지능이 인간 팀을 완전히 추월한 사례를 의료 분야에 대입했습니다. 2030년까지 자율형 인공지능이 인지적 의료 업무의 상당 부분을 수행할 준비가 될 것으로 예상하며, 이에 따른 책임 소재와 규제 체계의 전면적인 재검토를 요구했습니다.

교차검증저자들은 이번 연구가 실제 환자 진료가 아닌 단일 과제 시뮬레이션에 기반하고 있다는 점을 한계로 인정했습니다. 또한 인간과 모델 간의 정보 전달 과정에서 발생하는 오류 가능성과 수술, 출산 등 물리적 절차에서의 기술적 한계는 여전히 존재합니다.

교차검증자율형 인공지능 시스템은 환각 현상, 인터넷 장애, 사이버 공격 등 의사와는 다른 형태의 위험 요소를 가지고 있습니다. 이러한 기술적 위험은 인공지능이 제공하는 높은 진단 정확도와 비교하여 신중하게 평가되어야 합니다.

출처더 디코더(https://the-decoder.com/as-ai-beats-doctors-regulators-shouldnt-force-a-human-into-the-loop-jama-piece-says/)의 보도를 교차 검증했습니다.