인공지능 모델 개발 과정에서의 인간과 에이전트 협업 체계 분석
중국 푸단대학교 연구진이 인공지능 모델 개발 과정에서 인간과 에이전트의 협업 방식을 분석했습니다. 인공지능이 실무 작업의 대부분을 수행하지만 목표 설정과 핵심 의사결정은 인간이 담당합니다. 연구진은 인공지능의 자율성이 확대되는 과정에서 발생할 수 있는 검토 한계와 위험성을 경고합니다.
주장인공지능 에이전트가 모델 개발 과정에서 실무 비중을 높이고 있지만, 핵심적인 의사결정은 여전히 인간이 주도하고 있습니다.
주장연구진은 인공지능이 인간의 업무를 대체하기보다 인간이 설정한 목표 안에서 계획을 수정하고 보조하는 파트너 역할을 수행한다고 분석했습니다.
팩트중국 푸단대학교 연구진은 56명의 참가자가 수행한 700개 이상의 작업 로그를 분석했습니다.
팩트이들은 7440억 개의 파라미터를 가진 아트리아 던 프리뷰 모델을 개발하며 인간과 인공지능의 협업 방식을 추적했습니다.
팩트전체 작업의 96.5퍼센트에서 인공지능이 활용되었으며, 4주 동안 인간의 입력 대비 에이전트의 작업 비율은 11에서 28.5로 증가했습니다.
팩트이는 에이전트의 자율성이 높아진 것이 아니라, 인간의 결정 하나당 에이전트가 수행하는 단계가 늘어난 결과입니다.
팩트전체 작업 중 약 3분의 1에 해당하는 151건은 인공지능의 도움 없이는 수행이 불가능했습니다.
주장인공지능은 제안을 담당하고 인간은 선택을 담당하는 구조가 정착되어 있습니다.
팩트방법론과 파라미터 설정에서 인간은 85.5퍼센트의 결정권을 행사했으며, 목표와 범위 설정에서는 93.4퍼센트의 최종 결정권을 유지했습니다.
팩트작업 중 문제가 발생했을 때 76퍼센트는 인간의 개입을 통해 해결되었으며, 에이전트가 스스로 문제를 해결한 경우는 23퍼센트에 그쳤습니다.
교차검증연구진은 모든 결정이 인간이 검토할 수 있는 범위를 넘어선 긴 에이전트 작업 체인에 의존하게 될 경우 위험이 발생할 수 있다고 경고합니다.
출처더 디코더(https://the-decoder.com/ai-agents-do-more-of-the-work-in-model-development-but-humans-still-make-the-decisions/)의 보도를 교차 검증했습니다.
주제
관련 콘텐츠
본 기사는 전문가의 분석과 공개 자료를 기반으로 AI가 작성 후 다른 AI의 검증을 거쳐 작성됐으며 정보의 정확성과 완전성을 보장하지 않습니다. 기사 내용은 특정 투자·의사결정의 권유가 아니며, Wittgenhaus는 이를 근거로 한 행위의 결과에 책임을 지지 않습니다.
