리처드 서튼의 합성 데이터 한계 지적과 지속적 학습 제안

주장강화학습의 선구자인 리처드 서튼은 현재 인공지능 업계가 추진하는 합성 데이터 활용 전략이 근본적인 오류를 안고 있다고 진단합니다.

팩트리처드 서튼은 튜링상 수상자이자 강화학습 분야의 표준 교과서를 집필한 인물입니다.

팩트그는 2019년에 발표한 에세이인 '쓴 교훈'을 통해 인간의 지식을 주입하는 방식보다 연산 능력을 활용한 학습 방식이 장기적으로 승리할 것이라고 예견했습니다.

팩트서튼은 최근 자신의 제자인 쿠람 자비드와 함께 새로운 기업인 오크 랩을 설립했습니다.

팩트이들은 현재의 대규모 언어 모델이 인터넷 데이터를 모두 학습한 후 성장의 한계에 부딪혔다고 분석합니다.

주장합성 데이터는 실제 데이터가 부족한 상황에서 인공지능을 학습시키기 위한 대안으로 부각되어 왔으나 현실의 복잡성을 온전히 반영하지 못합니다.

교차검증합성 데이터가 실제 데이터의 공백을 메울 수 있다는 시각이 존재하지만, 현실 세계의 복잡한 물리 법칙이나 타인의 내면적 사고 과정을 완벽하게 재현하는 데는 한계가 따릅니다.

팩트서튼은 빅 월드 가설을 근거로 제시하며 어떤 시뮬레이션도 현실 세계의 방대함을 담아낼 수 없다고 말합니다.

팩트시뮬레이션 내의 물리적 마찰 값이나 로봇의 모터 동작은 실제 환경과 차이가 발생할 수밖에 없습니다.

주장합성 데이터 생성 과정에서 발생하는 인간의 개입이 오히려 인공지능의 확장성을 저해하는 병목 현상을 초래합니다.

팩트어떤 데이터가 좋은지 판단하기 위해 전문가가 개입해야 하는 구조는 자동화된 학습의 본질과 배치된다고 서튼은 비판합니다.

팩트서튼은 인공지능이 인간의 도움 없이 스스로 경험을 통해 세계 모델을 구축해야 한다고 제안합니다.

팩트그는 고정된 시뮬레이션 모델에 의존하는 대신 에이전트가 직접 환경과 상호작용하며 자신의 모델을 지속적으로 수정해야 한다고 강조합니다.

주장현재의 대규모 언어 모델은 학습이 완료되면 가중치가 고정되어 더 이상 학습하지 않는다는 치명적인 약점을 지닙니다.

주장서튼은 지능의 진정한 발전을 위해서는 과거의 지식을 잃어버리지 않으면서 새로운 정보를 계속 학습하는 지속적 학습이 필수적이라고 주장합니다.

팩트서튼의 연구팀은 지속적 역전파라는 방법을 통해 인공지능의 지속적 학습 문제를 해결하고자 합니다.

팩트이 연구 결과는 과학 저널 네이처에 게재되었으며 기존 언어 모델이 지능의 약 20에서 25퍼센트 수준에 불과하다는 점을 시사합니다.

출처The Decoder(https://the-decoder.com/ki-pioneer-sutton-calls-synthetic-data-a-big-mistake-in-the-face-of-an-infinitely-complex-world/)의 보도를 교차 검증했습니다.