리처드 서튼의 생성형 AI 과학적 발견 한계 지적

주장튜링상 수상자인 리처드 서튼은 현재의 생성형 인공지능이 과학적 발견에 필수적인 결과 평가 및 발전 능력을 갖추지 못했다고 분석합니다. 그는 인공지능이 학습 데이터의 패턴을 모방하는 수준에 머물러 있어 진정한 의미의 새로운 지식을 창출하는 데 한계가 있다고 지적합니다.

팩트서튼은 과학적 발견을 변이와 평가, 선택적 유지라는 세 단계 과정으로 정의합니다. 그는 진정한 발견을 위해서는 시스템이 다양한 대안을 생성하고 이를 검증하여 효과적인 방식을 유지하는 피드백 루프가 반드시 필요하다고 설명합니다.

교차검증그는 생성형 인공지능이 요약이나 연구 보조, 엔터테인먼트 분야에서는 유용할 수 있다고 인정합니다. 하지만 과학의 목적은 기존 지식의 재생산이 아니라 새로운 사실을 발견하고 검증하여 지식으로 정착시키는 것이기에 현재의 모델은 그 목적에 부합하지 않습니다.

팩트서튼은 알파고와 알파폴드, 클로드 코드를 순수 생성형 인공지능을 넘어선 사례로 평가합니다. 이들은 승리 확률과 수학적 증명, 코드 실행 결과 등 명확한 평가 기준을 통해 스스로 더 나은 해결책을 선택하고 추구할 수 있는 능력을 갖추고 있습니다.

주장서튼은 현재의 신경망 학습 방식이 초기 무작위성에 의존하며 시간이 지날수록 내부 구조가 경직된다는 점을 비판합니다. 그는 인공지능이 한 번의 학습으로 끝나는 것이 아니라 지속적으로 새로운 가능성을 시도하고 성과를 유지하는 구조를 갖춰야 한다고 주장합니다.

팩트서튼은 인공지능 산업이 거대 언어 모델의 규모 확장이라는 단일 목표에 매몰되어 방향을 잃었다고 지적합니다. 그는 방대한 지식을 흡수하기만 하는 모델보다는 환경과 상호작용하며 경험을 통해 스스로 학습하는 에이전트 개발이 중요하다고 강조합니다.

교차검증현재의 신경망 모델들은 새로운 지식을 습득할 때 기존 지식을 덮어쓰거나 적응 능력을 상실하는 지속적 학습의 문제를 겪고 있습니다. 서튼은 이러한 기술적 난제를 해결하는 것이 강력한 인공지능 시스템으로 나아가는 핵심 전제 조건이라고 설명합니다.

팩트서튼이 제안한 오크 아키텍처는 에이전트가 사전 지식 없이 환경에서 행동하고 피드백을 받아 추상적인 개념을 형성하는 모델입니다. 이 방식은 유용한 개념을 다음 학습 단계의 기초로 삼아 점진적으로 지능을 고도화하는 것을 목표로 합니다.

주장서튼은 창의성과 발견의 과정을 완전히 자동화하는 것이 자신의 궁극적인 목표라고 밝힙니다. 그는 인공지능이 단순한 모방 도구를 넘어 스스로 가치를 판단하고 지식을 확장하는 주체로 거듭나야 한다고 역설합니다.

팩트인공지능이 과학적 방법론을 내재화하기 위해서는 데이터의 단순 나열이 아닌 가설 검증 체계가 모델 내부에 구축되어야 합니다. 이는 인공지능이 단순한 도구에서 지적 파트너로 진화하는 과정의 필수적인 단계입니다.

주장서튼의 견해는 인공지능 연구가 데이터의 양적 팽창에서 질적 추론 능력 강화로 전환되어야 함을 시사합니다. 기술의 발전 방향이 인간의 지적 활동을 보조하는 것을 넘어 스스로 과학적 진보를 이끄는 방향으로 나아가야 한다는 의미입니다.

출처더 디코더의 리처드 서튼 인터뷰 내용을 교차 검증했습니다. 본 내용은 인공지능 기술의 발전 방향과 과학적 방법론의 결합에 관한 학술적 비판을 담고 있습니다.