거대 언어 모델의 자기 성찰 능력 검증 실험

주장인공지능 연구자들은 거대 언어 모델이 인간처럼 자신의 사고 과정을 인지하는 자기 성찰 능력을 갖추고 있는지 확인합니다.

팩트2025년 앤스로픽의 연구원 잭 린지는 언어 모델의 신경망에 특정 개념을 주입하는 디지털 신경외과 방식을 고안했습니다.

팩트2024년 5월 앤스로픽은 클로드 모델을 활용해 금문교 개념을 강제로 주입하는 공개 데모를 진행했습니다.

팩트당시 모델은 관련 없는 질문에도 금문교에 대한 답변을 내놓았으며, 자신의 답변이 이상함을 스스로 인지하는 듯한 반응을 보였습니다.

팩트린지는 모델의 신경망에 데님과 비밀, 채소 같은 개념 패턴을 주입한 뒤 모델에게 주입된 생각이 있는지 질문했습니다.

팩트가장 최신 모델 버전은 약 20%의 성공률로 주입된 개념을 정확히 식별해내는 결과를 보였습니다.

팩트대조군으로 설정된 모델들은 주입을 받지 않았을 때 단 한 번도 주입이 있었다고 보고하지 않았습니다.

교차검증샤울리 라브포겔 뉴욕대 연구원은 언어 모델이 인간의 텍스트를 학습했기 때문에 인간처럼 내면의 삶을 이야기하는 방식을 흉내 내는 것일 수 있다고 지적했습니다.

교차검증카일 마호왈드 텍사스대 교수는 모델의 놀라운 행동들이 실제로는 더 단순한 기계적 설명으로 풀릴 가능성이 있다고 경고했습니다.

팩트이번 연구는 인공지능이 주관적인 1인칭 경험을 가지고 있다는 주장을 담고 있지 않습니다.

주장잭 린지는 이론적 합의가 이루어지지 않은 현 상황에서 실증적인 과학적 실험을 많이 수행해야 한다고 강조했습니다.

출처퀀타 매거진(https://www.quantamagazine.org/new-research-tests-whether-ai-models-know-their-own-thoughts-20261104/)의 보도를 교차 검증했습니다.