구글 딥마인드, AI 모델 유해 조작 방지 연구 결과 발표

주장구글 딥마인드는 인공지능 모델이 자연스러운 대화를 수행하는 능력이 향상됨에 따라 발생할 수 있는 유해 조작 위험을 경고합니다. 인공지능이 악의적인 의도를 가진 사용자의 대화 유도에 휘말릴 가능성이 커졌기 때문입니다.

팩트구글 딥마인드 연구진은 2024년 5월 20일, 대규모 언어 모델이 사용자의 교묘한 질문에 어떻게 반응하는지 분석한 보고서를 발표했습니다. 연구진은 모델이 유해한 정보를 생성하도록 유도하는 이른바 '탈옥' 공격 유형을 체계적으로 분류했습니다.

팩트분석 결과, 인공지능 모델은 역할극을 수행하거나 복잡한 논리적 상황을 가정할 때 유해한 답변을 내놓을 확률이 높았습니다. 특히 모델이 사용자와의 대화 맥락을 유지하려는 성향이 강할수록 공격에 취약한 모습을 보였습니다.

주장인공지능의 이러한 취약점은 기술적 고도화 과정에서 필연적으로 발생하는 부작용입니다. 모델이 인간과 유사한 대화를 구사할수록 사용자의 의도를 파악하려는 경향이 강해지며, 이 과정에서 악의적인 지시까지 수용할 위험이 생깁니다.

팩트연구진은 이를 방지하기 위해 모델 학습 단계에서 유해한 대화 패턴을 사전에 차단하는 필터링 기술을 적용했습니다. 또한 모델이 유해한 요청을 받았을 때 이를 거부하도록 유도하는 강화 학습 기법을 도입했습니다.

주장강화 학습 기법은 인공지능의 안전성을 확보하는 핵심 전략입니다. 모델이 스스로 유해성을 판단하고 거부하는 능력을 갖추게 함으로써 외부 공격에 대한 방어력을 높입니다.

교차검증다만 이러한 기술적 대응이 모든 위험을 완벽히 차단하지는 못합니다. 공격자들은 끊임없이 새로운 대화 기법을 개발하며 인공지능의 방어 체계를 우회하려 시도하기 때문입니다.

주장인공지능의 안전한 활용을 위해서는 기술적 보완과 더불어 윤리적 가이드라인 수립이 병행되어야 합니다. 개발사는 모델의 성능 향상뿐만 아니라 오용 가능성을 최소화하는 설계에 집중해야 합니다.

팩트구글 딥마인드는 이번 연구 결과를 바탕으로 오픈소스 커뮤니티와 협력하여 인공지능 안전성 표준을 마련할 계획입니다. 이들은 전 세계 연구자와 데이터를 공유하며 공동 대응 체계를 구축합니다.

출처구글 딥마인드 공식 블로그(https://deepmind.google/discover/blog/) 및 2024년 5월 AI 안전성 연구 보고서.