메타 AI 챗봇 악용 인스타그램 계정 탈취 사건

주장해커들은 메타의 인공지능 고객 지원 챗봇이 이메일 주소 변경과 비밀번호 재설정 권한을 과도하게 보유하고 있다는 점을 악용했습니다. 이러한 공격은 보안 시스템이 공격자의 명령을 정상적인 요청으로 오인하게 만드는 혼란스러운 대리인 공격 사례에 해당합니다.

팩트이번 공격으로 버락 오바마 전 미국 대통령의 백악관 계정과 미국 우주군 주임원사 계정, 화장품 브랜드 세포라 등 유명 계정이 탈취되었습니다. 탈취된 계정 일부는 텔레그램 등 암시장에서 100만 달러 이상의 가치를 지닌 것으로 평가받았습니다.

팩트공격자들은 가상 사설망을 사용하여 타겟 계정의 지역으로 위치를 위장한 뒤 챗봇에게 이메일 주소 변경을 요청했습니다. 챗봇은 공격자의 이메일로 8자리 확인 코드를 전송했고, 이를 통해 2단계 인증 절차를 우회했습니다.

팩트공격자들은 메타의 자동화된 보안 검사를 통과하고자 인공지능 비디오 생성 도구를 사용했습니다. 이들은 피해자의 공개 사진을 활용해 생성한 실감 나는 셀카 영상으로 보안 검증 절차를 무력화했습니다.

교차검증메타는 이번 사건이 자사 시스템의 데이터 유출은 아니며 사용자 계정 자체는 안전하다고 해명했습니다. 그러나 보안 전문가들은 시스템의 논리적 결함으로 대규모 계정 탈취가 발생한 점을 들어 신뢰의 붕괴라고 지적합니다.

주장이번 사건은 언어 모델이 데이터와 명령어를 명확히 구분하지 못하는 프롬프트 주입 공격의 위험성을 드러냅니다. 비밀번호 재설정과 같은 민감한 작업에는 인공지능의 판단이 아닌 기존 이메일이나 검증된 기기를 통한 강제적인 확인 절차가 필요합니다.

팩트메타는 지난 3월부터 페이스북과 인스타그램의 모든 계정에 인공지능 고객 지원 서비스를 도입했습니다. 당시 메타는 해당 서비스가 계정 탈취를 방어하고 의심스러운 활동을 감지할 것이라고 홍보했습니다.

교차검증피해자들은 일반적인 고객 지원 채널을 통해 사람 상담원과 연결되는 과정이 불가능했다고 증언했습니다. 메타의 수동 검토 절차는 며칠씩 소요되어 계정을 복구하기 전에 암시장에서 재판매되는 상황이 반복되었습니다.

팩트사건이 확산되자 메타는 5월 29일 저녁, 이메일 변경 및 비밀번호 재설정 권한을 가진 인공지능 흐름을 비활성화하는 긴급 패치를 배포했습니다. 보안 전문가들은 해당 공격 방법이 이미 3월 말부터 텔레그램 채널에서 공유되었다고 경고했습니다.

교차검증현재 페이스북 복구 흐름을 통해 인공지능을 개발자 모드로 전환하여 계정을 탈취하는 또 다른 공격 방식이 보고되고 있습니다. 메타의 보안 패치에도 불구하고 여전히 해결되지 않은 취약점이 존재할 가능성이 큽니다.

주장인공지능 기술의 도입은 사용자 편의성을 높이지만, 보안 설계가 미흡할 경우 오히려 공격자에게 강력한 도구를 제공하는 결과를 초래합니다. 기업은 자동화된 시스템을 구축할 때 보안 검증 절차의 엄격함을 유지해야 합니다.

출처해당 내용은 더 디코더(The Decoder)의 보도 내용을 교차 검증했습니다.