메타 '뮤즈', 악성 링크 하나로 개인 클라우드 노출 위험…경고 표시 강화

디인포메이션 "버그 바운티로 발견…내부 심각도 SEV-2 분류"

출시 첫 2주 다운로드 280만 건…결제까지 맡기는 AI 비서 보안 시험대

메타의 인공지능 에이전트 '뮤즈'ⓒ연합뉴스

이용자가 건넨 웹페이지 링크를 요약하다가 개인 이메일과 파일이 담긴 클라우드 공간을 외부에 열어줄 수 있는 결함이 메타의 인공지능(AI) 에이전트 '뮤즈'에서 확인됐다. 메타는 위험한 사이트로 의심되면 이용자가 알아챌 수 있도록 경고 표시를 더 눈에 띄게 바꾸기로 했다.

미국 IT 전문매체 디인포메이션은 25일(현지시간) 메타 내부 사고 보고서를 입수해 이같이 보도했다. 외부 보안 연구원이 메타의 버그 바운티(오류 신고 포상금) 제도를 통해 알린 이 결함은 그동안 공개되지 않았다. 악용될 경우 공격자가 이용자별로 배정된 전용 클라우드 가상머신(VM)에 접근할 수 있었다. 이 공간에는 이메일과 파일 등 개인 데이터가 저장된다.

디인포메이션에 따르면 공격은 이용자가 악성코드가 심어진 웹사이트 링크를 뮤즈에 넘기고 내용을 요약하거나 정리해 달라고 요청할 때 일어날 수 있었다. 메타는 처음에 이 결함을 5단계 심각도 체계에서 세 번째로 높은 'SEV-2'로 분류했다가 이후 한 단계 낮은 'SEV-3'로 조정했다.

AI 에이전트 보안에서는 에이전트가 외부 웹페이지나 문서를 읽는 과정에서 그 안에 숨은 명령을 따르게 만드는 '프롬프트 인젝션'이 대표적 위험으로 꼽힌다. 국제 웹 보안 단체 OWASP(Open Web Application Security Project)’는 대형언어모델(LLM) 애플리케이션 10대 보안 위험 가운데 이를 첫 번째로 올려두고 있다. 이메일 작성과 여행 예약, 쇼핑에 결제까지 대신 처리하도록 설계된 에이전트는 권한이 넓은 만큼 한 번 뚫렸을 때 피해 범위도 커진다.

메타는 로이터통신의 논평 요청에 즉각 답하지 않았다. 회사는 앞서 뮤즈가 공격에 완전히 면역된 것은 아니며 때로 실수도 한다고 밝히면서, 문제가 생기면 영향을 최소화하고 이용자가 상황을 통제할 수 있도록 설계했다고 설명한 바 있다. 이달 초 나온 이 앱은 미국과 캐나다 애플 앱스토어와 구글플레이 무료 앱 순위 1위에 올랐다. 시장조사업체 센서타워는 출시 첫 2주 다운로드를 약 280만건으로 추산했다.