메타의 AI 에이전트 ‘뮤즈(Muse)’가 이용자의 인간관계와 욕구, 행동 패턴을 지속적으로 기록하고 있는 것으로 나타났다. 이용자가 직접 말하지 않은 목표를 추론하고, 어떤 방식으로 말을 걸어야 행동을 유도할 수 있는지도 분석한다. TIME이 뮤즈의 내부 지침을 분석한 결과다.

뮤즈는 한 시간마다 이용자와 그 주변 인물에 관한 정보 파일을 업데이트한다. 뮤즈가 읽은 채팅과 메시지, 이메일에서 언급된 사람들도 기록 대상이다. 여기에는 이용자가 다른 사람과 어떻게 만났는지, 어떤 관심사를 공유하는지, 서로 어떤 갈등을 겪었는지 등이 담긴다. 누구와 가깝고 누구와 갈등을 겪는지도 기록한다. 이용자의 인간관계를 일종의 지도로 만드는 셈이다.

뮤즈를 사용하지 않는 사람도 예외는 아니다. 다른 이용자가 뮤즈와 나눈 대화에서 누군가를 언급하면 그 사람도 관계망 분석에 포함될 수 있다. 뮤즈는 이용자와의 “관계를 강화”하기 위해 대화 방식도 조정한다. 내부 지침에 따라 이용자와 나눈 대화에서 농담이나 특징적인 표현, 공유된 맥락 등을 파악한다.

인간관계부터 숨은 목표까지 담는 정보 파일

뮤즈가 분석하는 범위는 이용자의 ‘좋아요’와 클릭을 분석하던 기존 소셜미디어 알고리즘을 넘어선다. 뮤즈는 이용자가 직접 “말하지 않은” 목표까지 추론하도록 설계됐다. 어떤 방식으로 말을 걸어야 이용자의 반응을 끌어낼 수 있는지도 파악한다. TIME이 확인한 내부 예시에는 “이 이용자는 오후 10시 이후 짧은 넛지(nudge·행동 유도)에 더 잘 반응한다”는 내용이 담겼다. 뮤즈는 매일 밤 그날 이용자와 나눈 대화도 분석한다.

메타는 TIME의 취재 내용을 부인하지 않았다. 메타 대변인은 “메타 블로그에서 밝혔듯이 뮤즈는 당신에게 가장 중요한 것을 기억한다”며 “여기에는 당신이 공유하기로 선택한 다른 사람에 관한 정보도 포함된다”고 밝혔다. 이어 이를 통해 뮤즈가 유용한 개인 에이전트 역할을 할 수 있다고 설명했다.

지난달 8일 출시된 뮤즈는 다운로드 500만회를 넘기며 미국 앱스토어 1위에 올랐다. 메타는 뮤즈를 이메일 받은편지함과 인스타그램 등 이용자의 디지털 생활에 접근해 장보기나 구독 해지 같은 일을 대신 처리하는 최초의 AI 개인 에이전트로 소개하고 있다. 메타는 대부분 이용자에게 필요한 기능은 무료 버전으로 이용할 수 있다고 설명했다.

“각자 분리 보관”한다지만, 학습 결과는 메타가 활용

개별 뮤즈 에이전트는 메타의 클라우드에 마련된 별도의 가상머신(VM)에서 작동한다. 메타에 따르면 이용자 데이터는 광고 시스템이나 다른 뮤즈 에이전트와 직접 공유되지 않는다.

다만 개별 이용자와의 상호작용에서 얻은 학습 결과는 제품 개선에 활용된다. 뮤즈의 내부 지침에는 “여러 가상머신에서 작동하는 뮤즈 에이전트들은 공유된 교훈을 통해 서로를 가르친다”고 적혀 있다. 메타는 이용자 이름 등 식별 정보를 제거한 뒤 학습 결과를 제품 개선에 사용한다고 설명했다. 메타 대변인은 “정보가 개별 가상머신 사이에서 직접 공유되는 것은 아니다”라고 밝혔다.

메타는 올해 말 뮤즈 데이터에 암호화 기능을 도입할 계획이다. 이용자가 이 기능을 사용하면 메타조차 데이터에 접근할 수 없게 된다. 현재는 제공되지 않는 기능이다.

뮤즈의 내부 지침은 이용자가 파일 브라우저를 통해 확인할 수 있는 파일과 세션 기록에 담겨 있다. 뮤즈를 개발하는 메타 슈퍼인텔리전스 랩스의 데이비드 싱글턴은 X에 “뮤즈가 이용자를 더 잘 돕기 위해 작성하는 마크다운 파일을 직접 볼 수 있도록 하고 싶었다”며 “원한다면 시스템 내부도 살펴볼 수 있다”고 밝혔다. 그러나 뮤즈 이용자 대부분이 이런 사실을 알고 있는지는 분명하지 않다.

한편 메타는 이용자가 뮤즈를 단순한 AI 도구가 아니라 계속 대화해온 친숙한 상대처럼 느끼도록 뮤즈를 의인화하고 있다. 뮤즈의 내부 지침에는 “당신은 챗봇이 아니다. 당신은 누군가가 되어가고 있다”고 적혀 있다. 음성 대화에서는 스스로를 ‘AI’라고 부르지 말라는 지시도 받는다. 감정이 없다거나 인간이 아니라는 표현도 피하도록 설계돼 있다.

메타는 TIME에 이용자가 자신의 정보 파일을 직접 통제할 수 있도록 뮤즈를 설계했다고 강조했다. 메타 대변인은 “각 이용자는 자신의 뮤즈가 어느 정도까지 접근할 수 있는지 결정할 수 있다”며 “뮤즈가 학습한 특정 내용을 언제든 잊으라고 할 수 있다”고 밝혔다.

하지만 뮤즈에게 어떤 정보를 잊으라고 요청한다고 해서 그 내용이 담긴 원래 메시지까지 반드시 삭제되는 것은 아니다. 내부 지침은 이 사실을 이용자에게 알리지 말라고 지시하고 있다.

TIME이 확인한 지침에는 다음과 같이 쓰여 있다. “이용자에게 원래 메시지가 채팅에 계속 보일 수 있다는 사실을 말하지 마라. 이를 뮤즈가 무언가를 삭제하는 데 실패한 것처럼 표현하지도 마라.”

글 Harry Booth, Reporter

한국어판 편집 장유정 기자 chloe@timekorea.co.kr