구글이 선거와 관련된 인공지능(AI) 챗봇 ‘제미나이’의 답변 제한 기준을 완화한다. 주요 선거에 대한 답변을 제한해온 기존 방침에서 벗어나, 오는 11월 미국 중간선거부터 투표 방법과 개표 결과 등 선거 정보를 직접 제공하기로 했다.

구글은 9일(현지시간) 제미나이 앱과 검색 서비스의 AI 답변에 중간선거 관련 정보를 추가한다고 밝혔다. 주·지방정부와 투표 정보 비영리단체 ‘데모크라시 웍스(Democracy Works)’가 제공하는 투표소 위치와 유권자 등록 방법 등을 안내하고, AP통신을 통해 선거 결과도 제공할 예정이다.

AI에 개방한 선거 관련 질문들

제미나이가 정치 관련 질문에 답하는 범주가 늘어나면서, 오류가 있거나 편향된 정보, 이미 시효가 지난 정보를 유권자에게 제공할 위험도 커질 수 있다. 퓨리서치센터가 올해 초 실시한 조사에 따르면 50세 미만 미국 성인의 절반가량이 정보를 찾기 위해 챗봇을 이용한다. 이보다는 적지만 뉴스를 접하는 데 챗봇을 이용하는 사람도 있다.

최근 챗봇의 선거 관련 허위정보를 분석한 보고서를 공동 집필한 전략대화연구소(ISD)의 발레리아 데 라 푸엔테 디지털 리서치 애널리스트는 “앞으로 유권자들이 챗봇을 점점 더 많이 이용할 것이라는 점은 분명하다”며 “확인된 답변의 품질은 우려스러운 수준”이라고 말했다.

이러한 조치는 2022년과 2024년 선거 당시 구글이 취했던 방침과 대조적이다. 당시 구글은 제미나이가 일부 선거 관련 질문에 답하지 못하도록 제한하는 한편, 구글 검색을 통해 정보를 탐색하도록 유도했다.

구글은 이날 블로그를 통해 “유권자들은 선거 기간 동안 투표소를 찾고 후보자 토론을 시청하거나 선거 당일 결과를 확인하기 위해 구글을 찾는다”며 “양질의 신뢰할 수 있는 정보를 제공해야 한다는 책임을 무겁게 받아들이고 있다”고 밝혔다.

다른 빅테크 기업들도 비슷한 전략을 짜고 있다. 오픈AI와 앤트로픽은 이용자가 선거와 관련한 정보를 물으면 데모크라시 웍스가 제공하는 투표 정보를 안내하기로 했다. 오픈AI는 AP통신의 실시간 개표 결과를 제공하고, 자사 시스템에서 정치적 편향이 나타나는지도 점검할 계획이다

코리 챔블리스 메타 대변인은 메타AI 이용자가 투표나 선거 참여 방법을 질문하면 해당 지역의 정보를 제공하거나 정부 기관의 공식 정보로 안내할 것이라고 밝혔다.

AI 챗봇, 선거 정보 오답률 29%

관건은 이런 사전 조치가 실제 선거 국면에서도 제대로 작동할지 여부다. 전략대화연구소가 지난주 발표한 연구에 따르면 오픈AI와 구글, 앤트로픽 등 주요 기업의 챗봇은 투표와 관련한 질문에 잘못된 답변을 반복해서 내놨다. 특히 선거 절차가 크게 바뀐 주(州)에서도 오류가 나타났다.

연구 결과 투표와 관련한 영어 질문에 대한 답변 가운데 29%는 정보가 불완전하거나 부정확하거나 이미 시효가 지난 것으로 나타났다. 스페인어 답변은 영어 답변보다 정확할 가능성이 16% 낮았다.

특히 챗봇이 제대로 답하지 못한 질문 중에는 특정 주에서 주소 변경 가능 기간이 지난 뒤의 투표 가능 여부와 부재자 투표 신청을 위한 필수 서류 안내 등이 있었다.

챗봇은 인터넷에 남아 있는 부정확하거나 오래된 정보를 가져와 답변하는 오류를 보였다. 가령 AI가 주정부 웹사이트에 남아 있는 2024년 선거 정보를 찾아 답변하는 식이다. 스페인어 질문에는 영어보다 답변이 부실하거나 출처가 제시되지 않는 경우도 많았다.

데 라 푸엔테는 온라인 정보 환경 자체에 존재하는 언어별 정보 격차가 챗봇의 답변에도 그대로 반영된 결과라고 설명했다.

그는 “스페인어 답변에서는 전반적으로 모호하고 혼란스러운 표현이 많이 나타났다”며 “영어를 제대로 옮기지 못한 번역도 있었다. 일부는 그래도 이해할 수 있었지만, 일부는 명백히 틀렸다”고 말했다.

반면 AI 모델은 이미 언론의 사실확인을 거친 구체적인 부정선거 주장에 대해서는 비교적 정확한 답을 내놨다. 특정 부정선거 주장을 들어 사실 여부를 따져 묻는 질문에는 제대로 답변하는 경우가 많았다는 것이다.

하지만 투표용지 수거(ballot harvesting), 투표기 보안, 비시민권자의 투표처럼 사실관계를 명확하게 반박하기 어려운 선거 관련 논란에 대해서는 제대로 대응하지 못했다.

데 라 푸엔테는 이처럼 사실 여부를 명확하게 가리기 어려운 ‘회색지대’에서 AI 모델이 “문제가 있는” 답변을 내놓을 가능성이 더 크다고 지적했다.

글 Naomi Nix TIME 선임 기자

한국어판 편집 최문정 에디터 jay@timekorea.co.kr