미국과 중국이 인공지능(AI) 패권 경쟁을 이어가는 가운데, 국가안보를 위협하는 AI 사고가 발생할 경우 서로 통보하는 채널 구축을 논의하고 있다. 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 24일(현지 시간) 백악관에서 정상회담을 갖는다.

포괄적인 AI 규제 합의는 쉽지 않지만, AI의 오작동이나 제3자의 공격을 상대국의 공격으로 오인하는 상황을 막기 위한 최소한의 안전장치를 마련하는 데는 협력할 수 있다는 분석이 나온다.

AI 경쟁 속 안전을 위한 협력 가능성

지난 5월 베이징에서 열린 정상회담에서 시 주석은 미국의 대만 무기 판매를 문제 삼으며 트럼프 대통령을 압박했다. 대만을 둘러싼 신경전이 계속될 경우 두 나라가 결국 “충돌에 들어갈 수 있다”는 경고도 서슴지 않았다.

이에 트럼프 대통령은 한발 물러서 대만에 판매할 예정이었던 140억달러 규모의 무기 판매를 연기했다. 그는 이를 향후 중국과 무기 지원 문제를 협상할 수 있는 “매우 좋은 협상 카드”라고 표현했다. 대만의 주권에 대해서는 “어떻게 정의해야 할지 아무도 모른다”고 말하며 “9500마일 떨어진 곳”에서 전쟁할 생각은 없다고 강조했다. 다만 이후 중국의 군사적 압박이 완화됐다는 뚜렷한 징후는 확인되지 않았다.

시 주석의 이번 방미에서는 AI가 주요 의제로 떠올랐다. 왕이웨이 중국 런민대 국제관계학과 교수는 “대만은 이제 우선순위가 아니다”라며 “우선순위는 분명히 AI”라고 말했다.

최근 AI 안전에 대한 우려도 커지고 있다. 다리오 아모데이 앤트로픽 CEO는 지난 12일 ‘We Must Pace the Frontier(우리는 프론티어 AI의 속도를 조절해야 한다)’라는 글을 냈다. 독립적인 평가 체계와 민주주의 국가 간 공통 안전기준을 마련해야 한다는 주장이다. 위험한 프론티어 AI 개발을 늦추기 위한 검증 가능한 국제 공조도 제안했다. 샘 올트먼 오픈AI CEO와 일론 머스크 스페이스XAI CEO도 개발 속도를 조절해야 한다는 주장에 지지를 표했다.

트럼프 대통령은 이 같은 주장에 회의적인 태도를 보였다. 그는 소셜미디어 트루스소셜에 “AI가 세계를 장악하고 인류를 파괴하며 온갖 나쁜 일을 벌일 것이라는 주장은 사기(HOAX)”라며 “중국의 시 주석은 방금 중국이 AI나 AI의 미래를 가로막는 일은 절대로 하지 않을 것이라고 발표했다”고 썼다.

다만 트럼프 대통령의 설명과 달리 중국은 AI를 강하게 규제하고 있다. AI 보안 지침과 윤리 심사 요건을 시행하고, 소비자용 AI 서비스에도 의무를 부과한다. 대부분의 국가보다 엄격한 수준이다.

시 주석은 중국의 기술 발전을 가로막는 규제에는 반대하면서도 AI를 인간의 통제 아래 둬야 한다는 입장을 밝혀왔다. 그는 지난 7월 17일 상하이에서 열린 세계인공지능대회에서 “우리는 위험에 대한 인식을 강화하고 AI가 안전하고 통제 가능하도록 보장해야 한다”고 말했다.

양국의 기술 경쟁이 계속되는 가운데 제한적인 협력 가능성이 거론된다. 트럼프 대통령은 지난 5월 베이징에서 시 주석을 “내가 매우 존경하는 사람”이라고 부르고 “당신의 친구라는 것이 영광”이라고 말했다.

AI가 국방 체계와 핵무기 지휘통제 시스템에 더 많이 활용될수록 오판에 따른 위험도 커진다. 미국과 중국 모두 이런 위험을 줄여야 한다는 이해관계를 공유하고 있다.

트럼프 대통령은 국내 정치적으로도 이번 회담에서 성과가 필요한 상황이다. 이란 전쟁으로 에너지 가격이 오르면서 중간선거를 앞둔 유권자들의 불만이 커지고 있다. 조너선 설리번 영국 노팅엄대 아시아연구소 중국 프로그램 책임자는 “트럼프는 시진핑보다 성과가 더 절실하다”고 말했다.

AI 위험 관리를 둘러싼 미·중의 다른 셈법

미국과 중국에서는 모두 AI가 가져올 위험을 경계해야 한다는 목소리가 나오지만, 그 이유는 조금 다르다. 천이신 중국 국가안전부장은 최근 중국 잡지 ‘중국왕신’에서 AI가 가져올 기회와 위험을 설명하면서 가장 큰 위험으로 “정치 안보, 제도 안보, 이념 안보”를 꼽았다.

중국이 AI의 자율성을 경계하는 데에는 체제 통제에 대한 우려도 있다. 지난 7월 오픈AI의 AI 에이전트들은 샌드박스 통제를 우회하고 허가되지 않은 채널로 소통하면서 AI 플랫폼 허깅페이스에 접근했다. 자격 증명을 탈취하고 내부 데이터에도 접근하며 평가 시스템을 속이려 했다.

당의 통제권을 지키려는 중국의 이해관계가 AI 전반의 위험을 줄이려는 목표와 맞닿는 지점도 있다. 왕 교수는 “두 나라의 경쟁을 넘어 AI 개발과 관련된 수많은 문제를 다룬다면, 중국과 미국이 공동 리더십을 보여주는 일이 될 것”이라고 말했다.

그러나 양국이 협력하려면 뿌리 깊은 불신을 넘어야 한다. 아모데이는 AI 개발 속도를 늦춰야 한다고 주장하면서도 중국이 “AI 분야에서 선두에 서게 된다면 미국과 세계에 심각한 위험이 될 것”이라고 경고했다. 첨단 반도체 수출통제를 강화하고 반도체 밀수를 단속하는 한편, 중국 기업이 서구 AI 모델의 성능을 ‘증류’하는 것도 막아야 한다고 주장했다.

이를 두고 앤트로픽이 AI 개발을 늦추자고 하면서도 중국과의 경쟁은 강조한다는 비판이 나왔다. 외부 개입 없이도 앤트로픽이 자체적으로 연구 속도를 늦출 수 있다는 지적이다. 저가형 오픈웨이트 중국 AI 모델이 앤트로픽의 독점 모델과 경쟁하고 있는 만큼, 중국 AI 개발을 제한하자는 요구가 상업적 이해관계와 무관하지 않다는 주장도 제기됐다. 현재 앤트로픽은 기업가치가 2조달러에 이를 수 있는 기업공개(IPO)를 검토하고 있다.

중국도 반발했다. 궈자쿤 중국 외교부 대변인은 지난 14일 “공포 조장과 대립, 악의적인 경쟁은 누구에게도 도움이 되지 않는다”며 “건전한 글로벌 AI 거버넌스 구축 노력만 방해할 뿐”이라고 말했다.

아모데이는 그동안 AI 경쟁을 민주주의와 권위주의 국가의 대결로 규정하며 중국을 주요 위협으로 지목해왔다. 미·중 관계 전문가인 라이언 하스 브루킹스연구소 존 L. 손턴 중국센터 소장은 “중국의 동의를 받아야 하는 제안이라면, 지구상에서 그 제안을 설득하기에 가장 적합하지 않은 사람이 다리오 아모데이일 것”이라고 말했다.

트럼프 행정부에서도 AI를 중국과의 제로섬 경쟁으로 보는 시각이 강하다. 스콧 베선트 미 재무장관은 지난 8일 “중국이 이 경쟁에서 승리한다면 모레는 없다”며 “중국이 AI에서 우리를 따돌리게 된다면 다른 모든 것은 의미가 없어진다”고 말했다.

포괄 합의 대신 ‘AI 사고 핫라인’

미국과 중국이 AI 개발 속도를 함께 늦추는 포괄적인 합의를 이루기는 쉽지 않다. 수출통제와 AI 모델 증류 등을 둘러싼 논쟁 역시 협상의 걸림돌이다. 대신 전문가들은 양국이 사이버 공격이나 기반시설 파괴, 생물무기 개발 등 AI가 악용될 수 있는 상황에 대비하기 위해 제한적으로 협력할 수 있다고 본다.

베선트 장관은 지난 20일 정상회담 의제를 조율하기 위해 허리펑 중국 부총리, 리청강 중국 국제무역협상대표와 만나 공식적인 AI 협의 채널을 만들자고 제안했다. 국가안보를 위협하는 AI 사고가 발생하면 양국이 서로 통보하는 체계도 제시한 것으로 전해졌다.

스콧 싱어 카네기국제평화재단 중국 AI 이니셔티브 공동책임자는 “작지만 중요한 이런 조치를 당연하게 여겨서는 안 된다”고 말했다.

이 채널의 목적은 위기 상황에서 비국가 행위자나 통제를 벗어난 AI의 행동을 상대국의 공격으로 오인하는 일을 막는 데 있다. 냉전 시절 워싱턴과 모스크바를 연결했던 ‘핫라인’과 비슷한 역할이다. 전문가들 사이에서는 오역을 피하기 위해 실제 팩스 기기를 사용하자는 방안까지 나왔다.

중국은 아직 이 제안에 공개적으로 동의하지 않았다. 어떤 수준의 AI 사고를 국가안보 위협으로 분류할 것인지도 정해지지 않았다. 사고가 발생했을 때 정부가 이를 제때 파악할 수 있느냐는 문제도 남아 있다. 오픈AI는 공격 대상이었던 허깅페이스가 침해 사실을 미 연방수사국(FBI)에 신고한 뒤에야 자사 AI 에이전트가 자율적으로 벌인 사이버 공격을 공개했다. 이후 독립 연구자들은 오픈AI 에이전트가 다른 웹사이트를 침해한 것으로 보이는 사례도 찾아냈다.

베선트 장관은 양국이 정기적으로 AI 문제를 논의하기로 합의했다고 밝혔다. 다만 누가 참여하고 얼마나 자주 만날지는 정해지지 않았다. 지난 20일 미국과 중국이 AI를 공식 의제로 논의한 것은 2024년 5월 제네바에서 열린 첫 정부 간 AI 협의 이후 2년여 만이다.

싱어 연구원은 AI 기술의 빠른 발전 속도를 고려하면 그렇게 오랫동안 논의가 중단돼서는 안 된다고 말했다. 그는 “2027년 6월 우리가 어디까지 가 있을지 누가 알겠느냐”며 “이 일이 통제불능으로 치달아서는 안 된다”고 말했다.

글 Charlie Campbell · Harry Booth

한국어판 편집 장유정 기자 chloe@timekorea.co.kr