일본 정치권, AI 선거 영상 규제 추진…딥페이크 시대 ‘디지털 선거 신뢰’가 핵심 과제로 떠오르다

일본 정치권이 인공지능(AI)으로 제작한 동영상에 대한 새로운 선거 규칙 마련에 합의했다. 여야는 선거운동 협의회를 열고 이번 국회 회기 중 관련 법안을 준비하기로 했으며, 핵심 내용은 선거운동 기간 중 AI로 제작한 동영상을 SNS에 게시할 경우 해당 사실을 명확히 표시하도록 의무화하는 방안이다.

최근 생성형 AI 기술이 빠르게 발전하면서 정치권에서도 딥페이크와 조작 영상 문제가 현실적인 위협으로 떠오르고 있다. 특히 실제 정치인의 얼굴과 목소리, 말투까지 매우 자연스럽게 구현할 수 있는 수준까지 기술이 발전하면서, 유권자 입장에서는 영상이 진짜인지 합성인지 구분하기 어려워졌다는 우려가 커지고 있다.

일본 정치권이 관련 규제 논의에 나선 것도 이러한 배경과 무관하지 않다. 과거 선거에서는 허위 전단지나 가짜 문자메시지가 문제였다면, 이제는 AI 영상과 SNS 알고리즘이 선거 판세 자체를 흔들 수 있는 새로운 변수로 등장하고 있다는 분석이 나온다.

특히 AI 기술은 단순 이미지 합성을 넘어 실제 사람이 인터뷰하거나 연설하는 것처럼 보이는 영상까지 제작할 수 있다. 정치인이 하지 않은 발언을 한 것처럼 꾸미거나, 특정 후보가 논란성 발언을 하는 것처럼 조작된 영상을 만드는 것도 가능하다. 이런 콘텐츠가 선거 직전 SNS를 통해 빠르게 확산될 경우 유권자의 판단에 상당한 영향을 줄 수 있다는 점에서 각국 정부가 긴장하는 분위기다.

이번 논의에는 SNS 플랫폼 사업자 책임 강화 방안도 포함됐다. 일본 정치권은 SNS 사업자에게 공정한 선거를 방해할 수 있는 허위 정보 위험을 줄이기 위한 대응 의무를 부여하는 방안까지 검토하고 있는 것으로 알려졌다. 단순히 사용자 책임에만 맡기기보다 플랫폼 차원의 감시와 표시 체계를 강화하겠다는 의미다.

최근 세계 각국에서도 AI 선거 콘텐츠 규제 움직임이 확대되고 있다. 미국과 유럽 역시 딥페이크 선거 영상에 대한 경고를 강화하고 있으며, 일부 국가에서는 AI 생성 콘텐츠에 워터마크나 제작 표시를 의무화하는 방안도 논의 중이다. AI 기술이 선거와 민주주의 시스템 자체에 영향을 줄 수 있다는 인식이 커지고 있기 때문이다.

일본의 기존 공직선거법은 비교적 세부 규정이 많은 것으로 알려져 있다. 포스터 규격과 선거 차량, 가구 방문 제한처럼 오프라인 선거운동에는 매우 엄격한 기준이 존재한다. 하지만 SNS와 유튜브, AI 기반 콘텐츠처럼 빠르게 변하는 디지털 선거운동 영역은 법 제도가 기술 발전 속도를 따라가지 못했다는 지적이 꾸준히 나왔다.

특히 젊은 층일수록 TV 토론보다 SNS 영상과 쇼츠 콘텐츠를 통해 정치 정보를 접하는 비중이 커지고 있다는 점도 변수다. 짧고 자극적인 AI 합성 영상은 사실 여부를 확인하기 전에 빠르게 퍼질 가능성이 높다. 알고리즘 구조상 조회수가 높은 콘텐츠가 더 많이 노출되기 때문에 허위 정보가 더 강한 영향력을 가질 수 있다는 우려도 있다.

일부 전문가들은 단순히 “AI 영상 금지”만으로는 문제를 해결하기 어렵다고 보고 있다. 기술 자체를 막는 것은 현실적으로 불가능하기 때문이다. 대신 중요한 것은 유권자가 콘텐츠의 성격을 인지할 수 있도록 투명성을 확보하는 것이라는 의견이 많다. 즉, “이 영상은 AI로 생성됐습니다”라는 표시 체계를 통해 최소한의 정보 판단 기준을 제공해야 한다는 것이다.

한편 AI 영상 기술은 정치뿐 아니라 사회 전반에서도 신뢰 문제를 만들고 있다. 연예인 합성 영상과 금융 사기, 허위 뉴스, 음성 피싱 범죄까지 활용 범위가 확대되면서 사회적 불안도 커지고 있다. 실제 목소리와 거의 구별되지 않는 AI 음성 기술까지 등장하면서 앞으로는 “눈으로 본 영상도 믿기 어려운 시대”가 될 수 있다는 우려도 나온다.

이 때문에 플랫폼 기업의 책임 역시 더욱 중요해질 전망이다. 단순히 영상을 삭제하는 수준을 넘어, AI 생성 여부를 자동 탐지하거나 경고 표시를 제공하는 시스템 구축이 필요하다는 의견도 이어지고 있다. 다만 표현의 자유와 검열 논란 가능성도 존재하기 때문에 균형 잡힌 제도 설계가 필요하다는 지적도 나온다.

일본 정치권의 이번 논의는 단순한 선거법 개정 이상의 의미를 가진다. AI 시대에 민주주의와 정보 신뢰를 어떻게 보호할 것인가라는 질문이 본격적으로 시작됐다는 평가도 나온다. 기술 발전 속도가 매우 빠른 만큼 앞으로는 정치와 법, 플랫폼 기업이 모두 새로운 기준을 함께 만들어가야 한다는 목소리가 커질 가능성이 있다.

연내 관련 법안이 실제 통과될 경우 내년 봄 통합 지방선거부터 적용될 가능성도 거론된다. 일본이 AI 선거 콘텐츠 규제에서 어떤 기준을 만들지에 따라 다른 국가들의 디지털 선거 정책에도 일정 부분 영향을 줄 수 있다는 전망도 나온다.

※ 본 콘텐츠는 공개된 기사 내용을 바탕으로 딥페이크 기술, 디지털 선거운동, SNS 플랫폼 책임, AI 시대 정보 신뢰 문제 등을 추가해 재구성한 해설형 글입니다.