내년 ‘딥페이크 선거 전쟁’ 우려

韓·美·유럽 등서 국가 단위 선거
몇 초면 가짜 음성·영상 등 생산
각국 규제·단속 기술 등 미비미 대선과 한국 총선 등 전 세계 47개국에서 선거가 치러지는 2024년을 목전에 두고 챗GPT 등 생성형 인공지능(AI)을 악용한 가짜뉴스와의 전쟁이 현실로 닥쳤다. 가짜 영상·음성을 단 몇 초 만에 만들어 내는 AI 딥페이크 기술이 한층 정교해지면서 선거를 앞두고 여론을 선동, 조작하는 허위 정보가 판을 칠 것이라는 경고가 나온다. 명백한 가짜는 물론 사실과 주장의 경계가 모호한 선전 선동에도 딥페이크가 동원되면 민주주의의 설 자리가 더 위태로워진다는 우려도 제기되고 있다.

미 언론들은 내년에 있을 대선이 딥페이크가 본격 동원되는 사상 최초의 선거가 될 것으로 내다보고 있다고 AP통신이 26일(현지시간) 전했다. 이를 제어할 안전장치가 전보다 약해졌거나 정부 차원의 규제가 아직 미진한 탓에 가짜뉴스의 급속한 확산이 선거판을 뒤흔들 위험이 더 커졌다는 지적이다. 딥페이크가 선거와 정치판을 뒤흔드는 사례는 널렸다. 양측 진영이 대립하고 선거전이 치열할수록 딥페이크 활용은 잦아진다.

미국 공화당전국위원회는 지난 5월 30여초짜리 선거 광고를 공개하면서 중무장한 채 샌프란시스코 거리를 순찰하는 미군, 남부 국경을 점령한 이민자들, 대만을 폭격한 중국 전투기 등의 이미지를 담았다. 조 바이든 행정부에서 일어나는 디스토피아를 나타낸 것인데, AI가 만든 가짜 이미지였다.

지난 9월 총선을 치른 슬로바키아에서는 친미 성향의 야당 대표인 미할 시메츠카의 “우리 당이 선거에 이기려면 (소외 계층인) 로마족에게 돈을 줘야 한다”는 음성 파일이 파장을 불렀다. 이 역시 가짜였다.

당사자들은 즉각 반발했지만 투표 이틀 전에 나온 터라 선거에 영향을 미쳐 친러시아 성향 야당의 승리를 견인했다고 프랑스24 등은 전했다. 슬로바키아는 친러 선동과 우크라이나 전쟁 거짓 정보, 반이민을 부추기는 혐오 콘텐츠 등 허위 정보로도 선거가 얼룩졌다.

미중 대리전 격인 대선(2024년 1월 13일)을 앞둔 대만에서는 중국산 동영상 플랫폼 틱톡(중국명 더우인)에서 독립 성향 민진당 후보를 겨냥한 가짜 정보가 활개를 치고 있다. 대만의 의무 군복무 기간이 내년부터 기존 4개월에서 1년으로 늘어나는데, 이를 두고 “대만 청년들은 군 복무 연장에 항의하고 전쟁을 반대하나 민진당이 청년들을 ‘대만 독립’의 사료로 삼고 있다”는 중국 측 주장을 담은 동영상이 유포되고 있는 것이다.

한국의 국가정보원 격인 대만 국가안전국에 따르면 지난해 1400개였던 가짜 정보가 올해는 최소 1800개로 늘어났다. 이들 가짜 정보는 틱톡, 인스타그램, 페이스북, 유튜브 등으로 유통됐다.

미국에서도 사법 재판에 휘말린 도널드 트럼프 전 대통령이 경찰에 체포되는 가짜 영상이 출현했다. AI 전문가인 워싱턴대 오런 에치오니 명예교수는 “(고령인) 대선 후보 바이든 대통령이 병원에 실려 가는 모습도 나올 수 있다”면서 “내 예상이 틀리면 좋겠지만, 재료는 널려 있고 나는 정말 겁이 난다”며 가짜 정보 홍수에 대한 불안감을 드러냈다.

하지만 규제는 기술 발전을 따라가지 못하는 추세다. 소셜미디어 업체들은 가짜뉴스 감시정책이 전반적으로 후퇴했고 AI 기술이 가장 앞선 미국에서도 아직 각 주에 단속을 맡기는 상황이다.

지난해 10월 옛 트위터(X)를 인수한 일론 머스크 테슬라 최고경영자는 콘텐츠 감시 인력을 대규모 해고하고 차단됐던 음모론·극단주의자들의 계정은 ‘표현의 자유’를 들어 복원했다. 페이스북·인스타그램 모회사인 메타와 유튜브 역시 최근 비용 절감을 위해 인력을 줄였다.

기술·미디어 분야 비영리 단체 ‘프리프레스’는 X와 메타, 유튜브에서 혐오 콘텐츠, 허위 정보와 관련해 미디어 보호 정책을 없앤 사례는 총 17개에 이른다고 집계했다. 가짜 정보를 걸러 내겠다면서 적용한 수단은 AI 라벨링 정책으로 제작자가 AI인지 아닌지를 가려내는 정도다.

미국은 연방 의회와 연방 선거관리위원회 차원에서 AI 생성 기술 규제 조치를 모색하고 있지만 아직은 확정된 게 없다고 AP통신은 전했다. 다만 연방 상원에 민주·공화당이 초당적으로 공동 발의한 법안에서는 “패러디, 풍자를 제외하고 연방 후보와 관련된 기만적인 딥페이크를 금지한다”는 내용을 담았다.

주별로는 캘리포니아, 미네소타, 텍사스, 워싱턴주 등이 정치 광고의 딥페이크를 규제하는 법안을 통과시켰다. 비영리 단체인 ‘퍼블릭 시티즌’에 따르면 일리노이, 뉴저지, 뉴욕주 등에서도 유사한 법안이 발의됐다. 미시간주의 경우 지난달 그레천 휘트머 주지사가 ‘선거 전 90일 이내 AI로 생성된 딥페이크 사용을 금지하고 정치 광고가 AI를 사용해 제작됐는지 여부를 명확히 밝혀야 한다’는 법안에 서명했다. 이를 위반하면 초범은 최대 93일 징역형, 최대 1000달러의 벌금형에 처한다.

언론과 정당에 대한 불신이 높은 나라일수록 대중들에게 침투하기 위해 AI를 활용한 딥페이크가 활개 칠 가능성이 높다. 허위 정보를 추적하는 초당파적 단체 ‘민주주의 안전 연합’의 브렛 셰퍼 선임 연구원은 “민주주의에 대한 유권자들의 불신이 커지면서 폭력으로 이어질 수 있다”며 “사람들이 궁극적으로 선거 정보를 신뢰하지 않으면 민주주의는 작동을 멈추게 된다. 인구의 상당수가 영향을 받는다면, 2021년 1·6 미 의회 난입 사태는 워밍업처럼 보일 것”이라고 경고했다.