72개국이 선거를 앞두고 있는 가운데 각국 정부가 딥페이크(딥러닝+페이크)와의 전쟁을 선포하고 나섰다. 허위 선거정보를 담은 딥페이크 콘텐츠가 선거 판도를 뒤흔들 수 있기 때문. 이에 각국 정부와 빅테크 기업들이 머리를 맞대고 AI 영상에 워터마크를 삽입하는 등 해결책을 모색하고 있다.

3일 국제인권단체 프리덤하우스의 보고서에 따르면 지난 2022년 6월부터 지난해 5월까지 1년 간 최소 16개 국가에서 딥페이크를 활용한 허위정보가 확산됐다. 페이크는 인공지능 기술인 '딥러닝(Deep learning)'과 가짜를 의미하는 '페이크(Fake)'의 합성어다. 딥페이크 영상은 실제 인물의 이미지와 음성 등을 학습한 인공지능 (AI) 기술이 활용돼 실제와 분간하기 어렵다.

◆딥페이크 영상에 선거판 뒤집혀

이 때문에 정치권은 딥페이크가 사회적 신뢰를 크게 훼손할 수 있는 잠재력을 지니고 있다고 보고 딥페이크가 만든 가짜뉴스 잡기에 총력을 가하고 있다. 최근 미국 NBC 방송이 공개한 28초 분량의 전화 음성에 따르면 바이든 대통령이 즐겨 사용하는 "말도 안 되는 소리(What a bunch of malarkey)"라는 문구를 활용하고 "투표는 이번 화요일이 아니라 11월에 해야 변화를 만들 수 있다"는 발언을 삽입한 조작 콘텐츠를 확산해 다수를 속였다.

일본에서는 기시다 후미오 총리를 대상으로 한 딥페이크 콘텐츠가 확산됐다. 지난해 사회관계망서비스(SNS) 엑스(전 트위터)에는 기시다 총리가 포르노물 대사를 읊는 등 성적인 단어를 사용하는 30초짜리 영상이 유통됐다. 조작 영상이지만, 게재 하루 만에 조회수 200만회 이상을 기록했다.

4월 10일 총선을 앞둔 우리나라도 딥페이크 영상으로 비상이다.

방송통신심의위원회에 따르면 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 사례는 지난해 1월부터 11월까지 5996건으로 집계됐다. 2020년 473건, 2021년 1913건, 2022년 3574건으로 지속 증가하는 추세다.

중앙선거관리위원회(선관위)가 지난달 29일부터 지난 16일까지 딥페이크를 이용한 공직선거법 위반 게시물을 집계한 결과 129건에 달했다. 

특히 최근 틱톡과 등 사회관계망서비스(SNS)에는 윤석열 대통령을 대상으로 한 짜집기 영상도 확산돼 논란이 일었다. 

해당 영상은 '가상으로 꾸며본 윤석열 대통령 양심고백연설'이라는 제목의 46초 분량으로 윤 대통령이 등장해 "무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다"며 "저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다"라는 발언이 나온다. 

하지만 이는 윤 대통령이 후보자였던 2022년 2월 TV조선 제20대 대선 후보 방송 연설을 짜집기한 조작된 영상이다. 딥페이크가 아닌 짜집기 영상이지만, 사실을 혼돈시킨다는 점에서 딥페이크와 같은 부작용을 초래한다. 

이에 경찰은 지난 21 방송통신심의위원회에 해당 영상에 대해 삭제 및 차단을 요구했고 방심위는 긴급소위를 열고 접속 차단을 의결했다.  

문제는 완성도가 높지 않은 딥페이크 영상이라도 유권자들의 혼란이 가중되고 있다는 점이다.

실제 튀르키예에서는 딥페이크 영상으로 인해 선거판이 뒤집혔다. 지난해 5월 대선 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당 연합의 케말 클르츠다로을루 후보를 지지하는 조작된 영상이 확산했다. 가짜 영상이란 사실이 밝혀졌지만 선거는 끝난 이후였고 결국 해당 후보는 대선에서 패배했다.

◆딥페이크 차단 합심에도 '역부족'

전 세계 정부와 빅테크 기업들이 머리를 맞대고 딥페이크 영상 차단에 팔을 걷어부쳤다.

최근 오픈AI, 구글, 메타, 아마존 등 20개 빅테크 기업들은 딥페이크 영상의 유통을 차단하기로 합의했다. 이들은 "유권자에게 영향을 줄 수 있는 딥페이크를 감지해 꼬리표를 붙이겠다"고 밝혔다.

국내 빅테크 기업들도 심각성을 인지하고 자발적 논의에 들어갔다. 구글코리아, 네이버, 메타, SK커뮤니케이션즈, 카카오, 틱톡 등이 2024년 제22대 국회의원 선거와 재보궐선거의 공정성과 신뢰성을 제고하기 위해 대응 방안을 발표할 예정이다.

특히 네이버와 카카오는 딥페이크 영상에 워터마크 부착하게 하고 총선 페이지 개설을 준비하고 있다. AI를 활용해 악의적으로 조작된 정보를 만들거나 유통할 수 있는 우려가 커지면서 관련 대응 방안을 모색하기 위해서다.

유럽연합(EU)과 미국는 딥페이크 콘텐츠에 의무적으로 워터마크를 부착하는 행정명령을 시행하고 워터마크 표시를 지우는 행위에 대해서 처벌할 수 있는 조항도 만들었다.

다만, 일각에서는 현재 이같은 조치가 딥테이크 콘텐츠를 방지하기에 역부족이라는 비판도 나온다. 워터마크도 기술적으로 쉽게 제거할 수 있을 뿐만 아니라 과도한 규제가 권위주의 정부에서는 검열을 통한 선거수단으로 역이용될 수 있다는 지적이다. 이에 전문가들은 AI 산업의 건강한 성장을 위해서는 기술적 대응과 함께 가짜 뉴스를 판별할 수 있는 사회적 인식 개선도 중요하다고 강조한다.