미국 대선을 불과 2주 앞두고, 인공지능(AI) 기술을 악용한 허위·조작정보와 딥페이크 콘텐츠에 대한 우려가 커지고 있다. 허위 정보가 마치 사실처럼 유포돼 유권자의 혼란을 초래할 수 있다는 점에서, 미국 정부와 빅테크 기업들은 대응책 마련에 나섰다. 하지만 법적 규제와 기술적 대응 모두 아직 한계가 있다는 지적이 제기된다.

딥페이크는 AI의 심층 학습을 뜻하는 '딥러닝'과 가짜를 의미하는 '페이크'의 합성어로, 특정 인물의 얼굴이나 목소리, 신체 일부를 조작한 콘텐츠를 뜻한다.

24일 <메트로경제> 취재에 따르면, 딥페이크의 위험성은 이미 현실로 드러나고 있다. 지난 1월, 미국 대선 후보 예비선거(프라이머리) 직전, 유권자들은 조 바이든 대통령의 목소리를 모방한 'AI 로보콜'을 받았다. 이 로보콜은 '프라이머리에서 투표하면 11월(대선)에 투표할 수 없다'는 허위 정보를 전달했다.

미 연방통신위원회(FCC)는 해당 전화 메시지를 만든 정치 컨설턴트 스티브 크레이머에게 82억원(약 600만달러)의 벌금을 부과했으며, 크레이머는 딥페이크 기술을 악용해 바이든 대통령의 가짜 음성 전화 메시지를 만든 혐의로 검찰에 기소됐다.

또, 선거가 과열되면서 도널드 트럼프 공화당 대선후보가 자신의 소셜미디어(SNS)에 AI로 생성한 허위 이미지를 여러 차례 게시하며 논란을 빚었다.그는 민주당 대선 후보인 카밀라 해리스 부통령이 시카고 '공산당 행사'에서 연설하는 모습이나 유명 가수 테일러 스위프트와 그의 팬들이 트럼프를 지지하는 모습을 담은 AI 생성 이미지를 게시해 유권자들의 혼란을 가중시켰다.

미국 정부는 딥페이크와 같은 허위·조작 정보에 대응하기 위해 규제에 나서고 있지만, 연방 차원의 법적 제재는 아직 미흡한 상황이다. 미국 연방 상원에서 AI를 이용한 선거 운동 규제를 담은 법안을 2건 발의했으나 아직 가결되지 않은 상황이다. 조 바이든 대통령은 AI를 이용한 선거 운동을 금지하는 행정명령을 발동했으나, 자발적 참여를 유도하는 수준에 그쳐 강제성이 부족하다는 비판이 나온다.

빅테크 기업들도 AI를 악용한 딥페이크 차단을 위해 다양한 대응책을 내놓고 있다. 지난 2월, 구글과 메타, 오픈AI를 포함한 20개 빅테크 기업들은 AI 기반 딥페이크를 차단하는 데 합의했다. 합의문에서 빅테크 기업들은 딥페이크 콘텐츠에 라벨(꼬리표)을 부착해 사용자가 해당 콘텐츠가 조작된 것임을 쉽게 인지할 수 있도록 조치를 취하기로 했다.

인텔은 '페이크캐처'라는 딥페이크 탐지 기술을 개발했다. 이 시스템은 영상 속 얼굴의 미세한 정맥 변화를 1000분의 1초 단위로 감지해 실제 인물과 조작된 인물을 구분할 수 있다. 또한, 스타트업 '히야'는 AI로 생성된 음성을 탐지할 수 있는 '히야 딥페이크 보이스 디렉터'를 출시했다. 크롬에서 무료로 설치할 수 있는 확장 프로그램으로, AI 음성 사기를 차단할 수 있는 기능을 제공한다.

히야 관계자는 "제3자 테스트 결과, 확장 프로그램은 99% 이상의 정확도를 보였다"고 설명했다. 이어 "이 모델은 학습하지 않은 AI로 생성된 음성까지도 감지할 수 있으며, 새로운 합성 모델로 생성된 음성도 출시하자마자 바로 알아낼 수 있다"고 덧붙였다.

그러나 이러한 기술적 대응만으로는 허위·조작 정보와 딥페이크 콘텐츠 확산을 막기에 부족하다는 지적이 지속적으로 나오고 있다. 한 IT 업계 전문가는 "기술적 대응뿐만 아니라 강력한 법적 규제와 대중을 대상으로 한 교육이 병행되어야 한다"고 강조했다. AI 기술의 빠른 발전 속도에 맞춰 규제와 교육이 함께 이루어져야 허위 정보가 선거에 미치는 영향을 최소화할 수 있다는 것이다.