국회 과학기술정보방송통신위원회(과방위) 소속 김장겸 국민의힘 의원이 29일 인터넷 포털을 비롯한 온라인 플랫폼 사업자에게 인공지능(AI) 생성물(딥페이크) 표기를 의무화하는 내용의 '정보통신망 이용촉진 및 정보보호 등에 관한 법률(정보통신망법) 개정안'을 대표발의했다.

이는 최근 AI기술 대중화로 누구나 딥페이크 생성물을 쉽게 만들 수 있게 되면서 이를 악용하는 사례가 발생하고 있어서다. 특히 '딥페이크 성범죄물'로 인해 많은 이들이 피해를 받고 있다.

현행법은 방송통신임의위원회가 불법정보 및 불법촬영물 유통에 대해 삭제 및 차단 요구를 할 수 있고, 시정명령이 이행되지 않을 경우 형사고발이 가능하다. 그러나 방대하게 쏟아지는 불법 유통물에 대한 즉각적이고 실효적인 대응이 어렵다는 지적이 나오고 있다.

개정안에 따르면 일정 규모 이상의 포털·플랫폼 사업자는 AI 기술을 이용한 가상 정보 표시 기능을 제공해야 하고, 그렇지 않을 경우 1000만원 이하의 과태료가 부과된다. 정보 이용자가 AI생성물 여부를 쉽게 식별할 수 있도록 하겠다는 취지다.

또한 포털·플랫폼 사업자는 표시의무를 위반한 AI생성물의 탐지와 삭제 등 유통방지 조치를 취해야 한다. 포털·플랫폼 사업자가 AI생성물을 탐지할 수 있도록, AI개발자에게 판독 방법을 제공할 의무도 부여한다.

정보 게시자에게도 AI 생성물 표시 의무가 부과되는데, 표시를 임의로 제거하거나 훼손할 수 없도록 규정했다. 플랫폼 사업자는 이 의무를 이행하지 않거나 임의로 표시를 제거·훼손한 이용자에게 경고 또는 이용 정지, 수익 제한 조치를 할 수 있다.

다만 AI 기술의 사용 범위와 목적 등을 고려해 '대통령령으로 정하는 인공지능 생성물'에는 예외를 두기로 했다.

김 의원은 "가상 정보와 실제 사실을 구분할 수 있게 돼 AI 기술을 악용한 범죄와 사회적 혼란을 방지하고 가짜뉴스 피해를 예방할 것으로 기대한다"고 밝혔다.