인공지능(AI)법이 22대 국회 마지막 관문을 넘지 못 하면서 당면한 문제들을 정부가 모르쇠 한다는 비판이 나오고 있다. 급기야 저작권 문제나 딥페이크 등을 우려한 개인이 기술을 배워 직접 자기 권리 지키기에 나서자 전문가들은 법률 통과 이전이라도 정부가 타 법안을 근거 삼아서라도 문제를 해결해야한다는 지적이다.

12일 관련 업계에 따르면 AI 기본법이 상임위원회 전체회의에 계류되며 결국 차기 국회 몫으로 넘어갈 가능성이 높아졌다. AI 기본법은 AI 개념 규정과 AI 산업 육성·안전성 확보를 위한 방향성이 담긴 법안으로, 개발 및 활용 윤리 등 중요한 기본 법률적 토대가 될 예정이었다.

AI 기본법이 중요한 데에는 AI 개발과 활용 과정에서 다양한 변수가 발생할 수 있고 이 문제가 개인의 기본 권리를 침해할 수 있기 때문이다. 이 탓에 개발사는 물론 많은 업계의 개인까지도 AI 기본법에 관심을 갖고 통과를 촉구 중이다.

국내 AI 대기업·중소기업·스타트업 등 132개 기업이 회원사로 참여하는 '초거대 AI 협의회'는 지난달 AI 기본법 통과를 촉구하는 성명서를 발표했다. 명확한 가이드라인 없는 개발은 개발을 지연시킬 뿐만 아니라 개발 후 뒤늦게 법안이 만들어질 경우 이중, 삼중 개발이 우려된다는 주장이다. 협의회는 글로벌 각국 대표와 기업이 한자리에 모이는 'AI 서울 정상회의' 개최가 코앞이지만 기본 지침조차 마련하지 못한 상황에 대해 우려하고 있다.

정부가 미적거리며 어떤 대책도 도움이 되지 않는 사이 개인들은 AI에 맞서 고군분투하고 있다.

김효진씨(35)는 국내 웹소설 업계와 일본 게임업계에 일러스트를 수출 중인 일러스트레이터지만 최근 모든 작업물에 나이트셰이드(NightShade)로 '독풀기' 단계를 거치고 있다. 일러스트 생성형 AI가 활발하게 사용되기 시작한 후 한 유머글에서 자신의 일러스트 스타일과 거의 유사한 AI 작품을 발견해 충격을 받은 탓이다.

김씨는 "AI에 대해 공부해 본 결과 그림에 서명을 남긴다고 해서 내 그림이 AI의 학습 데이터로 전락하는 것을 막을 수는 없다는 것을 알았다"며 "나는 단 한 번도 AI 학습을 위한 그림을 그린 적 없고, 항상 정당한 대가를 받고 그림을 판매했다. 그래서 최근 '독풀기'를 모든 작업물에 적용하고 있다"고 밝혔다.

'독풀기'는 주로 일러스트와 음악 등을 작업하는 사람들 사이에서 쓰는 말로, 작업물에 AI가 학습을 할 수 없도록 작업물의 데이터 내부에 일부 변형을 가하는 기술이다. 지난해 시카고 대학 벤 자오 연구팀이 무상 공개한 나이트셰이드를 이용하는 것으로, 이를 거친 일러스트는 AI의 학습에 치명적인 문제를 일으킨다. 독풀기가 완료된 일러스트 100개면 스테이블 디퓨전 SDXL 프롬프트가 손상될 정도다.

AI는 개발에 있어 반드시 학습이 전제된다. 학습한 데이터 수준에 따라 성능이 판가름 되는 만큼 개발사들은 최대한 많은 양질의 학습 데이터셋을 확보하고자 한다. 일부 기업이 저작권을 확보한 데이터를 학습시키기도 하지만 챗GP T 개발사인 오픈AI를 비롯해 많은 기업이 이를 위반하고도 모르쇠 한다는 의혹을 받고 있다.

업계 전문가는 "당장 정부가 나이트셰이드 수준의 프로그램을 개발해 배포하는 것은 불가능할 것"이라면서도 "적어도 지침이라도 마련하거나 혹은 관련 업계 사람들을 돕기 위한 시늉이라도 해야하지만 이 조차 없다는 것은 심각한 문제"라고 지적했다.