[기자수첩] AI의 차별, AI 윤리로 적극 대응해야

프란치스코 교황은 최근 인공지능(AI) 등 디지털 기술이 불평등을 심화시킬 수 있다며 "기술 발전이 불평등을 악화시키는 요인이 된다면 불행한 퇴보의 시대가 찾아올 것"이라고 지적하면서 윤리가 수반돼야 함을 강조했다. 이 같은 불평등의 대표 사례로 AI가 남녀 차별, 인종 차별을 한다는 논란들은 어제오늘 새롭게 제기된 것이 아니다. 이미 3~5년 전부터 AI 기술이 여성이나 흑인 등 유색인종을 차별하는 일들이 벌어져왔다. 아마존이 2014년 개발한 AI 채용 시스템은 여성 차별 문제를 일으켜 폐기됐다. 취업준비생 이력서 평가 알고리즘에서 여자대학 졸업 등 '여성'이라는 단어가 들어가면 감점요소로 분류했고, 그 결과, 경력 10년 이상 남성 지원자 서류만 추천했다. AI는 방대한 양의 데이터를 입력하면 이를 학습해 추천자를 골라주는 데, 이전 10년간 남성들이 IT 산업에서 지배적이었던 데이터를 그대로 학습했기 때문이다. 또 2016년 마이크로소프트(MS)가 선보인 채팅봇 '테이'는 '네가 멕시코인인데 당연하지' 같은 인종차별적 말을 해 16시간 만에 운영이 중단되는 일도 있었다. 백인 우월주의자와 여성·무슬림 혐오자들이 테이를 의도적으로 학습시킨 결과였다. 한 정부부처 관계자는 "AI가 기존 데이터를 학습하기 때문에 차별 문제가 발생하는데 이에 대한 선제적인 대응이 필요하다"고 지적했다. 최근에는 AI 비서 대부분이 여성으로 기본 설정된 것도 성적 편견이라는 문제의식이 커지고 있다. AI 비서가 자신이 '어여쁜 여비서'라고 답하거나, "여자여서 자동차에 관심이 없다"는 답변을 해 여성에 대해 잘못된 편견을 조장해왔다는 것이다. 이 같은 차별, 불평등 등의 문제로 인해 AI 윤리가 필요하다는 인식이 전세계적으로 확산돼 왔다. 최근 경제협력개발기구(OECD)뿐 아니라 AI 기술에서 앞서가는 미국, 중국, 유럽연합(EU) 등도 AI 윤리기준을 제정했다. 우리나라도 정부 부처가 앞장서 AI 윤리를 마련하는 작업이 진행되고 있다. 우리나라가 AI 기술에 있어 미국, 중국 등에 뒤졌지만 최근 정부가 AI 활성화를 대대적으로 내세운 만큼 AI 윤리 마련에도 정부뿐 아니라 관련 단체, AI 전문가들이 적극 참여해 발 빠르고 합리적인 윤리지침들을 내놓아야 한다. 이제는 4차 산업혁명 시대로 가는 발판을 탄탄하게 다져야 할 때다.