지브리풍 이미지 생성으로 화제를 모은 챗GPT 등 생성형 AI는 성별이나 인종 정보를 명시하지 않아도 대부분 '백인 남성'을 주인공으로 설정한다. 이는 반복 실험에서도 동일한 결과를 보인다. AI 모델들이 훈련 데이터에 내재된 사회적 편견을 학습해 성별, 인종, 나이 등에 따른 차별을 재생산하는 구조 때문이다.

21일 <메트로경제> 취재 결과 AI 모델의 차별, 혐오표현, 편향성 등이 여전히 문제시 되는 가운데 이를 해결하기 위한 다양한 방책이 쏟아지고 있다.

AI 모델의 편향성은 훈련 데이터에 내재된 사회적 편견을 그대로 학습해 성별, 인종, 나이 등에 따른 차별을 학습, 재생산하는 현상을 뜻한다. 데이터의 불균형과 알고리즘 설계자의 무의식적 편향이 주요 원인으로 꼽힌다.

AI 모델의 편향성은 생성형 AI 대중화 이전부터 문제로 지적돼 왔다. 중국 난징항공우주대 천지성 연구원은 AI 채용 시스템이 효율성을 높이면서도 비백인 남성에 불리한 차별적 결과를 낳았다고 밝혔다. 그는 "AI의 편향은 데이터셋과 알고리즘 설계자의 편견에서 비롯되며, 기존 사회적 불평등을 강화할 수 있다"고 경고했다.

헬스케어 분야에서도 단일 인종·성별 중심의 학습은 특정 집단에 대한 과잉 해석 등 왜곡을 유발할 수 있다는 우려가 제기된다.

편향으로 인한 각종 문제는 사회적 불평등을 심화시키고, AI 모델이 생성하는 결과물의 품질에도 영향을 미친다. 이에 따라 AI 모델을 개발하는 기업들은 적극적으로 편향을 해결하기 위해 노력하고 있다.

카카오는 지난해 10월 AI 기술 개발과 운영 과정에서 발생할 수 있는 리스크를 사전에 식별하고 관리하는 리스크 관리 체계인 '카카오 AI 세이프티 이니셔티브(Kakao AI Safety Initiative(카카오ASI)'를 구축했다. 카카오 ASI는 ▲Kakao AI 윤리 원칙 ▲리스크 관리 사이클 ▲AI 리스크 거버넌스라는 3가지 핵심요소로 구성된다.

카카오 관계자는 "카카오 ASI는 지난해 5월 개최된 'AI 서울 서밋(AI Seoul Summit)'에서 선언한 '서울 AI 기업 서약'을 위한 실천에 해당한다"며 "AI 윤리와 안전을 위해 다양한 선제적 노력을 이어갈 예정"이라고 설명했다.

네이버 또한 AI 시스템을 개발하고 배포하는 과정의 모든 단계에서 AI의 잠재적 위험을 인식·평가·관리하기 위한 대응 체계를 갖고 있다.

네이버의 AI 모델 하이퍼클로바X는 레드팀 테스트, 전문 데이터 확보, 강화학습 알고리즘 개선 등을 통해 생성 정보의 정확성, 편향성, 안전성 등을 개선하고 있다. 또한 타 문화권과의 협업을 통해 특정 문화의 특징과 사회적 맥락을 학습하는 데도 주력하고 있다.

정부 또한 AI 모델의 편향성을 개선하기 위한 노력을 이어가고 있다. 한국지능정보사회진흥원(NIA)와 한국정보통신기술협회(TTA)는 대규모 언어모델(LLM) 학습용 데이터 내 '유해 표현 검출 인공지능 모델 및 유해 표현 학습용 데이터'를 공개하기도 했다.

공개된 인공지능 모델은 주어진 말뭉치 데이터 내에서 유해 표현을 검출하고 다양한 유해 표현 카테고리로 분류하는 기능을 수행할 수 있다. 과학기술정보통신부의 초거대 AI 확산 생태계 조성 사업의 일환으로, LLM 데이터의 품질 검증 과정에서 '유해성'을 측정하기 위해 개발됐다. 자체 성능 검증 결과, 해당 모델은 80~90% 수준의 높은 정확도를 기록하며 유해 표현 검출의 실효성을 입증했다.

학습용 데이터는 ▲유해 표현 검출용 데이터 20만 건 ▲유해 표현 카테고리 구분용 데이터 21만 건으로 구성돼 있다.

황종성 NIA 원장은 "인공지능 기술의 발전은 기술적 진보뿐만 아니라 사회적 책임을 담보할 수 있는 윤리적 고려가 반드시 병행돼야 한다"며 "이는 지속 가능한 인공지능 생태계 조성을 위한 핵심 요소"라고 강조했다.