"AI가 가지고 있는 편견을 파악하는 것이 중요하다. AI에 편견이 있다는 걸 감지했다면 모델 구축 과정에서 편견을 줄여나가야 하고, 개발 이후 운영 과정에서도 실시간 감시를 통해 제거할 수 있는 역량을 갖춰야 한다."

IBM에서 AI 전략 부문 최고 데이터 책임자 및 부사장을 맡고 있는 세뜨 도브린 박사는 23일 온라인 기자간담회를 통해 AI에 대한 투명성과 신뢰성을 강조했다.

최근 혐오 발언과 개인정보 노출 등으로 논란이 됐던 AI 챗봇 '이루다'를 비롯해 기업의 채용, 법률 서비스, 금융 자산 관리, 보험 지급 심사 등 사회 각 분야에서 AI의 도입이 늘어나면서 AI와 데이터 감독 관리의 중요성이 크게 대두되고 있는 상황이다.

도브린 박사는 '신뢰할 수 있는 AI'를 만들기 위해 ▲AI가 가진 편향성을 개선하는 '공정성' ▲AI가 내린 결정 사항을 설명 가능케 하는 '설명 가능성' ▲AI에 사용된 데이터를 보호할 수 있는 '보안' ▲AI가 내린 결정과 여기에 사용된 데이터와 모델을 추적 가능케 하는 '책임'을 강조했다.

그는 "AI를 포함한 신기술은 반드시 투명한 검증과 설명이 가능해야 한다"며 "차량의 블랙박스처럼 AI가 실제로 어떤 과정을 통해 결과를 도출하게 됐는지 설명할 수 있어야 한다"고 말했다.

또한 도브린 박사는 "AI는 인간을 대체하기 위한 것이 아니라 인간의 재능을 대체하기 위한 목적으로 쓰여야 하며 데이터와 소유권은 창작자에게 있다"며 IBM이 가진 AI 원칙을 소개했다.

실제로 IBM은 '왓슨AI'로 비즈니스용 AI 분야를 선도하면서 전 세계 고객을 위해 신뢰와 투명성의 원칙을 강조하고 있다. 또한 AI를 개발함에 있어서 '사람'을 기술의 중심에 두고, 기술이 책임감 있게 사용되는지 확인하며 윤리적인 AI 구현을 위한 글로벌 차원의 움직임을 주도하고 있다.

IBM은 지난해 세계 경제 포럼 연례 회의에서 'AI 규정'에 대해 주창했으며, 올해 열린 다보스 아젠다 디지털 포럼에서 아빈드 크리슈나 IBM CEO는 IBM의 AI 윤리에 대한 접근 방식을 오픈소스화 하겠다고 밝혔다.

이를 통해 IBM은 ▲AI 윤리를 세계적인 규모로 실천하기 위한 접근 방식 ▲데이터 및 기술의 응용 프로그램을 중앙 집중화된 신뢰할 수 있는 방식으로 평가하는 데 사용하는 거버넌스 구조 ▲AI 윤리를 구현하는데 필요한 컨설팅 전문 지식과 노하우 등을 제공할 예정이다.

또한, 회사 전체의 기술 결정을 가이드하고 복잡한 윤리적 문제를 해결하는 데 도움이 되도록 IBM의 AI 윤리 위원회 업무 방식을 공유할 계획이다.