기업 경쟁력의 핵심이 된 인공지능(AI)을 책임감 있게 활용하기 위한 법적 기반이 마련되고 있다. '인공지능(AI) 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)'이 내년 1월 22일 시행을 앞둔 가운데, 기업은 단순한 규제 준수를 넘어, 자사 AI 서비스 특성에 맞는 체계적이고 실용적인 관리 체계를 선제적으로 수립해야 할 시점이다.

PwC컨설팅은 이 같은 내용을 담은 'AI 기본법 시행, 기업은 무엇을 준비해야 하는가?' 보고서를 발간했다고 19일 밝혔다. AI 기술의 건전한 발전과 사회적 신뢰 구축을 목표로 하는 AI 기본법은 10월 입법예고를 거쳐 연내 하위법령 제정을 완료할 예정이다. AI관련 법안을 제정한 국가는 한국이 유럽연합(EU)의 'AI Act'에 이어 세계에서 두번째다.

보고서에 따르면 AI기본법의 핵심은 '고영향 AI' 개념을 새롭게 도입한 것이다. 고영향 AI는 에너지 공급, 먹는 물 생산 등 11개 핵심 영역에서 사용되는 AI 가운데 '사람의 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려'가 있는 AI를 뜻한다. 고영향 AI사업자는 고영향 AI의 사전 검토, 사전 고지, 안전성·신뢰성 확보 조치 등의 의무를 이행해야 한다. 또한 AI 기본법은 고영향 AI, 생성형 AI, 대규모 연산량 등을 사용하는 고성능 AI 사업자를 'AI 사용자'로 정의하며 투명성 의무 및 안전성 확보 의무를 부과한다.

보고서는 AI 기본법 대응 과정에서 기업들이 직면할 주요 과제를 ▲AI 위험 관리 체계 구축의 복잡성 ▲AI 학습데이터 및 모델 관리 체계의 부재 ▲이용자 보호 방안 수립의 실효성 확보 등 크게 세 가지로 제시했다. 보고서는 "AI 기본법 대응을 위해서는 단순한 기술적 접근을 넘어 기업의 전략, 조직, 기술, 운영 전반에 걸친 구조적 변화가 필요하다"고 강조했다.

이러한 도전 과제를 해결하기 위해 보고서는 'AI 거버넌스 체계' 구축을 핵심 대안으로 제시했다. AI 거버넌스는 단순한 기술 통제 수단이 아니라, 기업 전략·운영·컴플라이언스·리스크 관리가 통합된 전사적 관리 프레임워크다. 보고서는 "AI 거버넌스는 외부 규제에 대응하기 위한 수단이자, 내부적으로는 AI 기술을 전략적으로 활용하고 통제할 수 있는 기업의 핵심 역량으로 돼야 한다"고 설명했다.

마지막으로 보고서는 AI 기본법에 효과적으로 대응하기 위한 3단계 로드맵으로 ▲AI 기본법에 대한 준비도(Readiness) 진단 및 대응 전략 수립 ▲AI 거버넌스 체계 수립 ▲효율적 AI 거버넌스 실행을 위한 IT 시스템 구축 등을 제시했다.

김진유 PwC컨설팅 AI 트러스트센터장(파트너)은 "AI 기본법 시행을 앞두고 많은 기업이 혁신과 규제 사이에서 방향성을 고민하고 있다"며 "이번 보고서가 AI 기술을 책임 있게 활용하고 신뢰 기반의 AI 경쟁력을 확보하는 실질적인 가이드라인이 되길 바란다"고 말했다.

보고서의 자세한 내용은 PwC컨설팅 홈페이지에서 확인할 수 있다.

한편 PwC컨설팅은 법 시행을 앞두고 기업의 규제 대응 체계를 지원하는 'AI 트러스트(Trust) 센터'를 최근 출범했다. 센터는 AI 개발, 데이터, 컴플라이언스, 정보기술(IT), 보안 등 다양한 분야의 전문가 집단으로 구성되며, AI 기본법 대응 체계 구축부터 데이터 및 IT 거버넌스 수립, 관련 인증(ISO/IEC 42001) 획득 지원까지 통합적인 AI 서비스를 제공하고 있다.