딥브레인AI가 딥페이크 탐지 기술을 외부 기업과 기관이 손쉽게 활용할 수 있도록 API 형태로 제공한다고 11일 밝혔다.

이번 서비스는 문화체육관광부와 한국콘텐츠진흥원이 주관한 '문화기술 연구개발' 사업의 일환으로 추진됐다. 기존에 딥브레인AI 플랫폼 내부에서만 사용 가능했던 딥페이크 탐지 기능을 외부 프로그램에서도 활용할 수 있게 한 것이 핵심이다. 영상·음성·이미지 등 콘텐츠의 진위 여부를 검증해야 하는 기관은 별도의 시스템 구축 없이 해당 기능을 연동해 사용할 수 있다.

딥브레인AI의 딥페이크 탐지 솔루션 'AI 디텍터(AI Detector)'는 영상·이미지·음성 분석을 통해 얼굴 합성, 얼굴 교체, 립싱크 합성 등 다양한 형태의 조작 콘텐츠를 탐지한다. 픽셀 단위의 차이를 분석해 위조 여부를 판별하는 기술을 기반으로 하며, 국내 공공기관에 상용화된 사례도 있다.

이 솔루션은 콘텐츠 업로드 단계에서부터 불법 합성물 확산을 사전에 차단하고, 게시 이후에도 실시간 모니터링을 통해 의심 콘텐츠를 자동 판별한다. 특히 불법 성인물 등 유해 콘텐츠는 자동으로 블러 처리돼 2차 피해를 방지하도록 설계됐다.

딥브레인AI는 이번 API 출시를 통해 외부 플랫폼과 서비스에서도 AI 탐지 기능을 쉽게 적용할 수 있게 함으로써, 신뢰할 수 있는 디지털 환경 조성에 기여한다는 방침이다.