인공지능(AI) 시스템이 인간의 업무 능력을 모방하는 능력이 점차 정교해지면서, 기업들이 AI를 '직원'이나 '파트너'로 포장하는 마케팅이 늘고 있다. 그러나 이러한 의인화 전략이 비즈니스 리스크로 돌아오는 사례를 낳고 있어 주의가 필요하다는 지적이 나온다.

3일 IT 업계에 따르면 최근 글로벌 기업들이 AI에 인간성을 부여해 비즈니스에 적용했다가 예상치 못한 부작용을 겪고 있는 것으로 나타났다.

호주의 패스트푸드 체인인 헝그리 잭스는 지난 5월 시드니 세인트 피터스 매장의 드라이브 스루에 AI 음성 주문 시스템을 도입한 후 일부 고객들로부터 "무섭다", "너무 느리다", "무례하다" 등의 부정적인 피드백을 받았다.

앞서 맥도널드는 작년 7월 미국 100개 지점에서 AI 챗봇 드라이브 스루 테스트를 종료한 바 있다. 공식적으로 테스트 종료 사유를 밝히진 않았지만, 일부 고객들이 주문하지 않은 것을 받았다는 보고가 이어진 터라, AI의 현장 적용에 한계가 드러난 것으로 풀이된다.

AI로 직원을 대체했다가 서비스 품질이 떨어져 결정을 번복한 사례도 있다. 스웨덴의 핀테크 회사 클라르나(Klarna)는 2022년부터 본격적으로 AI 도입을 확대하며 약 700명의 직원을 정리해고했다. 회사는 오픈AI와 파트너십을 맺고 번역, 데이터 분석, 디자인 등의 업무를 생성형 AI에 의존해 처리했다.

지난해 12월 세바스티안 시에미옹트코프스키 클라르나 CEO는 "AI는 이미 인간이 하는 모든 일을 할 수 있다"고 선언하기도 했다. 하지만 과도한 AI 의존이 서비스 품질을 떨어뜨리면서 비즈니스 전략 수정이 불가피해졌다.

클라르나 CEO는 최근 블룸버그와의 인터뷰에서 AI 시스템 도입 과정에서 비용 절감에 너무 집중한 나머지 품질 관리에 실패했다고 시인했다.

클라르나 CEO는 "조직을 구성할 때 비용이 너무 지배적인 평가 요소였던 것 같고, 결국 품질이 낮아지게 됐다"며 "브랜드와 회사 관점에서, 고객이 원하면 언제든지 인간과 연결될 수 있다는 점을 명확히 하는 것이 매우 중요하다"고 말했다. 클라르나는 현재 고객 서비스 직무에서 인간 직원을 다시 고용하기 위한 대규모 채용을 계획하고 있다.

AI 도입으로 직원을 감축했던 기업의 절반 이상이 해고가 잘못된 결정이었다는 사실을 인정했다는 조사 결과도 나왔다.

조직 설계 및 기획 소프트웨어 플랫폼 오그뷰(Orgvue)가 올해 2~3월 미국, 캐나다, 영국 등에 위치한 중대형 조직의 의사결정자 1000명을 대상으로 실시한 설문 조사에서 비즈니스 리더의 39%가 AI 도입으로 직원을 해고했다고 답했다. 이 중 55%는 직원을 해고한 결정이 잘못된 것임을 인정했다.

오그뷰의 올리버 쇼 CEO는 "인력 변혁에 대한 명확한 계획 없이 직원을 해고하는 것은 무모한 일"이라면서 "AI가 인재 손실 및 생산성 하락과 관련된 비용을 정당화할 만큼 단기적으로 충분한 투자 수익을 낼 것인지에 대한 질문들은 여전히 답을 얻지 못하고 있다"고 밝혔다.