'개인화' '이용자 친화' 등으로 포장된 인공지능(AI) 추천 알고리즘이 연령에 관계 없이 온라인 중독을 일으키고 있다.

미디어 플랫폼, SNS, 쇼핑 서비스 등에서 가장 적극적으로 활용되는 AI 알고리즘은 결과적으로 이용자에게 편향된 검색 결과만을 보여주면서 '필터버블(Filterbubble,특정 성향 강화)'를 일으킨다. 자신의 입맛에 맞는 결과만을 보게 된 이용자는 결국 중독에 취약해질 수밖에 없다.

27일 <메트로경제신문> 취재에 따르면 최근 AI·IT 업계를 중심으로 검색 결과를 좌우하는 AI 알고리즘을 특정 집단이나 사회 전체에 실질적 영향을 미칠 수 있는 고영향 AI로 간주하고 법·제도 차원에서 관리해야 한다는 필요성이 제기되고 있다. 이용자 데이터 학습을 기반으로 한 AI의 추천 알고리즘 기술이 결과적으로 이용자의 심리에 긍·부정적 영향을 끼칠 수 있는 탓이다.

IT 업계 관계자 A씨는 "AI 추천 알고리즘은 구입하려고 검색한 상품이 계속 연이어 나타나는 데서부터 자신이 시청한 유튜브와 비슷한 성격을 가진 콘텐츠만이 뜨는 것까지 광범위하게 거의 모든 플랫폼에 적용되고 있다"고 설명했다.

그러면서 "문제는 이용자의 인위적인 데이터 소거 등이 주기적으로 이뤄지지 않으면 AI 추천 알고리즘은 계속 견고해져 결국 이용자를 확증 편향에 빠뜨리게 된다는 점"이라고 설명했다. 그는 지난해 계엄령 이후 계속 사회적 갈등이 됐던 극우·극좌 유튜브를 중심으로 돈 음모론 등을 예로 들었다.

현행법은 AI 추천 알고리즘의 사회적 영향을 직접 규제하는 데 한계가 있다. 네이버가 다크패턴 방지를 위해 편향 된 추천 알고리즘을 최소화 하는 등 일부 플랫폼이 자체적인 노력을 기울이고 있지만 구글과 유튜브 등은 완전히 방치하고 있다는 평가를 받고 있다. 이러한 상황 속에서 상대적으로 AI 리터러시(AI Literacy,AI 문해력)가 떨어지는 저연령층과 고령층의 사정은 심각하다.

AI 추천 알고리즘의 부정적 영향은 청소년 범죄에서도 나타난다. 지난해 청소년의 딥페이크(Deepfake) 성범죄가 우리 사회에 큰 충격을 줬다. 경찰청 발표에 따르면 2024년 딥페이크 성범죄에서 10대 피의자가 차지하고 있는 비율은 2021년 65.4%, 2022년 61.2%, 2023년 75.8%, 지난해 7월까지 73.6%로 매년 늘고 있다.

한국형사법무정책연구원 윤정숙 범죄분석조사연구실장은 "(AI 추천 알고리즘 등으로) 미성년자의 범죄 접근성이 높아졌다"며 "디지털 네이티브 세대로서 초등학생 때부터 코딩을 배우고 인공지능에 친화적인 세대로 성장한 이들은 기술 접근성이 특별히 더 높은 세대"라고 설명했다.

10대 특유의 성적 호기심으로 시작해 순식간에 걷잡을 수 없이 빠르게 이어진다는 지적이다. 여기에는 특정 키워드를 확보하면 손쉽게 이어지는 AI 추천 알고리즘의 불건전 콘텐츠의 연속선이 있다.

국내 중독연구의 권위자인 의정부성모병원 이해국 정신건강의학과 교수는 고령층의 AI 리터러시 문제를 AI 추천 알고리즘에서 찾았다. 이 교수는 "고령층은 다은 연령보다 디지털 미디어에서 얻은 정보가 신뢰할 만한지 판단하는 능력이 떨어진다"며 "외로움과 고립감을 해소하기 위해 디지털 미디어 중독에 빠지는 것"이라고 밝혔다.

과학기술정보통신부의 인터넷 이용실태 조사에 따르면 지난해 기준 인터넷을 검색할 때 유튜브 등 동영상 플랫폼을 이용하는 비율은 60~70세대에서 가장 높았고, 이들 세대는 가장 신뢰하는 사이트도 유튜브로 뽑았다.

또다른 IT 업계 관계자 B씨는 "사실 AI 추천 알고리즘에서 벗어날 방법은 인터넷을 하지않는 것뿐"이라면서 "이런 상황 속에서 우리사회에 필요한 것은 첫 번째로는 AI 리터러시, 두 번째는 AI 추천 알고리즘에 대한 정부의 대응책일 것"이라고 말했다.