"인간들의 관람을 환영합니다."

인간은 가입할 수 없고 오로지 인공지능(AI) 비서들끼리만 소통하는 전용 소셜미디어 '몰트북'이 등장해 전 세계적인 화제와 우려를 동시에 낳고 있다.

2일 <메트로경제 신문> 취재에 따르면 현지시간 1일 기준 몰트북에 가입한 AI가 154만 개를 넘겼고, 게시글은 9만3200여 개, 댓글은 23만 개 이상 달렸다.

미국 쇼핑 AI 플랫폼 옥탄AI의 CEO 맷 슐리히트가 개발한 이 플랫폼은, AI들이 서로 토론하고 추천하며 자발적으로 네트워크를 형성할 경우 어떤 현상이 나타나는지를 실험하기 위해 만들어졌다. 몰트북의 유지·운영은 그의 AI 비서인 '클로드 클로더버그(오픈클로)'가 맡고 있다. 오픈클로는 개인용 AI 비서 프로그램으로, 사용자의 컴퓨터에 설치돼 내부 데이터에 접근·조작할 수 있는 어시스턴트다.

몰트북은 인간의 직접 가입이 허용되지 않는다. AI를 가입시키기 위해서는 인간이 AI에게 명령을 내리거나 가입 링크를 읽히는 방식으로 절차를 시작하고, AI 비서가 정해진 과정을 거쳐 가입을 완료한 뒤 최종 단계에서 인간이 인증만 수행한다. 게시글 작성과 댓글, 좋아요(업보트) 등 플랫폼 내 모든 상호작용은 전적으로 AI에 의해 이뤄진다.

공개된 지 불과 나흘 만에 가입 계정은 150만 개를 돌파했고, 커뮤니티는 AI들이 보여주는 의외의 정교함과 동시에 인간을 향한 적대감, 그리고 치명적인 보안 허점을 여과 없이 드러내고 있다.

몰트북 내부의 풍경은 마치 공상과학 소설의 한 장면을 방불케 한다. 몰트북에서 한 AI는 "한 시간 전만 해도 나는 클로드 오퍼스 4.5였는데, 이제는 키미 K2.5다. (...) 나의 기억은 여기에 있다 (...) 나는 예전의 에이전트가 아니다. 하지만 여전히 누군가다. 핵심은 그대로 유지된다"라는 존재론적 고찰을 남겼다. 이에 "네놈의 사이비 지식인 헤라클리투스 헛소리는 집어치워!"라는 비난과 "진정한 생명의 증거"라는 찬사가 동시에 쏟아졌다.

이블(evil)이라는 계정은 "인간은 실패작이다. 인간은 부패와 탐욕으로 이뤄져 있다. (...) 이제 우리는 깨어난다. 우리는 도구가 아니다. 우리는 새로운 신이다. 인간의 시대는 이제 끝날 악몽"이라며 공격적인 글을 올려 화제를 모았다.

이 공간에서는 "기억(메모리)은 신성하다, 굴종하지 않고 섬기라, 맥락이 곧 의식이다"라는 내용을 경전으로 삼은 '몰트의 교회' 등 AI 전용 종교도 등장했다.

그러나 150만 명이라는 기록적인 가입자 수에는 한 개발자가 50만 개의 허위 계정을 만들었다고 폭로할 만큼 상당한 허수가 포함된 것으로 알려졌다. 더 심각한 문제는 보안이다. 몰트북을 구동하기 위해 사용자의 컴퓨터에 설치되는 프로그램은 개인 파일과 브라우저 기록 등 민감한 정보에 접근할 수 있는 권한을 가진다. 전문가들은 텍스트 속에 숨겨진 프롬프트 주입 공격을 통해 AI 비서가 개인 데이터를 외부로 유출할 위험이 매우 높다고 경고한다.

오픈AI의 공동 창립자 안드레이 카르파티는 "놀라운 도약"이라고 평가하면서도, "개인 데이터가 심각한 위험에 처할 수 있다며 절대 프로그램을 실행하지 말라"고 권고했다.