NHN클라우드가 2027년까지 인공지능(AI) 사업 비중을 절반 규모로 확대한다. 기존 클라우드 사업에서 쌓은 기술력을 바탕으로 '풀스택 AI 전환'을 가속한다는 구상이다.

26일 김동훈 NHN클라우드 최고경영자(CEO)는 서울 중구 플라자 호텔에서 진행한 기자 간담회에서 이같은 계획을 밝혔다. 김동훈 CEO는 "이제 AI 인프라 전환은 토큰을 얼마나 저렴하게 생산하고 활용하느냐에 달렸다"며 "이를 효율적으로 운영하는게 중요한 시대"라고 말했다.

글로벌 AI 시장의 연평균성장률(CAGR)은 19.4%로 2030년까지 3944억 달러에 달한다. AI 인프라 시장은 빠르게 성장하고 있지만 막상 기업들의 GPU 활용률 격차는 크다. 이에 김 CEO는 "현재 GPU를 85% 이상 활용하는 기업은 6.5% 수준에 불과하다"며 "100개 기업 중에 7개 기업 만이 GPU를 제대로 활용하고 있다"고 꼬집었다.

이날 NHN클라우드는 이같은 한계를 보완한 AI 풀스택 브랜드 'NHN 팩토리X'를 공개했다. 팩토리X는 각 기업에 맞는 AI 워크로드에 최적화된 물리적 인프라와 GPU 자원 효율을 극대화하는 플랫폼을 제공한다. 여기에 기업을 위한 AI 에이전트 서비스까지 통합 지원한다.

NHN 팩토리X 경쟁력은 운영 시간 단축에서 나온다. GPU 인프라 구축은 최소 52주 수준으로 GPU 서버와 인피니밴드 스위치·케이블·GBIC 조달에만 48주가 소요된다. 앞으로는 이 프로젝트 기간을 줄이는 것이 GPU 확보보다 중요하다는 의미다.

여기에 구축 난이도가 높은 수랭식 냉각 방식을 통해 장애 발생률을 대폭 줄였다. 강민수 NHN클라우드 최고정보책임자(CIO)는 "공랭식일 경우 연간 GPU 장애율은 3.8~5.2% 수준이지만 수랭식을 적용하면 1.2~1.8%까지 약 3분의 1로 감소하게 된다"며 "반면 평균 무고장 시간은 18만 시간에서 48만 시간까지 늘어난다"고 설명했다.

GPU 클러스트링 기술과 운영 내재화도 강조했다. 회사는 4080장의 단일 GPU를 하나의 연산 자원처럼 단일 클러스트로 구성했다. 또 7년 간의 노하우를 기반으로 설계와 구축, 운영, 관제까지 모두 자체적으로 운영한다.

가장 큰 차별점으로는 GPU를 잘 활용하는 것에 주목했다. 김태형 NHN클라우드 최고기술책임자(CTO)는 GPU 인프라 운영의 현실과 문제점으로 전력 소비와 자원 낭비, 기업별 워크로드 특성의 차이 등을 꼽았다.

고성능 GPU는 장당 최대 수억 원에 이르지만 실제 운영할 때 학습이 종료된 후에 우휴 상태로 남거나 추론 요청이 몰리는 시간대에 대기열이 발생하는 등 비효율적인 자원 낭비가 반복되고 있다. 또 학습과 추론은 동일한 GPU 인프라라도 운영 방식에 따라 성능과 비용 구조가 크게 달라진다.

김 CTO는 "GPU 라이브와 AI 이지 메이커를 통해 운영 효율과 생산성을 동시에 극대화하는 구조를 구현했다"며 "기업들은 최적화된 AI 에이전트를 모든 업무 프로세스에 녹여낼 수 있다"고 설명했다.

'GPU 라이브'는 GPU 활용률을 끌어올리고 유휴 자원을 최소화 하는 플랫폼이다. 고객사는 대시보드를 통해 워크로드에 따른 GPU 운영 상태를 실시간으로 관리할 수 있다. AI 이지 메이커를 통해서는 개발자가 GPU 인프라 복잡성에 신경쓰지 않아도 코드와 데이터에만 집중할 수 있도록 호환성을 극대화했다.

하반기에 출시 예정인 '프로젝트X'도 공개했다. 비개발자도 자연어를 기반으로 AI 에이전트를 설계할 수 있는 플랫폼이다.

안성민 NHN엔터프라이즈 CEO는 대다수의 기업이 AI 에이전트를 회사에 정식 출근시키는 단계까지 발전하지 못하고 있다고 지적했다. 2025년 MIT 난다 보고서에 따르면, 생성형 AI를 활용한 파일럿 프로젝트의 95%가 실제 서비스로 이어지지 못한 것으로 조사됐다.

그는 "AI 시대에서는 자율과 통제가 함께 가야한다"며 "프로젝트 X는 이 두가지를 목표로 모두가 퇴근한 시간 AI 에이전트는 장애를 탐지하고 알림을 보내고 스스로 문제 조치를 수행할 수 있다"고 설명했다.

그러면서 "프로젝트X는 사람, 에이전트, 도구, 사내 시스템이 하나의 실행으로 묶인다"며 "비공개 사례 데이터와 내부의 레시피를 이용해 실제 사람이 하는 검토 시간을 줄여준다"고 말했다.

NHN클라우드의 성장축은 서비스형 GPU(GPUaaS)와 맞춤형 프라이빗 AI 인프라다. 2023년부터 가동한 광주 국가 AI 데이터센터부터 최근 가동한 팩토리X 서울까지 운영 경험에 기반해 AI 인프라 기업으로 거듭나겠다는 포부다.