[현장] NHN클라우드, 'AI 실행 인프라' 정조준…"FactoryX로 국가대표 AI 인프라 기업 도약"

전체 매출에서 AI 사업 비중을 50% 이상으로 확대하겠다

4080장의 GPU를 단일 클러스터로 묶은 경험을 내세웠다

GPU 서버 확보에는 26주 이상이 걸린다

클러스터 네트워크 구성을 위한 스위치·케이블 등 핵심 자재 확보에는 48주 이상이 걸린다

스토리지 도입에는 8~10주가 걸린다

전체 프로젝트가 최소 52주 이상 소요될 수 있다

2019년부터 GPU 인프라를 직접 운용해 왔다

H100 한 장이 유휴 상태로 지속될 경우 시간당 2.1달러 수준의 비용이 낭비될 수 있다

1000장 규모 클러스터를 운영하면서 GPU 활용률이 50%에 그친다면 연간 약 920만 달러, 한화 약 140억 원 규모의 손실이 발생할 수 있다

GPU Live를 활용하면 평균 이용률을 두 배 이상 높일 수 있다

콜드 스타트 레이턴시를 75초에서 1.2초 수준까지 줄일 수 있다

27.4엑사플롭스(EF) 규모의 엑사스케일 AI 클러스터 운영 경험을 갖췄다

올해 연말쯤에는 연간 흑자 전환이 가능할 것으로 보고 있다

올해 전체 매출에서 GPU 관련 매출 비중은 약 38% 정도로 예상하고 있다