‘인공지능(AI) 팩토리’가 산업화 단계에 진입하기 시작했다는 분석이 나왔다.
시장조사업체 옴디아는 최근 글로벌 데이터센터 누적 투자액이 2030년까지 1조6,000억 달러에 육박할 것으로 전망되는 가운데, 주요 빅테크 기업들이 2026년 한 해에만 AI 인프라 설비투자에 6,000억 달러 이상을 집행할 것으로 예상된다고 밝혔다. 옴디아는 이 같은 대규모 자본지출이 ‘AI 팩토리’ 시장이 임계점을 넘어 고도의 자본집약성, 강한 지정학적 성격, 복잡한 공학적 진입장벽을 특징으로 하는 새로운 산업화 단계로 진화하고 있음을 시사한다고 설명했다.
AI 팩토리로의 전환: 아키텍처와 패러다임
옴디아는 AI 팩토리를 ‘인텔리전스 생산’을 유일한 목적으로 하는 새로운 형태의 중공업 인프라로 정의했다. 데이터센터는 규모와 무관하게 기업 지원센터에서 디지털 제품 제조센터로 전환되고 있으며, ▲에너지·물리적 인프라 ▲하드웨어·네트워크 패브릭 ▲스케줄링·가상화 오케스트레이션 ▲서비스형 모델(Model as a Service, MaaS)·AI 애플리케이션 생태계 등 네 계층 아키텍처로 구성된다.
현재 이 생태계는 풀스택 퍼블릭 AI 클라우드 하이퍼스케일러, 컴퓨트 특화 AI 클라우드 전문업체, 턴키형 프라이빗 AI 파운데이션 공급업체, 지역·산업 특화 AI 인프라 운영사 등 네 가지 솔루션 패러다임으로 구성된다고 옴디아는 설명했다. 다만 기업들은 ▲출시까지 걸리는 긴 기간과 투자 대비 성과(ROI) 검증 ▲디지털 주권 ▲AI 인재 부족 ▲복잡한 시스템 공학적 난제 등에 직면하고 있다고 지적했다.
AI 팩토리와 다섯 가지 시장 역동성
옴디아는 올해 업계를 재편하는 다섯 가지 주요 역동성을 제시했다.
첫째, 연산 성능을 나타내는 초당 부동소수점 연산 횟수(FLOPS)보다, 실제 응답 체감 속도와 관련된 최초 토큰 도달 시간(Time-to-First-Token, TTFT)이 더 중요한 지표로 부상하고 있다.. 기업들이 고가의 그래픽처리장치(GPU)가 입출력(I/O) 대기 상태에서 유휴 상태로 머무르는 ‘좀비 GPU(Zombie GPU)’ 효과에 직면하면서, 컴퓨트 자원 사재기식 예산 집행이 동결되고 있다. 이에 따라 평가 지표도 연산 성능 중심의 FLOPS에서 최초 토큰 도달 시간(TTFT)과 벡터 검색 속도 중심으로 이동하고 있다.
둘째, 하이퍼스케일러가 민첩성과 주권 사이에서 균형을 모색하고 있다는 점이다. 여기에는 두 가지 제공 패러다임이 존재한다. 하나는 풀스택 드롭인 방식(AWS, 화웨이, GCP, OCI)으로, 퍼블릭 클라우드 등급의 AI 역량을 통합된 물리적 장치 형태로 고객 데이터센터 내부에 배포하는 방식이다. 다른 하나는 소프트웨어/하드웨어 디커플링으로 불리는 방식으로, 소프트웨어 역량의 현지화와 생태계 중심 하드웨어를 결합하는 하향식 경로로 정의된다.
셋째, 컴퓨테이션 네이티브 AI 클라우드의 업그레이드다. 랙 전력 밀도는 2024년 10~15kW에서 2026년 40~250kW로 높아졌으며, 워크로드는 개념증명(PoC) 단계에서 프로덕션급 배포 단계로 전환되고 있다. 유럽의 네비우스(Nebius)와 중국의 센스타임(SenseTime)은 비즈니스 모델을 베어메탈(Bare Metal) 임대에서 서비스형 모델(Model as a Service, MaaS)로 전환한 대표적인 기업으로 제시됐다. 특히 센스타임은 IaaS + MaaS + 에너지-컴퓨팅 시너지 전략을 통합한 프레임워크를 실행해 컴퓨팅과 에너지를 효과적으로 제어하고 있다고 옴디아는 설명했다.
넷째, AI 산업화의 ‘라스트 마일’이다. 수직 통합 기업, 도메인 운영자, 독립 소프트웨어 공급업체(ISV)는 장기적인 데이터 거버넌스, 레거시 통합, 시나리오별 에이전트 조립을 통해 최종 가치 계층을 확보하고 있다. 인스퍼 클라우드(Inspur Cloud)는 대규모 자산 기반 AI 인프라와 AI 산업 어셈블리 라인의 시나리오 등급 운영을 결합해 AI 산업화를 한 단계 도약시키는 전략을 취하고 있다고 옴디아는 평가했다.
다섯째, 소버린 데이터 팩토리의 부상이다. EU AI 법안, 디지털운영복원력법(DORA), 이에 상응하는 규제 준수 프레임워크는 민감한 데이터를 물리적으로 격리된 시설 안에 보관하도록 요구하는 흐름을 강화하고 있다. 이는 G42와 같은 지역 운영자를 단순한 캐비닛 임대업자가 아니라 국가 수준 데이터의 물리적 관리자로 격상시키는 요인으로 작용하고 있다.
레이먼드 잔(Raymond Zhan) 옴디아 애널리스트는 “미래 경쟁은 더 이상 모델 파라미터나 GPU 수로 정의되지 않을 것”이라며 “대신 에너지, 액침 냉각, 칩, 자율 소프트웨어 스택, 주권 규정 준수, 장기적인 자본 지구력을 아우르는 종합적인 경쟁이 될 것”이라고 말했다.
그는 또 “기업 고객에게 AI 팩토리 공급업체 환경은 획일적인 게임이 아니다”라며 “선택은 실제 비즈니스 규모와 정상 상태(steady-state) 워크로드와 혁신적 워크로드 간 균형에 맞춰 이뤄져야 한다”고 덧붙였다.
댓글 작성