중국이 AI 붐에 올라타기 위해 수백 개의 데이터센터를 신속히 건설했지만, 이들 중 상당수가 현재 활용되지 못한 상태로 방치되고 있습니다.

MIT 테크놀로지 리뷰와 중국 현지 매체 보도에 따르면, 2022년 말 ChatGPT의 등장을 계기로 중앙정부는 AI 인프라를 국가 전략으로 채택했고, 지방정부는 이른바 ‘스마트 컴퓨팅 센터’의 건설에 속도를 냈습니다.

2023년과 2024년 사이, 내몽골부터 광둥까지 500개가 넘는 데이터센터 프로젝트가 발표되었고, 이 중 최소 150곳이 실제로 가동을 시작했습니다. 하지만 현장 취재에 따르면 최대 80%의 컴퓨팅 자원이 활용되지 않은 채 방치되고 있는 실정입니다.

AI 모델 훈련을 위한 GPU 임대는 한때 수익성 높은 사업으로 여겨졌지만, 오픈소스 추론 모델 DeepSeek R1의 등장은 게임의 규칙을 바꿔놓았습니다. 낮은 비용으로 높은 성능을 내는 이 모델은 데이터센터의 수요 구조 자체를 뒤흔들었습니다.

RAND 코퍼레이션의 기술 자문관 지미 굿리치는 “지방정부와 민간 기업이 단기 성과에만 집중한 나머지, 오늘날의 수요에 부합하지 않는 센터를 대거 지었다”며 “이로 인해 다수의 센터가 ‘부실 자산’으로 전락했다”고 진단했습니다. 그는 “조만간 중국 정부가 개입해 시설을 정리하고, 유능한 운영자에게 이관할 가능성이 크다”고 덧붙였습니다.

　

혼단기 실적에 몰린 데이터센터 건설 붐 🏗️

ChatGPT 열풍에 촉발된 AI 인프라 투자 붐이 중국 전역을 휩쓸었지만, 그 이면엔 수요 예측 실패와 기술 미숙이 자리하고 있었습니다.

2022년 말 ChatGPT 출시 직후, 중국 정부는 AI 인프라를 국가 우선 전략으로 규정하고, 지방정부에 스마트 컴퓨팅 센터 건설을 독려했습니다.

시장조사기관 KZ컨설팅에 따르면, 2023~2024년 사이 내몽골, 쓰촨, 광둥 등지에서 500건이 넘는 데이터센터 프로젝트가 쏟아졌고, 중국통신산업협회는 150개 이상이 실제 운영에 들어갔다고 발표했습니다.

중앙정부의 지시에 부응하기 위해 지방정부는 단기 실적 중심의 개발에 매달렸고, 부동산·섬유업체 등 AI 비전문 기업들도 무분별한 투자를 감행했습니다. 이 중에는 조미료 MSG 제조사 Lotus나 섬유업체 Jinlun Technology 같은 기업들도 포함됐습니다

“AI는 일종의 아드레날린 주사 같았다”고 한 업계 관계자는 전합니다. 팬데믹 이후 부동산 경기 침체와 인터넷 산업의 정체 속에서, AI 인프라는 새로운 성장 동력으로 주목받았습니다.

그러나 실제 기술 역량과 수요 분석 없이 건설된 데이터센터는 대부분 기준 미달이었으며, 일부는 조잡하게 연결된 서버 클러스터에 불과했습니다. RAND의 기술 고문 지미 굿리치는 “이건 최첨단 컴퓨터 공학의 영역인데, 소규모 지방 기업들이 이를 제대로 구현하긴 어렵다”고 지적했습니다.

게다가 중개업자와 브로커들이 수요 예측을 조작하거나 정부 보조금 획득을 위해 과장 보고를 하는 사례도 적지 않았습니다. 일각에서는 보조금용 ‘유령 센터’까지 존재한다고 지적합니다.

결과적으로 중국의 AI 데이터센터 산업은 과잉 공급과 기술 부재, 그리고 왜곡된 인센티브 구조로 인해 조기 침체의 조짐을 보이고 있습니다.

　

DeepSeek, GPU 훈련 시대의 종말, 추론 모델로의 전환 💻

DeepSeek 이후, 초거대 AI 모델 개발 경쟁의 흐름이 바뀌고 있습니다. 핵심은 ‘누가 더 잘 만들까’가 아니라, ‘누가 더 효율적으로 활용할까’입니다.

중국의 AI 데이터센터 산업은 오랫동안 대규모 GPU를 활용한 사전 훈련(pretraining) 수요에 기반해 성장해왔습니다.

그러나 2024년 말 등장한 DeepSeek의 오픈소스 추론(reasoning) 모델 R1은 이러한 전제를 뒤흔들었습니다. 이 모델은 ChatGPT o1과 비슷한 성능을 구현하면서도 훈련에 들어간 GPU 수는 단 2,048개, 사용된 칩도 OpenAI의 A100 대비 전력 효율이 높은 NVIDIA H800으로 알려졌습니다.

결과적으로 에너지 소비와 훈련 비용을 획기적으로 절감하면서도 높은 성능을 보여주며, 중국 내 AI 생태계에 ‘경제성의 기준’을 다시 제시했습니다.

이로 인해 많은 중소기업들이 **모델 개발보다는 오픈소스 모델을 기반으로 한 파인튜닝 및 추론(inference)**으로 전략을 전환했습니다. 데이터센터의 수요도 ‘훈련 중심’에서 ‘추론 중심’으로 옮겨가고 있습니다.

에모리대학교 정보시스템학과 항청 차오 교수는 이를 “중국 AI 산업의 전환점”이라며, “질문이 ‘누가 최고의 모델을 만드느냐’에서 ‘누가 더 잘 활용하느냐’로 바뀌었다”고 평가했습니다.

추론 중심 AI는 단계적 논리 계산을 실시간으로 수행하기 때문에 연산 시간은 더 오래 걸리지만, 대신 지연(latency)을 최소화하는 저지연 하드웨어와 네트워크가 중요해졌습니다. 이에 따라 AI 기업들은 중국 내 전기·토지가 저렴한 지역(중서부, 농촌 지역)에 위치한 데이터센터보다, 대도시 인근의 고성능·저지연 인프라를 선호하는 경향을 보이고 있습니다.

실제 허난성 정저우에 위치한 한 데이터센터는 지역 스타트업에 무료 컴퓨팅 바우처를 제공했지만, 여전히 고객을 유치하지 못한 채 공실 상태를 유지하고 있습니다.

DeepSeek은 단지 하나의 모델이 아니라, AI 인프라의 수요 구조 자체를 바꿔놓은 변곡점으로 평가됩니다.

　

임대료 폭락, 유령 센터, AI 산업의 재구성 🔮

DeepSeek 이후, GPU 임대 단가는 급락했습니다. 중국 미디어 Zhineng Rongxian에 따르면, Nvidia H100 GPU 8개로 구성된 서버의 월 임대료는 180,000위안(약 3,150만 원)에서 75,000위안(약 1,300만 원) 수준으로 하락했습니다.

일부 데이터센터는 “소량만 가동할 경우 오히려 손해”라며 가동을 포기하고 공실 상태를 유지하는 상황입니다. 컴퓨팅 수요는 포화 상태지만, 정작 고성능 최신 GPU는 여전히 부족하다는 수급 불균형도 발생했습니다.

게다가 일부 사업자들은 정부 보조금, 친환경 전력 혜택, 국가 정책 자금을 노린 ‘데이터센터 셸 회사’ 운영에 초점을 맞추고 있었습니다. 실제 AI 업무보다 전력 재판매나 부동산 담보 대출 확보가 목적인 경우도 확인됐습니다.

그럼에도 불구하고, 중국 중앙정부는 AI 인프라 정책을 철회하지 않고 있습니다. 2025년 초 AI 산업 심포지엄을 통해 기술 자립의 중요성을 재확인했으며, 주요 빅테크 기업들도 대규모 투자를 이어가고 있습니다.

알리바바는 향후 3년간 AI 하드웨어와 클라우드 컴퓨팅 인프라에 약 500억 달러(한화 약 73조 원)를 투자할 계획이며, 바이트댄스 역시 GPU와 데이터센터 구축에 약 200억 달러(약 29조 원)를 투입할 예정입니다.

지미 굿리치는 “정부는 이 부실 자산들을 필연적 성장통이자 정리 대상으로 간주할 것”이라며, “궁극적으로 국유화하거나 운영 역량 있는 기업에 재배치할 가능성이 크다”고 전망했습니다.

DeepSeek은 중국 AI 산업에 냉정한 현실을 보여준 ‘경각의 순간’이었습니다. 이제 중요한 건 기반시설이 아니라, 그 기술을 어떻게, 어디에 쓸 것인가에 대한 구체적 실행 전략입니다.