AI가 생성한 놀라운 결과를 우리가 마주할 때, 그 모든 계산은 어디에서 이루어지고 있을까요? 질문에 답하고, 이미지를 생성하며, 음성을 인식하는 AI는 마치 우리 눈앞에서 즉각적으로 작동하는 것처럼 보입니다. 하지만 그 이면에는 보이지 않는 인프라가 존재합니다.
수많은 연산과 방대한 데이터를 처리하는 공간, 바로 데이터센터입니다. 데이터센터는 이제 단순한 IT 설비를 넘어, AI 시대를 실제로 움직이는 ‘보이지 않는 심장’입니다.
데이터센터란?
데이터센터는 수많은 서버를 비롯해, 대량의 데이터를 보관하는 스토리지와 서버 간 통신 및 외부 연결을 위한 네트워크 장비들이 집약된 대규모 IT 인프라입니다.
우리가 일상에서 보내는 수많은 디지털 요청은 어딘가에 있는 고성능 컴퓨터, 즉 서버로 전달되는데, 이 요청들은 하나의 서버가 아닌 각기 다른 역할을 맡은 여러 서버에 의해 분산 처리됩니다. 이러한 수많은 서버가 안정적으로 연산을 수행하고 데이터를 주고받을 수 있도록 스토리지와 네트워크가 함께 구성되며, 이 전체 시스템이 한 공간에 모여 운영되는 곳이 바로 데이터센터입니다.
데이터센터에서는 사진과 영상 같은 데이터를 안전하게 저장ㆍ관리하는 것은 물론, 수많은 서버가 동시에 연산을 수행하고, AI 모델 학습 및 추론까지 이뤄집니다. 우리가 사진을 저장하고, 검색ㆍ쇼핑ㆍ결제ㆍ길 찾기 서비스를 이용하며, AI 서비스를 안정적으로 제공받을 수 있는 것은, 데이터센터라는 물리적 기반이 존재하기 때문이죠.
최근 데이터센터가 주목받는 이유
최근 데이터센터가 뜨거운 관심을 받는 이유는 AI에 있습니다. AI가 본격적으로 도입되기 전까지 데이터센터의 중심은 CPU 기반 서버였습니다. 웹 서비스 운영이나 일반적인 데이터 처리는 CPU만으로도 충분했기 때문입니다.
하지만 AI가 등장하면서 상황은 빠르게 달라졌습니다. AI 연산에는 GPU와 같은 고성능 가속 장치가 필수적이며, 이들은 이전과는 비교할 수 없을 정도로 많은 전력을 소모하고 열을 발생시킵니다. 그 결과, 기존 데이터센터의 냉각ㆍ전력 구조만으로는 이러한 연산 부담을 감당하기 어려워졌습니다.
이제 데이터센터는 단순히 서버를 보관하는 공간이 아니라, 고밀도 연산이 끊임없이 이루어지는 공장에 가까운 공간으로 재정의되고 있습니다. 연산 밀도는 높아지고 발열은 급증하면서, 이를 안정적으로 뒷받침할 수 있는 AI 데이터센터가 필요한 것이죠. 이러한 변화가 바로, 지금 데이터센터가 다시 주목받는 가장 큰 이유입니다.
팀네이버의 데이터센터 ‘각’
온라인 활동이 활발하고 디지털 서비스가 확장할수록 데이터센터의 중요성은 더 커집니다. 이에 맞춰, 팀네이버 역시 자체 데이터센터 ‘각’을 운영하며 핵심 인프라를 직접 관리하고 있습니다. 데이터센터 ‘각’은 우리나라의 중요한 기록 유산인 팔만대장경을 보관한 ‘장경각’에서 이름을 따왔습니다. 사용자의 소중한 데이터를 안전하게 지키고, 미래 성장의 토대가 되겠다는 팀네이버의 철학을 담고 있습니다.
팀네이버는 데이터센터의 기획부터 설계, 구축, 운영까지 전 과정을 직접 수행해 왔습니다. 이러한 내재화 전략을 통해 단순한 운영 효율을 넘어, AI 시대에 필요한 인프라 설계ㆍ운영 역량을 체계적으로 축적해 왔습니다. 현재 팀네이버는 춘천과 세종, 두 지역에서 자가 데이터센터를 운영하고 있으며, 이 공간에는 팀네이버만의 오랜 노하우와 자체 기술 역량이 집약되어 있죠.
각 세종: 하이퍼스케일 AI 데이터센터
특히 ‘각 세종’은 AI를 위한 하이퍼스케일 데이터센터로, 대규모 GPU 클러스터를 안정적으로 운영하기 위한 구조를 갖추고 있습니다. GPU는 단순히 서버에 장착한다고 해서 제 성능을 발휘하지 않습니다. 전력 공급, 냉각, 네트워크가 정교하게 맞물려야 비로소 안정적인 AI 연산이 가능합니다.
팀네이버는 엔비디아의 슈퍼컴퓨팅 인프라인 슈퍼팟(SuperPOD)을 세계 최초로 실제 서비스 환경에 적용한 경험을 보유하고 있습니다. 이러한 경험을 토대로 ‘각 세종’은 대규모 GPU 클러스터를 직접 설계하고 운영하며, 냉각ㆍ전력ㆍ네트워크 등 데이터센터의 핵심 인프라를 AI 워크로드에 맞게 최적화하는 기술 역량을 축적해 왔습니다.
단순히 GPU를 많이 확보하는 데 그치지 않고, 안정적이고 효율적으로 운영하는 노하우까지 갖춰 AI 인프라 경쟁력을 높이고 있는 것이죠.
데이터센터의 핵심 기술
AI 시대의 데이터센터는 더 이상 장비를 보관하는 공간이 아니라, 막대한 연산과 발열을 동시에 감당해야 하는 고난도 기술 집합체입니다. AI 데이터센터를 안정적으로 운영하기 위한 핵심 기술을 하나씩 살펴보겠습니다.
데이터센터의 생명줄, 냉각 기술
데이터센터에서 중요한 요소 중 하나는 냉각(Cooling)입니다. 서버가 최대 부하로 작동할 경우, 내부 온도는 빠르게 상승하며, 냉각이 멈추는 순간 시스템 전체의 안정성이 위협받을 수 있습니다. 특히 GPU 기반의 대규모 AI 연산 환경에서는 발열 밀도가 높아, 효율적인 냉각 기술이 AI 데이터센터 설계의 핵심 요소로 떠오르고 있습니다.
데이터센터의 냉각 기술은 크게 서버에서 발생한 열을 어떤 매체를 통해 해소하느냐에 따라 구분할 수 있습니다.
공랭식(Air Cooling)
공랭식은 실외기 또는 냉동기, 냉각탑 등 냉열원 설비와 송풍기 팬으로 구성된 공조기 시스템을 통해 서버에서 배출한 더워진 공기를 냉각시켜 서버에 냉기를 공급하는 방식입니다. 구조가 비교적 단순하여 오랜 기간 표준 방식으로 사용됐습니다.
하지만 GPU 서버 기반의 AI 인프라 환경에서는 서버 랙 단위 전력 밀도와 발열 밀도가 급격히 증가하여 공기의 낮은 열용량과 열전달 계수로 인한 냉각 손실이 확대되고 있습니다. 이로 인해 공급ㆍ환기의 공기 간 온도 편차 증가, 국부적인 핫스팟 발생, 송풍 동력 증가 등의 문제가 동반되어 냉각 효율 및 에너지 성능(PUE) 측면에서 공랭식 냉각 방식은 물리적, 구조적 한계에 도달하고 있습니다.
수랭식(Liquid Cooling)
이러한 한계를 극복하기 위해 냉각수를 활용하여 열을 제거하는 수랭식으로 진화하고 있습니다.
- 직접 수랭식(Direct Liquid Cooling): 서버 내부에 구성된 배관을 직접 연결해 냉각수가 서버 내부를 순환하며 열을 식히는 방식입니다.
- 액침냉각(Immersion Cooling): 서버 전체를 전기가 통하지 않는 특수 액체에 담가 냉각하는 방식입니다. 공기 대신 열전도율이 높은 액체를 사용해 열을 빠르게 제거할 수 있죠.
그러나 수랭식은 배관 및 냉각 시스템이 추가되면서 초기 구축 비용이 증가하고, 설계와 운영 측면에서 더욱 정교한 관리가 요구됩니다.
그림 1. 데이터센터 냉각 방식의 종류
팀네이버는 데이터센터의 냉각 효율을 극대화하기 위해, 자체 개발한 하이브리드 공조 시스템 NAMU(NAVER Air Membrane Unit)를 도입하고 있습니다. 자연의 공기, 즉 외기의 장점은 살리면서도 미세먼지와 오염 요소는 차단해 전력 사용을 줄이고 에너지 효율을 극대화하는 방식입니다.
그림 2. NAMU III: 하이브리드 공조 시스템 동작 원리
각 세종에 설치, 운영되고 있는 NAMU III는 외부 공기를 활용한 직접 외기 냉각과 외기의 열원을 활용한 간접 외기 냉각을 병행해 활용할 수 있도록 설계되어, 계절적 요인이나 외부 환경의 영향을 최소화하여 연중 안정적인 운영이 가능합니다. 환경 조건에 따라 가장 효율적인 냉각 방식을 유연하게 적용할 수 있어, 고에너지 효율성을 갖춘 친환경 냉각 기술입니다.
그림 3. NAMU III의 직접 외기 냉각(좌) 간접 외기 냉각(우)
이러한 설계 덕분에 팀네이버의 데이터센터 각은 데이터센터 에너지 효율 지표인 PUE를 약 1.1x 수준으로 유지하고 있습니다. PUE는 1에 가까울수록 에너지 효율이 높다는 의미로, 전 세계 데이터센터 평균 PUE가 약 1.58 수준임을 고려하면 매우 높은 효율을 달성하고 있는 셈입니다.
전력 안정성
데이터센터는 단 한 순간의 정전도 허용하지 않습니다. 단 1초라도 전력이 끊기면 검색, 결제, 저장 등 모든 서비스가 동시에 중단될 수 있기 때문입니다. 이를 위해 데이터센터는 UPS, 대용량 배터리, 비상 발전기 등 안정적인 전력 공급을 위한 장치를 다중으로 갖추고 있습니다.
UPS(Uninterruptible Power Supply)는 무정전 전원공급 장치로, 전력 공급이 중단되거나 순간적인 전압 이상이 발생했을 때, 내부에 저장된 배터리 또는 에너지 저장 장치를 통해 전력을 중단 없이 즉시 공급하여 데이터센터의 핵심 IT 장비인 서버, 네트워크, 스토리지를 안정적으로 운영할 수 있습니다. 만약에 한국전력에서 공급되는 전력이 끊기거나 내부 정전이 발생하게 되면 비상 발전기가 몇 초 이내 자동 기동 되어 안정적인 전력 공급 체계로 전환되기 전까지 전력 공백을 메워주는 역할을 수행합니다.
통합 관제 시스템
AI 데이터센터에는 수천 대의 서버는 물론, 냉각ㆍ전력ㆍ보안 등 다양한 인프라가 동시에 작동합니다. 이러한 요소들을 개별적으로 관리하기보다는, 모든 운영 상황을 한눈에 파악하고 즉각 대응할 수 있는 통합 관제 시스템이 필수적입니다.
통합 관제 시스템은 서버, 전력, 냉각, 화재 설비, 보안관제 등 데이터센터 전반을 하나의 시스템처럼 관리하며, 장애 징후를 사전에 감지해 문제를 신속히 차단합니다. 이를 통해 서비스 중단을 최소화하고, 안정적인 운영을 유지할 수 있습니다. 특히 AI 데이터센터처럼 규모와 복잡성이 커질수록, 인프라를 통합적으로 제어하고 관리하는 역량은 데이터센터 경쟁력을 좌우하는 핵심 요소로 자리 잡고 있습니다.
그림 4. 데이터센터 각 세종 컨트롤센터
맺으며
AI 시대의 데이터센터는 단순한 건물이 아니라, 수천 개의 전자두뇌가 동시에 작동하는 하나의 ‘도시’를 구축하고 운영하는 일에 가깝습니다. AI 확산과 함께 GPU와 같은 고성능 장비 수요가 급격히 늘어나면서, 전력과 냉각에 대한 인프라 요구 수준 역시 이전과는 비교할 수 없을 만큼 높아졌습니다.
앞으로 AI가 더 크고 빨라질수록, 이를 지탱하는 데이터센터 역시 더 크고, 더 지능적이며, 더 친환경적인 방향으로 진화할 수밖에 없습니다. 특히 초대형 하이퍼스케일 데이터센터가 확대되는 가운데, 경쟁의 핵심은 데이터센터 단순 보유ㆍ운영이 아니라 데이터센터를 얼마나 효율적이고 안정적으로 AI 성능을 최대치로 구현하는가로 이동하고 있습니다.
재생에너지 활용 등의 친환경, 고효율 냉각 기술, 전력ㆍ제어ㆍ소방 설비 등 구축, 운영 최적화 역량을 얼마나 빠르게 내재화하느냐가 앞으로 데이터센터의 경쟁력을 좌우하게 될 것입니다. 결국 AI 워크로드를 안정적으로 감당할 수 있는 기술력, 글로벌 기준을 선도하는 에너지 효율과 친환경성, 그리고 전력ㆍ냉각ㆍ네트워크를 스스로 설계하고 최적화할 수 있는 역량을 갖춘 데이터센터가 미래의 표준이 될 것입니다.
AI는 새로운 가능성을 여는 기술인 동시에, 막대한 연산과 데이터를 안정적으로 떠받쳐야 하는 책임을 동반한 존재이기도 합니다. 끊임없이 데이터를 저장하고 처리하며 AI를 움직이는 데이터센터는, 인간의 몸에서 생명을 지탱하는 심장처럼 앞으로도 AI 시대의 필수 기반으로서 세상을 연결하고 미래를 움직이는 역할을 계속해 나갈 것입니다.
더 알아보기: KBS N 시리즈 ‘AI토피아’ 제9회
위에서 정리한 내용은 노상민 네이버클라우드 데이터센터장이 출연한 KBS N 시리즈 〈AI토피아〉 제9회 ‘AI시대를 지탱하는 심장, 데이터센터’ 영상에서도 확인할 수 있습니다. 방송은 핵심 개념과 배경을 맥락화하고 최근 흐름을 함께 짚어, 본문에서 다룬 방향성을 더 명료하게 이해하는 데 도움이 됩니다.