이 요약은 AI가 원문을 분석해 생성했습니다. 정확한 내용은 원문 기준으로 확인하세요.
TL;DR
AI 하드웨어의 열 발생량이 커지면서 서버 랙에 공기를 더 많이 흘려보내는 방식은 공간과 효율 측면에서 한계에 가까워지고 있습니다. Meta의 closed-loop liquid cooling은 물과 glycol 혼합액을 서버와 열교환기 사이에서 반복 순환시켜 냉각수를 최대 10년까지 사용할 수 있게 하며, dry cooler를 쓰는 AI 최적화 데이터센터의 연간 물 사용량은 완전한 서비스를 제공하는 식당 두 곳보다 적은 수준입니다. direct-to-chip 구조는 같은 크기의 랙에 더 많은 GPU를 배치하게 하고, reinforcement learning은 물리 기반 시뮬레이터에서 날씨와 서버 부하를 반영한 냉각 운용을 학습합니다. 파일럿에서는 공기 냉각 공급 팬의 에너지 소비가 평균 20%, 물 사용량이 4% 줄었습니다.
섹션별 상세
AI 하드웨어가 강력해질수록 운용 중 발생하는 열이 커져 서버 냉각이 중요한 엔지니어링 과제가 됐습니다. 과거에는 랙에 더 많은 공기를 흘려보내는 방식으로 대응할 수 있었지만, 일정 수준을 넘으면 장비와 공간을 추가해도 냉각 효율이 떨어집니다. Meta가 텍사스 AI 인프라에서 주목한 대상이 GPU 자체보다 냉각 배관이었던 이유가 여기에 있습니다.
일반적인 compute용 데이터센터와 초기 AI 데이터센터는 공기 냉각을 사용했으며, Iowa주 Altoona의 시설에서는 Nvidia H100 16개가 들어간 랙을 거의 물을 쓰지 않고 냉각했습니다. 이후 새로운 AI 하드웨어 설계가 더 높은 열 밀도를 만들면서 공기 냉각만으로는 공간과 효율 측면의 한계가 커졌습니다. Meta의 최신 AI 최적화 데이터센터 다수는 이 문제에 대응해 closed-loop liquid cooling으로 전환했습니다.
폐쇄형 액체 냉각은 물과 glycol 혼합액을 서버 하드웨어에 통과시켜 랙의 열을 흡수한 뒤, 열교환기에서 열을 방출하고 냉각된 액체를 다시 랙으로 보내는 연속 순환 구조입니다. 냉각수가 시설 밖으로 배출되지 않기 때문에 같은 혼합액을 최대 10년까지 교체 없이 사용할 수 있다고 Meta는 밝혔습니다. dry cooler를 사용하는 일반적인 AI 최적화 데이터센터의 연간 물 사용량은 완전한 서비스를 제공하는 식당 두 곳보다 적은 수준으로 제시됐습니다.
액체 냉각은 물 절약뿐 아니라 랙 내부 공간 활용에도 영향을 줍니다. 같은 서버를 공기로 식히려면 필요한 냉각 장비를 넣기 위해 서버 트레이가 거의 두 배 커질 수 있지만, direct-to-chip closed-loop liquid cooling은 같은 크기의 랙에 더 많은 GPU를 배치하게 합니다. 결과적으로 동일한 시설 면적에서 더 많은 compute capacity를 확보하면서 필요한 랙 수를 줄일 수 있습니다.
건물에 액체 냉각 인프라가 없는 시설에는 Air-Assisted Liquid Cooling이 사용됩니다. 이 방식은 펌프와 열교환기를 포함한 랙을 배치해 대형 건물 설비와 같은 폐쇄형 순환을 더 작고 분산된 규모로 구현합니다. Meta가 자체적으로 개발한 냉각·전력·칩 설계를 업계와 공유하는 Open Compute Project의 흐름에 따라 2025년에는 액체 냉각 네트워크 랙 플랫폼 IcePack도 무료 공개됐습니다.
Meta는 냉각 장비를 고정된 온도로 계속 운용하는 대신 reinforcement learning으로 위치별 환경과 서버 작업량에 맞춰 냉각 결정을 조정하고 있습니다. 실제 데이터센터에서 바로 실험하지 않고 날씨, 서버 부하, 냉각 장비 동작을 모델링하는 물리 기반 시뮬레이터를 구축해 냉각량을 줄이면서 서버를 최적 운용 조건 안에 유지하는 정책을 학습시켰습니다. 한 데이터센터 파일럿에서는 공기 냉각 공급 팬의 에너지 소비가 평균 20%, 물 사용량이 다양한 날씨 조건에서 4% 감소했습니다.
용어 해설
- 폐쇄형 액체 냉각(Closed-Loop Liquid Cooling)
- — 서버 하드웨어를 통과한 물과 glycol 혼합 냉각수가 시설 밖으로 배출되지 않고 열교환기를 거쳐 열을 방출한 뒤 서버로 되돌아가는 순환 방식입니다. 냉각수를 반복 사용해 물 소비를 줄이고 고밀도 GPU 랙의 열을 처리하는 데 적합합니다.
- 공기 보조 액체 냉각(Air-Assisted Liquid Cooling)
- — 건물에 액체 냉각 설비가 없는 시설에서도 폐쇄형 액체 냉각을 적용하도록 펌프와 열교환기를 랙 단위로 구성한 시스템입니다. 대형 건물 설비와 같은 순환 원리를 더 작고 분산된 형태로 구현합니다.
- 칩 직접 액체 냉각(Direct-to-Chip Liquid Cooling)
- — 냉각수가 서버 내부의 칩 가까이에서 열을 직접 이동시키는 냉각 방식입니다. 공기 냉각 장비에 필요한 공간을 줄여 동일한 크기의 랙에 더 많은 GPU를 배치할 수 있도록 합니다.
- 열교환기(Heat Exchanger)
- — 냉각수에 흡수된 열을 다른 매체나 냉각 장치로 옮겨 액체의 온도를 낮추는 장치입니다. Meta의 폐쇄형 순환에서는 냉각수가 열교환기를 통과한 뒤 다시 서버 랙으로 돌아갑니다.
- 강화학습(Reinforcement Learning)
- — 모델이 환경에서 여러 의사결정을 시도하고 그 결과를 바탕으로 더 나은 행동을 학습하는 방법입니다. Meta는 날씨, 서버 부하, 냉각 장비 동작을 모사하는 물리 기반 시뮬레이터에서 냉각 운용 결정을 학습시켰습니다.
기술
- Nvidia H100s
- closed-loop liquid cooling
- Air-Assisted Liquid Cooling
- Open Compute Project
- IcePack
- reinforcement learning
- physics-based simulator
- dry coolers
활용 사례
- AI 데이터센터 GPU 서버 냉각
- 액체 냉각 인프라가 없는 데이터센터의 랙 단위 냉각
- 강화학습을 활용한 데이터센터 냉각 운용 최적화
AI 분석 전체 내용 보기
AI 요약 · 북마크 · 개인 피드 설정 — 무료
출처 · 인용 안내
원문 발행 2026. 08. 28.수집 2026. 08. 28.출처 타입 RSS
인용 시 "요약 출처: AI Trends (aitrends.kr)"를 표기하고, 사실 확인은 원문 보기 기준으로 진행해 주세요. 자세한 기준은 운영 정책을 참고해 주세요.
