인공지능의 급격한 확산은 과거 보조 시설에 불과했던 데이터센터를 디지털 발전의 핵심적인 병목 구간으로 변화시켰다. 특히 2030년까지 전력 수요가 두 배로 늘어날 것으로 예측되면서, 업계는 에너지 부족과 막대한 수자원 소비에 따른 지역 사회의 반발이라는 이중고에 직면해 있다. 실제로 데이터센터 요충지인 버지니아주 북부에서는 지역 주민들의 반대로 수십억 달러 규모의 프로젝트가 지연되는 등 지역적 필요와 글로벌 컴퓨팅 수요 사이의 갈등이 심화하고 있다.

고성능 하드웨어의 발열을 제어하기 위해 기존의 공랭식 냉각은 점차 액체 기반 솔루션으로 대체되는 추세다. 프로세서 위에 냉각판을 직접 부착하는 Direct-to-chip(D2C) 냉각과 서버 전체를 비전도성 액체에 담그는 액침 냉각은 이제 고밀도 서버 랙 관리에 필수적인 요소가 되었다. 이러한 기술은 열 손실을 획기적으로 줄임으로써, 시설 전체 에너지 대비 추론 및 학습에 사용되는 에너지 비율을 나타내는 전력 효율 지수(PUE)를 크게 개선하고 있다.

지상의 제약을 극복하기 위한 다음 개척지는 지구 밖 우주로 향하고 있다. 아마존 창업자 제프 베이조스(Jeff Bezos)와 테슬라 CEO 일론 머스크(Elon Musk) 등 거물급 인사들은 지상의 한계를 해결할 대안으로 궤도 데이터센터에 주목하는 중이다. 우주 공간에서는 끊임없는 태양광 발전이 가능할 뿐만 아니라 진공 상태를 거대한 방열판으로 활용할 수 있다는 장점이 있다. 최근 스타트업 스타클라우드(Starcloud)가 궤도상에서 파운데이션 모델 학습에 성공하며 가능성을 입증했으나, 여전히 높은 로켓 발사 비용은 상업화의 주요 장벽으로 남아 있다.

인공지능이 우리 생활에 널리 쓰이면서, 수많은 정보를 처리하는 거대한 컴퓨터 창고(데이터센터)가 디지털 세상이 발전하는 데 가장 중요한 곳이 되었어요. 하지만 2030년까지 이곳에서 쓰는 전기량이 지금보다 2배나 늘어날 것으로 보여요. 이 때문에 전기가 부족해지고 물을 너무 많이 쓴다며 이웃 주민들이 반대하는 일도 생기고 있어요. 실제로 미국의 한 지역에서는 주민들의 반대로 큰 공사가 멈추는 등 어려움을 겪고 있답니다.

성능이 좋은 컴퓨터 부품은 일을 할 때 열이 아주 많이 나요. 그래서 예전처럼 선풍기 바람으로 식히는 방법(공랭식) 대신 액체를 사용하는 방법이 늘어나고 있어요. 컴퓨터 칩 위에 차가운 판을 직접 붙여서 식히거나(직접 냉각), 아예 서버 전체를 전기가 통하지 않는 특수한 액체 속에 풍덩 담그는 방법(액침 냉각)이 필수 기술이 되었어요. 이런 기술은 열을 아주 잘 식혀주기 때문에, 전기를 낭비하지 않고 얼마나 효율적으로 썼는지 알려주는 지수(PUE)를 좋게 만들어 줍니다.

땅 위에서의 문제를 해결하기 위해 과학자들은 이제 지구 밖 우주로 눈을 돌리고 있어요. 아마존의 제프 베이조스나 테슬라의 일론 머스크 같은 유명한 사람들도 우주에 떠 있는 데이터센터(궤도 데이터센터)를 만드는 것에 큰 관심을 가지고 있어요. 우주에서는 끊임없이 햇빛을 받아 전기를 만들 수 있고, 차가운 우주 공간 자체가 아주 커다란 얼음팩(방열판)처럼 열을 식혀줄 수 있기 때문이에요. 최근 한 새로운 기업(스타트업)이 우주에서 AI를 가르치는 데 성공하기도 했지만, 로켓을 쏘아 올리는 비용이 너무 비싸다는 점은 아직 해결해야 할 숙제예요.