NVIDIA가 후원하는 새로운 프로젝트가 주목받고 있다. 이 프로젝트는 집 near에 HVAC 유닛처럼 생긴 상자를 설치해 ‘미니 데이터센터’를 구축하는 방식이다. 데이터센터 확장의 가장 큰 걸림돌이 전력 부족이라는 점에서, 이 아이디어는 전력망 재설비 비용을 절감할 수 있다는 장점이 있다.
전력의 ‘빈 공간’을 활용하는 아이디어
이 프로젝트를 주도하는 곳은 미국 캘리포니아의 스마트 유틸리티 박스 기업 Span이다. Span은 평균 가구가 배정된 전기 사용량의 42%만 사용한다는 점에 주목했다. 대부분의 가구는 정점을 거의 도달하지 않으며, 이 ‘빈 공간’을 GPU가 있는 미니 데이터센터로 전환하는 것이다.
Span의 시스템은 집 near 설치되는 ‘노드’에 16개의 NVIDIA GPU, 4개의 AMD CPU, 4TB 메모리, 그리고 냉각 시스템이 탑재된다. 이 노드는 집 near HVAC 유닛처럼 생겼으며, 가구당 전기 및 인터넷 요금을 상당 부분Span이 부담한다. 또한 AI 서비스 사용자 near에 컴퓨팅 파워를 배치해 지연 시간을 줄일 수 있다는 장점도 있다.
실제 성능은? 아직 검증되지 않은 ‘미완성’ 프로젝트
이 아이디어는 이론적으로는 매력적이지만, 실제 적용 사례는 아직 없다. Span은 프로토타입을 개발했지만, 실제 가구 near 설치된 사례는 없다. CNBC에 따르면,Atlanta-based Pulte Homes와 협력해 새로운 주택에 노드를 설치할 계획이지만, 현재까지는 단 한 채의 가구에만 설치되었다고 한다.
Span의 VP 크리스 랜더는 “다양한 워크로드에 대한 내부 기술 연구와 모델링을 진행했다”며 기술적 타당성을 주장했지만, 구체적인 데이터는 공개하지 않았다. 또한 2024년 하반기 ‘100개 이상의 노드’를 pilots로 설치할 계획이지만, 구체적인 위치와 시기는 아직 발표하지 않았다.
전력망 과부하 우려는 해결될까?
새로운 데이터센터가 지역 전기 요금을 인상할 것이라는 우려는 데이터센터 확장의 가장 큰 걸림돌 중 하나다. Span의 분산형 데이터센터도 전력망에 부담을 줄 수 있지만, 랜더는 “전체적으로 전기 요금 인상 위험을 줄일 수 있다”고 주장한다. 그러나 이 주장의 근거는 아직 명확히 제시되지 않았다.
“우리는 이 시스템이 전기 요금 인상 위험을 오히려 줄일 수 있다고 믿습니다.” — 크리스 랜더, Span VP
Span의 프로젝트는 데이터센터의 새로운 패러다임을 제시할 수 있지만, 실용성과 경제성, 그리고 전력망 안정성 등 해결해야 할 과제가 많다. 아직은 ‘아이디어’ 단계에 머물러 있으며, 상용화까지는 시간과 검증이 필요하다.