AI 인프라의 패러다임 변화, 새로운 대안을 주목하라(1)

 

 

현재까지 AI 인프라는 GPU 성능을 중심으로 구축되어 왔다. 기업들은 경쟁에서 밀리지 않기 위해 고성능 GPU를 대량 도입했고, 전력이나 냉각비용보다는 속도와 연산 능력이 우선시 되었다.그러나 이제는 전력 효율성과 비용 관리가 핵심으로 부상하고 있다.

 

AI 인프라에 대한 지속가능성과 ESG 이슈가 본격적으로 논의되면서, 전기요금 상승, 냉각비용 부담, 탄소 배출 대응 등 종합적인 운영 효율을 고려한 전략 수립이 절실한 상황이다.

 

지금부터 2회에 걸쳐 AI 인프라 패러다임의 변화부터 현재 주목받는 Arm 서버, 그리고 국내 Arm 서버 기술력의 집약체, ‘GreenCore’에 대해 알아본다.

 

 

전력이 성능이 되는 시대

 

AI 데이터센터의 전력 소모는 서버 자체보다 오히려 쿨링을 위해 더 많이 발생한다. 서버의 발열을 식히기 위한 냉각 시스템이 전체 전력의 50% 이상을 사용하며, 이는 곧 운영비용 상승으로 이어진다.

 

Intel 기반의 x86 서버는 고온에 매우 취약하다. 따라서 CPU 온도가 일정 수준을 초과하면 자동으로 다운될 수 있기에, 이를 방지하기 위해 서버실을 상시 25도 이하로 유지해야 한다.

 

반면, 산업용 전기요금은 2023년 이후 2년간 50% 이상 인상되었고, 2024년 6월부터는 수도권 데이터센터에 추가 비용이 부과되는 분산에너지 특별법이 시행되었다. 이러한 흐름 속에서 에너지 효율이 높은 서버 인프라의 필요성이 날로 증가하고 있다.

 

 

왜 Arm 서버에 주목하는가

 

Arm(Advanced RISC Machine)은 원래 모바일 기기와 IoT 장치에서 널리 사용되던 RISC 기반 저전력 프로세서이다. Arm Holdings는 전 세계 대부분의 모바일 칩 설계 원천 기술을 보유한 회사로, 스마트폰과 태블릿 등 배터리 기반의 장비에 최적화된 칩을 개발해 왔다.

 

이러한 Arm 아키텍처가 최근에는 산업 장비 및 서버 시장으로 확장되며, AI 인프라의 전력 문제 해결을 위한 대안으로 부상하고 있다.

 

Amazon은 2018년 자체 설계한 Arm 기반 서버를 클라우드 서비스에 도입해 TCO를 40% 이상 절감했고, Apple은 2020년부터 Mac 제품군에 자사 설계의 Arm 칩을 채택하면서 성능과 배터리 효율을 동시에 끌어올렸다. Microsoft, Google, NVIDIA 역시 Arm 기반 서버칩 개발에 적극적으로 뛰어들며 시장 판도가 바뀌어가고 있다.

 

 

 

Arm 서버의 세 가지 핵심 가치

 

1. 전력 효율성 및 발열 관리 측면에서 뛰어난 성능 제공

Arm 서버 칩은 평균적으로 170와트의 전력만을 소비하며, 이는 Intel 및 AMD 서버 칩보다 약 30~40% 낮은 수준이다. 전력 소모가 적다는 것은 곧 열 발생이 적다는 의미이며, 냉각을 위한 팬이나 공조 시스템의 부담도 줄어든다. 특히 Arm 서버는 최대 섭씨 30도 환경에서도 안정적으로 작동할 수 있어 데이터센터 냉각 시스템의 설계 유연성을 크게 높여준다.

 

결과적으로 동일한 공간에 더 많은 서버를 배치할 수 있고 이는 곧 CAPEX와 OPEX를 동시에 절감하는 효과로 이어진다. Arm 서버 10대를 돌렸을 때, x86 서버보다 50% 이상의 전기요금 절감효과가 있다는 데이터만으로도 이런 효과를 확인할 수 있다.

 

 

 

2. 낮은 초기 도입 비용, 큰 매력 포인트

Arm 칩은 설계 구조가 단순하고 목적이 명확하여 생산 단가가 낮고 코어당 가격 경쟁력이 뛰어나다. 또한 저발열 특성으로 인해 고성능 팬이나 냉각 부품이 덜 필요하여, 전체 시스템 구성 비용도 줄어든다. 이는 Arm 서버가 기업 입장에서 AI 인프라 초기 구축 예산 절감 효과에도 매우 뛰어난 아키텍처임을 보여준다.

 

 

 

 

3. 고성능 및 확장성 측면에서 진화 거듭

최근 출시된 Arm 서버 칩은 최대 192코어에 3.0GHz 속도를 제공한다. 이는 x86 아키텍처가 하이퍼스레딩을 통해 가상 코어를 늘리는 방식과 달리, 물리 코어 자체를 다수 확보함으로써 병렬 연산에 최적화된 구조를 의미한다.

 

특히 대규모 AI 연산이나 트래픽 처리 작업에서 안정적이고 높은 성능을 유지할 수 있어, AI 기반 서비스 기업에 매우 적합한 선택지이다.