AI 신시대의 주역, Arm 서버를 주목하라!

 

 

그동안 IT 투자 트렌드는 단연코 AI를 위한 고성능 인프라 구축이었다. 기업들은 더 많은 GPU를 얻기 위해 노력했고, AI 인프라를 운영하기 위해 필요한 엄청난 전력과 냉각 비용을 아끼지 않았다. 

 

하지만 최근 지각변동이 일고 있다. 경쟁에 뒤처지지 않기 위해 고성능만을 향해 달려가던 기업들이 잠시 멈춰 ‘효율성’을 고민하기 시작했다. 단순한 속도가 아닌, ‘에너지 효율’과 '비용 효율', 더 나아가 ‘지속가능성’에 무게 중심을 두게 된 것이다.

 

모바일 기기에서 널리 사용되던 Arm 칩을 활용한 Arm 서버는 도입 비용뿐만 아니라 전력 비용도 절감할 수 있는 훌륭한 대안이다. 저전력, 고성능을 모두 만족시키는 새로운 아키텍처 Arm 서버에 대해 알아보자.

 

 

AI 시대! 아주 특별한 서버가 나타났다

 

AI로 인해 훈련이나 추론에 필요한 연산량이 기하급수적으로 늘면서 고성능 서버 도입 비용의 증가 및 전력 소모 문제가 심각해지고 있다. 

 

오픈 AI CEO 샘 울트먼은 “AI가 예상을 뛰어넘는 전력을 소모하고 있다.”라고 경고했고, 빌 게이츠도 “AI 데이터센터의 수익성을 결정하는 핵심 요소는 전력이 될 것”이라고 강조했다. 2024년 발간된 가트너 보고서 역시 2027년에는 전 세계 AI 데이터센터의 40% 정도가 전력이 부족할 것으로 예견한 바 있다. 결국 AI가 성공하려면 전력 문제를 반드시 해결해야 한다는 것이다. 

 

데이터센터에서 많은 전력을 소비하는 지점이 있다. 바로 서버나 스토리지의 발열을 줄이는 데 들어가는 냉각 부문이다. 인텔 서버는 열에 굉장히 취약하다. 인텔 CPU 자체가 열에 약하기 때문에 칩 온도가 올라가면 CPU가 다운될 수 있고, CPU가 다운되면 결국 서버와 서비스가 멈춘다. 

 

데이터센터는 24시간 365일 운영되어야 한다. 서버나 스토리지에 장착된 인텔 칩에서 발생하는 열을 식히기 위해 데이터센터에서 소비하는 전기의 50% 정도를 냉각 시스템에 할애하는 이유다.

 

다른 OECD 국가에 비해 그간 전략 비용이 저렴했던 국내 환경이 변화하면서, 전력 비용 역시 이슈가 되고 있다. 실제로 2023년부터 산업용 전기 요금은 계속 오르고 있는데, 최근 2년간 50% 이상 올랐을 정도로 인상 폭이 가파르다. 특히 2024년 6월 ‘분산에너지 활성화 특별법’이 시행되면서, 지방에서 생산되는 발전소 전력을 수도권으로 가져올 경우 비싼 요금을 지불해야 한다. 탄소배출을 줄여야 하는 제로 에너지 빌딩 규제 인증뿐만 아니라 탄소세 적용 등 기업들을 압박하는 요인도 점차 늘어날 전망이다.

 

소모 전력량이 낮고 냉각 비용도 줄일 수 있는 서버가 있으면 전력 문제의 상당 부분을 해결할 수 있다. 전 세계적으로 Arm 서버 도입을 검토하는 곳이 늘고 있는 것은 이 때문이다.

 

 

빅테크가 앞다퉈 도입하는 Arm 서버

 

최근에 엔비디아가 인수를 시도하면서 화제가 된 Arm은 반도체 이름이기도 하고 영국 케임브리지에 있는 Arm 홀딩스(ARM Holdings)라는 회사 이름이기도 하다. 

 

Arm 칩은 배터리 기반의 모바일 장치에 최적화되도록 설계되었기 때문에 저전력과 높은 효율성을 자랑한다. 산업 장비에도 많이 쓰일 정도로 안정성이나 비용 측면에서 굉장히 효율적인 칩이다. Arm 서버는 Arm 칩을 메인 CPU로 채용했는데, 최근 빅테크를 중심으로 인텔 칩이 아닌 Arm 칩을 주요 CPU로 사용하고자 하는 움직임이 커지고 있다.

 

가장 먼저 Arm 서버를 도입한 기업은 전 세계 클라우드 1위 기업인 아마존이다. 2018년, 저전력 Arm 칩을 탑재한 Arm 서버를 자체 제작해 클라우드 서비스에 사용함으로써 TCO(총소유비용)를 40% 이상 절감했다. 애플은 2년 뒤인 2020년, 15년 동안 사용하던 인텔 칩을 자사가 개발한 Arm 칩으로 대체한 맥북을 내놓으면서 Arm 컴퓨팅을 가장 널리 알린 기업이 되었다.

 

애플의 Arm 맥북 출시 이후 마이크로소프트, 구글, 엔비디아 등도 Arm 서버 칩을 만들기 시작했다. 특히 인공지능의 상징인 GPU로 유명한 엔비디아도 최근 들어 Arm 서버 칩을 만들고 이를 활용한 데이터센터 사업에 집중하고 있다.

 

 

Arm 서버 관심 집중, 분명한 이유가 있다

 

#1 저전력&저발열 

Arm 칩 기반의 서버와 기존 AMD, 인텔 칩 기반의 x86 서버 간 전력 효율성을 비교한 결과를 보면 Arm 서버의 전력 소비량이 더 낮은 것을 확인할 수 있다.

 

TDP(Thermal Design Power)는 칩이 최대한 사용하는 전력량을 나타내는 용어로, 칩 제조사에서 알려주는 수치다. AMD 칩의 경우 TDP가 280와트인데 비해 Arm 칩은 암페어가 알려준 수치보다 훨씬 낮은 170와트밖에 쓰지 않는다. Arm 칩이 전력을 훨씬 적게 소모하고 있다는 증거다. 

 

Arm 서버 10대를 사용할 때 필요한 산업용 전기료를 계산한 결과, x86 기반 서버보다 거의 2배 이상 적게 나오는 것으로 측정되었다.

 

Arm 칩은 전력 소모량이 적기 때문에 발열도 적지만, 무엇보다 칩 자체가 열에 강하다. 성능 저하와 과부하를 방지하기 위해 냉각 비용을 많이 들여 데이터센터를 낮은 온도로 유지할 필요가 없다는 얘기다. x86 기반 서버는 보통 25도 이하를 유지해야 다운되지 않으며, 성능이 저하되지 않는다. 이에 비해 Arm 서버는 이보다 5도 이상, 즉 30도 이상의 온도에서도 운영할 수 있다.

 

이런 온도 문제는 또 다른 이점을 가져다준다. 기존 인텔, AMD 칩 기반의 서버는 차가운 공기로 대류를 시켜야 하므로 랙 사이사이를 비워 두어야 했다. 반면, 발열 문제에서 자유로운 Arm 서버는 랙의 모든 공간을 활용할 수 있다. 따라서 데이터센터의 공간 효율성을 크게 높일 수 있고 운영 비용도 절감할 수 있다. 이는 곧 기업의 매출에도 도움이 된다.

 

 

 

#2 도입 비용 절감 

Arm 칩은 인텔 칩에 비해 상대적으로 저렴하다. 칩 내부 설계 구조가 단순하고 최적화되어 있기 때문이다. 이에 코어당 단가가 훨씬 낮다. Arm 칩의 저전력, 저발열 구조는 구성 부품 측면에서도 효율적이다. 실제 서버 내 냉각을 위한 팬의 일부를 제거하거나 팬 속도를 낮추어 소모 전력을 낮출 수 있다.

 

#3 고효율 성능

그간 Arm 서버는 저전력의 모바일 칩을 탑재한 서버라는 인식이 많았다. 하지만 최근에는 고성능 칩이 대거 출시되고 있다. 192코어에 3.0GHx를 지원하는 칩이 최근 출시된 데 이어, 올해 안에 256코어 3.2GHx를 지원하는 칩이 모습을 드러낼 전망이다.

 

x86 기반 서버에서는 성능 향상을 위해 코어 한 개를 마치 두 개처럼 쓸 수 있는 하이퍼스레딩(Hyper-Threading) 기술이 사용되었다. 하지만 AI와 같은 고성능 병렬 연산 업무에서는 성능 저하 현상을 일으키는 원인으로 지적된다. 여기에 전력 비용 증가와 냉각 효율 저하, 보안 문제 등도 따른다.

 

Arm 기반 서버는 이 문제에 대한 해결책으로 멀티태스킹을 위해 매니코어 방식을 내세운다. Arm 기반 서버는 고성능 병렬 처리 환경도 단일 칩에서 구현함으로써 보다 안정적인 성능을 제공할 수 있다. 이는 작은 데이터를 동시다발적으로 처리해야 하는 업무가 많아지는 환경에서 효과적이다. 특히 AI 업무나 오픈소스 기반 업무들을 지원하기 위해서는 매니코어 방식을 지원하는 Arm 기반 서버가 최적이다. 매니코어 프로세서의 가장 큰 단점으로 지적된 전력 소비 증가는 Arm 칩 자체가 저전력이기 때문에 전혀 문제가 되지 않는다.

 

 

 

HS효성인포메이션시스템과 엑세스랩이 선보이는 'GreenCore' 시리즈

 

Arm 서버 도입을 검토하는 기업이 늘면서 국내 Arm 서버 시장에도 새 바람이 불고 있다. HS효성인포메이션시스템과 Arm 서버 전문 기업인 엑세스랩이 협업하며 Arm 서버 생태계 확장에 나선 것이다.

 

HS효성인포메이션시스템과 엑세스랩의 협업 결과물은 Arm 서버 제품으로 개발한 '그린코어 시리즈'다. 암페어(Ampere) 최신 컴퓨팅 칩을 비롯한 다양한 Arm 기반 칩들에 기반한 그린코어 시리즈는 고객의 환경에 맞게 구별하여 다양한 모델로 출시되었다. 오픈스택(OpenStack), 쿠버네티스(Kubernetes) 등 오픈소스 클라우드 및 컨테이너 환경부터 오픈소스 DB, 리눅스 기반 솔루션까지 활용할 수 있다.

 

그린코어는 에지 환경을 위한 저가형 그린코어 SQ Mini 모델부터, 범용 서버인 LX 모델, 대규모 클라우드 서비스에 적합한 Altra 시리즈, AI 환경에 적합한 Altra GPU가 그것이다. 그린코어 Altra 128모델은 Arm 칩 128코어에 3.0GHz 암페어 칩이 내장되어 있는데, GPU도 같이 장착해 추론용으로도 사용할 수 있다.

 

다양한 고객 환경별 맞춤 솔루션, 그린코어 시리즈

 

 

Arm 서버 컨설팅부터 HW/SW 통합 지원

 

현재 국내에서는 해외 일부 기업들이 Arm 서버를 판매하고 있지만, 실질적으로 단순히 딜리버리하는 수준에 그치고 있다. 기술 지원을 받으려면 해외 본사를 거쳐야 하기 때문에 간단한 문제 해결에도 시간이 오래 걸리는 경우가 많다. 

 

10년 이상 Arm 서버 사업에 집중해 온 엑세스랩은 Arm 서버 특성을 최대한 살린 최적화된 기술을 선보이고 있다. 개발 인력뿐만 아니라 다수의 전문 엔지니어를 보유하고 있어 메인보드 자체 설계와 국내 생산으로 고객에게 빠른 납품과 기술지원을 제공한다. BMC라고 부르는 서버 시스템 원격 모니터링 기술은 또 하나의 큰 차별점이다. 엑세스랩이 자체 개발해 특허를 획득한 BMC는 누구나 쉽게 데이터센터를 관리할 수 있도록 해준다. 

 

HS효성인포메이션시스템은 엑세스랩과 함께 Arm 아키텍처의 안정성 부분에 집중했다. 여기에 국내 최대 수준의 LAB실인 DX센터에서 그린코어 시리즈에 대해 고객이 직접 성능과 소프트웨어 연계 등 다양한 부분을 직접 시연해 볼 수 있는 환경을 마련한 점도 강점이다.

 

엔터프라이즈 IT 산업에서 약 40년 동안 시장을 선도해 온 HS효성인포메이션시스템의 경험과 노하우 그리고 국내는 물론 해외에 다수의 레퍼런스를 확보한 Arm 서버 전문인 엑세스랩이 국내 Arm 서버 시장에 큰 이정표를 남기는 모습을 주목해 보자.

 

 

▶ TMI EP 06(엔비디아∙애플이 선택한 새로운 서버 아키텍처, 저전력 Arm 서버의 모든 것) 보러 가기