AI 기술이 초고속으로 발전하면서, AI를 단순히 활용하는 단계를 지나 산업의 중심으로 전환하는 AX(인공지능 전환) 시대가 도래했다. 이는 AI 기술이 비용 절감이나 프로세스 효율화 차원을 넘어 기업이 신규 비즈니스 모델을 창출하고, 지속 가능한 혁신을 이끌어내는 핵심 동력으로 작용하고 있기 때문이다.
AI가 모든 산업의 중심에 있는 이때, AI를 단순히 신기술에 대한 호기심으로 접근한다면 기술 구현 과정에서 시간과 자원을 낭비할 수밖에 없다. AI의 최신 트렌드부터 AI 도입을 위한 고려사항 및 전략에 대해 지금부터 알아본다.
DX부터 AX까지, 한계 없는 기술 발전
지금은 오픈AI의 챗GPT를 통해 데이터 과학자나 분석가와 같이 특정인이 아니라 모든 사람이 AI를 쉽게 활용할 수 있는 시대이다.
기업들은 디지털 전환(DX)을 통한 데이터 기반의 인사이트 도출을 넘어, AI 기술을 업무에 적극 도입하는 AX(인공지능 전환)를 통해 새로운 혁신을 이루고자 한다. 몇몇 분야에만 AI를 활용하던 것에서 비즈니스 모델, 프로세스나 시스템 전반에 AI 기술을 적용해 효율성을 높이고 시장 환경에 유연하게 대응함으로써 기업의 경쟁력을 높일 수 있는 필수 요소로 자리 잡은 데 따른 것이다.
일부 AI 관련 기업들은 현재 AI 기술이 AGI(일반인공지능)에 근접했으며, ASI(초인공지능)로의 로드맵을 고민하고 있다고 말한다. 즉, 이전보다 더 많은 AI 모델이 산업군에 쉽게 적용되기 위해 발전하고 있다는 의미다. 현재 미래를 위한 AI 기술들 가운데 멀티모달 AI, AI 에이전트 그리고 물리 AI 등이 주목받고 있다.
멀티모달 AI는 다양한 유형의 데이터(텍스트, 이미지, 음성 등)를 동시에 처리하고 이해하는 인공지능 시스템으로, 서로 다른 모달리티(Modality)의 정보를 통합해 더 풍부하고 정확한 분석이 가능하다.
AI 에이전트(AI Agent)는 정해진 목표를 달성하기 위해 상황을 파악하고 워크플로우를 계획하며, 외부 데이터와 분석 도구를 활용해 자율적으로 복잡한 업무까지 수행하는 지능형 시스템이다.
마지막으로 물리 AI는 물리적인 법칙과 데이터 기반의 학습을 통해 실제 현상을 더욱 정확히 예측할 수 있다. 지난 1월 개최된 ‘CES 2025’에서 ‘AI의 차세대 개척지는 물리 AI가 될 것’이라는 의견도 등장할 만큼, 가장 강력한 영향력을 발휘할 것으로 기대되는 분야다.
이처럼 많은 AI 기술이 등장하고 진화하는 데 있어서, 핵심은 단연 ‘데이터’다. 그리고 기업들이 AI를 업무에 제대로 활용하기 위해서는 더 정확하고 풍부한 자사만의 데이터가 필요하다.
그렇다면, 기업들이 AI 기술을 빠르게 받아들이고, 업무에 접목하려면 어디서부터 시작해야 할까?
생성형 AI 활용을 위해 우선 고려해야 할 점
생성형 AI를 제대로 활용하기 위해 먼저 살펴봐야 할 사항은 다음의 네 가지로 구분할 수 있다.
이 중 생성형 AI 프로젝트에서 가장 큰 이슈는 전력 소비와 관련된 부분이다. 데이터센터에서 대량의 전력을 소비함에 따라 탄소 배출이 증가하고 있고, 이는 기업의 ESG 경영과 상충하는 악순환으로 이어지고 있다.
이에 최근, 저전력의 CPU를 사용하는 ARM 서버가 전력 감소를 위한 묘안으로 떠올랐다. ARM 기반 서버는 NVLink-C2C 하드웨어 일관성을 통해 GPU와 CPU가 마이그레이션 없이 서로의 메모리에 엑세스가 가능하며, ARM Neoverse 아키텍처를 통해 고성능 및 높은 에너지 효율성을 제공함으로써 지속 가능한 컴퓨팅 솔루션을 구현할 수 있다.
또 다른 전력 문제는 발열이다. 기업들이 인프라의 발열을 낮추기 위해 공조시스템에도 엄청난 전력을 사용하고 있는데, 최근 리퀴드 쿨링 등 칩을 냉각시키는 기술이 등장해 전력 감소를 위한 솔루션으로 각광받고 있다.
다음으로 수많은 반복 학습을 통한 AI 모델 생성 과정에서는 대규모 연산 자원이 필요하다. 따라서 대량의 데이터를 고속으로 처리하기 위한 고성능 연산 자원을 확보해야 한다. 고성능 연산 자원은 현재 공급 부족과 가격 부담이 이슈가 있으므로, 유연성과 확장성을 위한 효율적인 GPU 구성 방안까지 전방위로 모색해야 한다.
가장 중요한 AI 모델을 위해서는 고품질의 정확한 데이터가 필요하다. 데이터를 제대로 활용하지 못하면 아무리 좋은 AI나 모델이 있다 하더라도 원하는 결과를 얻을 수 없다. 따라서 기업 내의 데이터뿐만 아니라 외부 데이터까지 연계해 활용할 수 있는 방안을 마련해야 한다.
마지막으로, 데이터 과학자 및 AI 전문가이다. 내부에 관련 전문가를 별도로 보유하고 있는 기업이 많지 않기 때문에, 기업에서 요구하는 니즈와 의미 있는 인사이트를 도출할 수 있는 신뢰성 높은 전문가가 필요하다.
기업 고유성을 반영한 전략 수립이 급선무
비즈니스에 성공적으로 생성형 AI를 도입하고 지속 가능한 성장을 위해 해야 할 다음 단계는 무엇일까?
무엇보다 중요한 것은 ‘목표를 파악하는 것’이다. AI 프로젝트에서 실패한 사례의 공통적인 특징은 ‘단순 AI 시스템만 구축’했다는 점이다.
생성형 AI는 다양한 형태로 가공될 수 있는 엄청난 잠재력이 있다. 따라서 각 기업의 특성에 걸맞은 맞춤형 목표를 먼저 설정한 뒤, AI가 넓은 서비스 범위로 점차 확장될 수 있는 로드맵을 첫 단계로 마련해야 한다. 하나의 AI만 구성하고 끝나는 것이 아니라, 맞춤형 목표 수립으로 시작해 이를 바탕으로 확장 가능한 시스템을 설계할 때 비로소 ‘성과 지향적인 생성형 AI’ 구축이 가능하다.
두 번째는 핵심 엔터프라이즈 표준과 구체적인 기술 지침을 결합해야 한다. 현재 자사의 데이터가 표준화 되어 있지 않으면, 새로운 시스템을 도입하더라도 제대로 활용할 수 없다. 즉, 데이터를 제대로 활용하기 위한 데이터 표준화를 통해 어떤 환경에서도 쉽게 데이터를 전달하고 활용할 수 있도록 구축하는 과정이 필요하다.
지속 가능한 AI 활용 환경 조성을 위한 전략
명확한 목표 설정과 하이브리드 데이터 연계 시스템 설정의 다음 과정은 ‘재학습을 통한 개선’이다.
AI는 한번 구축하고 끝나는 것이 아니다. 데이터를 기반으로 학습되는 AI는 양질의 데이터가 지속적으로 공급될수록 이를 재학습해 성능을 향상시킬 수 있다. 즉, 성공적인 AI 프로젝트를 위해 전체 프로세스와 시간을 절약할 수 있는 인프라가 준비되어야 한다. 인프라가 제대로 구축되어 있지 않으면 성능 저하나 로딩 지연 등을 야기할 수 있으므로, 원하는 결과를 빠르게 도출할 수 있는 고성능 AI 어플라이언스를 활용해야 한다.
또한 AI 파트너를 선택할 때, AI만 잘 아는 벤더가 아니라 자사의 비즈니스를 폭넓게 이해할 수 있는 기술 역량을 갖춘 파트너를 선택해야 한다. AI 프로젝트는 각 산업에 대한 이해, 동시에 AI 기술을 잘 적용해 줄 수 있는 파트너 확보가 성공 여부에 영향을 미친다. AI 인프라부터 서비스까지 통합 제공할 수 있는 벤더와의 협력이 성공적인 AI 도입 프로젝트를 위한 지름길이다.
AI를 도입하는 이유는 단지 최신 기술이어서가 아니다. 새로운 기술이 가져오는 새롭고 넓은 시장, 즉 비즈니스의 혁신을 기대하기 때문이다. HS효성인포메이션시스템은 기업들의 성공적인 AX를 위해 수많은 에코 파트너와 전문성을 결합해 통합된 AI 프로세스를 제공한다. ‘HS효성 AI 플랫폼’은 데이터부터 클라우드, 스토리지 플랫폼까지 다양한 포트폴리오를 기반으로 기업의 AX를 전방위로 지원한다.
전문성으로 무장한 HS효성인포메이션시스템의 역량
자사의 요구사항과 목표를 정확하게 파악하고 전략까지 수립했다면, PoC와 BMT를 통해 어떤 솔루션이 적합한지 반드시 검증해봐야 한다. HS효성인포메이션시스템은 자사에 DX센터 및 BMT실을 갖추고 사전에 완벽히 검증할 수 있는 역량을 갖췄다.
성공적인 AI 프로젝트는 멀리 있지 않다. HS효성인포메이션시스템은 AX 포트폴리오를 바탕으로 수많은 경험과 노하우를 보유한 국내 기술지원 전담인력을 통해 기업들의 성공적인 AX를 지원한다. HS효성인포메이션시스템과 함께 AI 프로젝트를 성공적으로 완료한 몇 가지 사례를 소개한다.
국내 SI 기업인 A사는 자체 sLLM 모델 개발을 위해 AI 인프라를 구축했다. HS효성인포메이션시스템은 최신 슈퍼마이크로의 GPU 서버와 고성능 스토리지인 HCSF, Slurm AI HPC 인프라를 제공했으며, 쿠버네티스 연계(CSI, Container Storage Interface) 기능을 통해 볼륨 운영을 최적화하고 효율화를 지원했다. 특히 A사는 초기에 모든 AI 플랫폼을 한 번에 구축하지 않고, 원하는 요구사항과 적합성 검증을 위해 확장 가능한 시스템을 도입해 필요에 따라 확장할 수 있는 유연성을 갖췄다.
국내 R&D기업인 B사는 자연어 처리 알고리즘의 학습 성능 개선을 위한 GPU 서버와 전용 스토리지가 필요했다. HS효성인포메이션시스템은 고성능 스토리지 HCSF를 제공했고, 고객사의 S3 스토리지와 티어링 구성을 통해 자체 스토리지 활용성 확보를 통해 비용효율성을 극대화했다. B사는 자연어 처리 기계학습의 연산 성능을 향상시킬 수 있었으며, 서버 인프라 구성을 고려한 스토리지 최적화가 가능해졌다.
국내 금융기관 C사는 외부 기관의 데이터와 국내 데이터를 통합해 효과적인 데이터 분석과 분석 체계를 확립하고자 HS효성인포메이션시스템을 파트너로 선택했다. C사는 정형·반정형 데이터 분석을 위한 데이터 레이크를 구축했고, 예정 사업인 GPU기반 딥러닝 분석 환경으로 확장 가능한 아키텍처를 수립했다. 본 프로젝트를 통해 C사는 통합 플랫폼을 이용해 관리 포인트를 최소화하고 확장의 유연성까지 확보했다.
그동안 기업들이 AI 도입 프로젝트에 실패했던 이유는 대부분 ‘AI만’ 적용하려고 했기 때문이다. 명확한 목표 설정, 향후 확장성을 고려하고, 내·외부 데이터를 잘 이해해야 하며, 주요 기술적 지침까지 정확하게 적용해야 AI 프로젝트에 성공할 수 있다.
'IT TREND' 카테고리의 다른 글
| AI, 데이터 인프라의 새로운 지평을 열다 (0) | 2025.03.12 |
|---|---|
| 비즈니스 성장 견인하는 '데이터센터 탈탄소화' (0) | 2025.01.14 |
| 데이터 가치 실현을 원한다면! (359) | 2023.12.06 |
