본문 바로가기

CASE STUDY

국가대표 AI 기업 ‘업스테이지’ HCSF 도입으로 HPC 환경 마련,성능 개선·운영 편의성 UP!

 

기업들이 규모를 막론하고 앞다퉈 AI 비즈니스에 뛰어들고 있는 가운데, AI 서비스 전문기업 ‘업스테이지’의 기세가 두드러진다. 글로벌 빅테크 기업과 견주어도 손색없는 기술력으로 두각을 나타내고 있는 업스테이지. 지난해 더욱 발전된 비즈니스를 위해 효성인포메이션시스템의 초고성능 병렬 파일 스토리지 ‘HCSF’를 도입해 성능 개선뿐만 아니라 관리와 운영의 편의성을 한층 높였다.


업스테이지, 국내 AI 비즈니스 분야에서 고공행진 중‘Making AI Beneficial’

업스테이지는 인공지능 거대 언어 모델(LLM)과 문서 자동화(DocAI) 분야에서 세계 최고 수준의 기술을 보유한 국내 AI 스타트업으로, 기업들의 디지털 혁신을 위한 B2B 솔루션을 제공하고 AI 교육 프로그램을 운영하고 있다.

올해 3월, 업스테이지는 모바일 메신저 카카오톡에 업스테이지의 광학문자인식(OCR) 기술과 챗GPT를 더한 AskUp(애스크업)을 런칭했다. AskUp은 사용자가 문서의 사진을 찍거나 전송하면 그 내용을 읽어 이해하고 답변할 수 있는 ‘눈 달린 챗GPT’다. 출시한 지 5개월여 만에 AskUp은 130만 명이 활용하는 국내 대표 AI 서비스로 등극했다.

최근에는 업스테이지가 개발한 생성 AI 모델이 세계 최대 머신러닝 플랫폼 허깅페이스에서 운영하는 ‘오픈 거대 언어 모델(LLM) 리더보드’ 평가에서 72.3점을 획득하며, 챗GPT의 기반인 GPT-3.5보다 성능이 뛰어나다는 평가를 받았다.


성능 개선과 운영의 편의성을 위한 선택, HCSF

국내 AI 시장의 강자로 부상한 업스테이지는 한 단계 발전된 AI 비즈니스를 선보이기 위해 효성인포메이션시스템을 선택했다. AI 교육과 AI 학습 모델 테스트 환경을 위한 프라이빗 클라우드 기반의 HPC(고성능 컴퓨팅) 환경을 구축하면서, 초고성능 병렬 파일 스토리지인 ‘HCSF(Hitachi Content Software for File)’를 도입한 것이다.

그간 업스테이지는 AI 교육을 위해 내부 GPU 분석 서버 인프라와 올플래시 NAS를 운영해 왔다. 그러던 중, 비즈니스 활용도 및 편의성을 높이기 위해 스토리지 성능을 개선하고 운영 부담을 덜어줄 수 있는 솔루션에 대한 필요성이 점점 높아졌다. 업스테이지는 다방면의 검토 끝에 NVIDIA GPU 분석 환경의 성능을 완벽하게 활용할 수 있는 효성인포메이션시스템의 HCSF를 데이터 저장소로 선정하고, 인피니밴드 네트워크 환경 구성을 통해 빠르고 효율적인 AI 교육 서비스를 제공할 수 있는 최상의 AI 분석 환경을 구현했다.

특히 HCSF를 NVMe 고성능 Tier1로 구성해 성능을 극대화하고, GPU 서버와 스토리지 간 직접 연결을 위한 GPU 다이렉트 기술(GDS: GPUDirect Storage)로 GPU 환경의 스토리지 응답 성능을 극대화했다. 또한 CSI(Container Storage Interface Plug-in)를 통한 컨테이너 기반 관리로 스토리지 볼륨 운영을 최적화하고 효율성을 높일 수 있었다.


업스테이지의 HCSF 구축 모형

관리 및 운영 편의성, ‘따라올 자가 없다’

현재 업스테이지는 HCSF를 활용해 HPC 환경을 구현하고 안정적으로 서비스를 운영 중이다. 업스테이지 담당자는 “스타트업의 특성상 IT 운영 인력이 충분하지 않습니다. 스토리지의 성능 향상뿐만 아니라 운영의 편의성이 높은 솔루션이어야 한다는 점이 중요했지요. HCSF는 이러한 요구사항을 완벽히 충족시켜 줬고, 구축 이후 현재까지 매우 만족하고 있습니다.”라고 전했다.

 

업스테이지가 선택한 HCSF

 

업스테이지는 HCSF를 도입함으로써 다수의 개발자, 분석가, 교육생 공동 운영을 위한 GPU 전용 스토리지 인프라를 확보했다. 또한 향후 데이터 및 사용자 증가 등 갑작스러운 요구사항의 변화에도 유연하게 대응할 수 있게 됐다.

AI로 이로운 세상을 만들겠다는 포부를 지닌 업스테이지. AI 대전환 시대에 최고의 AI 기술력을 구현하기 위해 인프라 혁신에 투자를 아끼지 않는 업스테이지가 국내를 넘어 세계 최고의 자리에 우뚝 서는 건 시간문제다.