본문 바로가기

TECH ZOOM

새로운 데이터 패러다임, 루마다 데이터옵스

 

 

데이터 통합 방식의 한계로 인해, 기업들은 데이터옵스(DataOps) 및 신기술을 모색하고 있다. 기존의 접근법은 방대하고 융통성이 적은 데이터를 생성하고, 빠르게 변하는 비즈니스에서 통찰력을 신속하게 이끌어내지도 못한다. 기업들이 데이터옵스를 선택할 수밖에 없는 여섯 가지 트랜드와 활용 사례를 살펴본다.


01. 미래에는 하이브리드 클라우드와 멀티 클라우드가 각광받을 것이다

기업들은 클라우드를 통해 IT 비용을 최적화하고, 원격 근무를 실시하는 이용자의 편의와 보안을 지원하고 있다. 민첩성과 융통성을 제공하기 위한 최고의 방법을 모색하는 동시에 멀티 클라우드 및 하이브리드 클라우드의 가능성을 예측하고 있다.

IDC는 2022년까지 전 세계 기업의 90% 이상이 인프라 수요 충족을 위해 온프레미스, 전용 프라이빗 클라우드, 여러 퍼블릭 클라우드 그리고 기존의 플랫폼을 혼합한 형태를 사용할 것으로 전망하고 있다.


02. 빅데이터의 확장성 개선, 현대적 아키텍처에 달렸다

기업들은 방대한 하둡 기반 데이터 레이크에서 오브젝트 스토리지 기반의 분산형 데이터 레이크로 이동하면서 빅데이터 활용 방법에 대해 고심하고 있다. 요즘은 하나의 데이터 패브릭에 여러 개의 엔진 및 소비자가 연계된 형태를 많이 볼 수 있다. 이 같은 접근법의 경우, 컴퓨팅과 스토리지가 별도로 운영되며, 다양한 기술을 통해 데이터에 액세스할 수 있기 때문에 최종 사용자들이 데이터에 안전하고 쉽게, 그리고 저렴한 비용으로 액세스할 수 있다.


03. 새로운 통찰력은 ‘무엇’에서 ‘어떻게’로 초점을 바꾸다

현재 기업들은 정형 데이터, 비정형 데이터 그리고 반정형 데이터 등 방대한 규모의 데이터를 활용하고 있다. 이런 데이터는 사람, 머신 혹은 애플리케이션에 의해 생성된 것들이다. 중요한 것은, 기업이 보유한 데이터가 무엇인지 먼저 파악한 후 비즈니스 사용자가 통찰력을 더 빠르게 생성하고 의사결정을 내릴 수 있도록 ‘다양한 데이터를 취합하는 방법’을 파악하는 것이다.


04. 하이브리드 솔루션이 부상하고 있다

인더스트리 4.0, 스마트시티, 헬스케어 사례 및 기타 IoT 애플리케이션의 활용 사례 등으로 엣지 부문에서 높은 인텔리전스에 대한 수요가 늘고 있다. 엣지 인텔리전스는 하이브리드 컴퓨팅의 일종이다.

IDC는 2024년까지 기업의 약 25%가 클라우드 및 통신 서비스 제공업체 간 파트너십을 통해 클라우드 플랫폼에 구축된 애플리케이션과 엣지 데이터를 통합함으로써 비즈니스 민첩성을 향상시킬 것이라고 전망했다.


05. AI와 ML은 빠른 속도로 가치를 높이고 있다

혁신적인 조직들은 현재 머신러닝(ML)에서 최대한의 가치를 이끌어내기 위해 ‘어떻게 할 수 있는가’에 포커스를 맞추고 노력하고 있다.

AI와 ML은 더 이상 학계에서만 연구하는 것이 아니라 기업의 생산 프로세스에 적용되면서 놀라운 변화를 촉진하고 있다. 그러나 현재 AI 및 ML을 프로덕션에 적용하는 데 발생하는 어려움을 해소할 수 있는 툴은 충분하지 않다. 기존의 툴은 프로덕션 라이프사이클 대신 개발의 라이프사이클에 초점을 맞추고 있기 때문이다.


06. 리스크와 컴플라이언스 준수, 더욱 복잡해지고 있다

데이터와 관련한 리스크 및 컴플라이언스 준수는 항상 문제로 남아 있다. 특히 GDPR(EU 개인정보보호 법령)과 같은 개인정보보호 규정은 지금같이 데이터가 방대하게 생성되는 시대에는 더욱 대응하기 어려워지고 있다. 수동적인 방법은 데이터의 방대한 규모, 생산 시간 및 정확성 요구 사항 등의 기대를 충족하지 못한다. 따라서 조직은 AI에 기반한 자동화를 통해 수동 기술로 직면한 문제를 극복해야 한다.


새로움을 추구한다면, 데이터옵스

데이터옵스(DataOps)는 인텔리전스, 자동화 및 분석 기법을 이용해 가장 필요한 사람들에게 데이터 통찰력을 제공한다. 특히 데이터 전달 과정을 간소화하고, 현재 비즈니스를 운영하기 위한 데이터를 제공함으로써, 시장과 소비자의 변화에 민첩하게 대응할 수 있도록 한다.

데이터옵스의 주요 특징은 다음과 같다.


루마다 데이터옵스 스위트(Lumada DataOps Suite)는 지능형 데이터 관리의 잠재력을 충분히 발휘할 수 있도록 지원한다. 이 시스템은 데이터 프로파일링과 카탈로그, 엣지 디바이스 관리 및 다양한 비즈니스 분석 기법을 하나의 민첩한 스위트 형태로 구성한 것이다. 또한 기존 데이터 인프라 및 클라우드 환경에서 동작하기 때문에, 데이터 사일로를 포괄적인 엣지-코어-클라우드 데이터 패브릭으로 전환할 수 있다.

효성인포메이션시스템 및 히타치 밴타라는 루마다 데이터옵스를 지속적으로 개선함으로써, 기존에 개별적으로 분리되어 있던 데이터를 통합해 새로운 데이터 패러다임으로 나아갈 수 있도록 지원할 것이다.


루마다 데이터옵스 활용 사례

데이터옵스는 데이터 처리를 간소화하도록 지원함으로써 뛰어난 통찰력을 제공하고, 현명한 비즈니스 의사결정을 지원하며 비용 절감까지 촉진한다. 데이터옵스 접근방식을 통해 의미 있는 결과를 도출한 사례를 몇 가지 알아본다.

확장성 향상 대형 금융 서비스 기관인 A사는 내부 고객을 지원하기 위한 ‘서비스로서의 데이터’ 플랫폼을 기존 양식으로 구축했으며, 이는 모두 루마다 데이터옵스 스위트로 표준화했다. 이 플랫폼은 유연하고 확장 가능한 솔루션을 통해 은행의 다양한 고객을 지원했고, A사는 광범위한 데이터 통합 문제를 해결할 수 있었다.

IT 및 OT 통합 수자원, 에너지, 환경 부문의 네트워크 및 서비스 개발, 관리 업계의 리더인 B사는 상수도 고객 및 공정 지원 과정을 간소화 할 수 있는 방법을 모색했다. B사는 IT와 OT 운영을 통합하고 데이터를 더욱 매끄럽게 혼합할 수 있는 통합된 아키텍처를 구축하기 위해 루마다 데이터옵스 스위트를 선택했다.

스토리지의 비용 효율성 및 민첩성 제고 주요 금융기관인 C사는 데이터옵스 접근법을 통해 데이터 레이크 최적화 문제를 해결해 나가고 있다. 전통적인 하둡 기반의 데이터 레이크는 스토리지와 컴퓨팅 기능이 통합되어 있어, 사용량이나 기간과 무관하게 데이터 레이크에 있는 모든 정보에 대해 단일 환경을 구축한다. 데이터 레이크가 점점 커지면서 하둡 라이선스나 저장 비용으로 엄청난 금액을 지불하면서도, 실제로 데이터의 상당 부분은 사용하지 않은 채로 방치된다.

하둡용 루마다 데이터 옵티마이저는 데이터를 오브젝트 스토리지에 계층화하고, 조직이 방대한 양의 데이터를 보다 저렴한 오브젝트 스토리지로 이동할 수 있도록 한다. 하둡용 루마다 데이터 옵티마이저는 보이지 않는 곳에서 효율성 및 스토리지 용량 절감을 위해 데이터 레이크의 ‘Hot Zone’과 ‘Cold Zone’ 간에 데이터를 이동시킨다.

자동화를 통한 통찰력 확보 부동산 담보 대출 업체인 D사는 데이터옵스 접근법을 적용해 데이터 카탈로그 관련 문제를 해결하고 있다. D사는 매일 다양한 소스에서 정기적으로 데이터를 수집한다. 따라서 API에 기반한 자동화를 통해 필요한 데이터셋의 특징을 갖추고 처리 효율성을 높이는 것이 목적이었다.

루마다 데이터 카탈로그는 D사가 매일 1천만 개 이상의 파일을 수집 및 분류하고 카탈로그화 할 수 있도록 했으며, 완벽한 사용자 지정 및 검색 가능한 사용자 인터페이스를 제공했다. 자동화된 솔루션은 데이터베이스, 데이터 웨어하우스 그리고 데이터 레이크 내의 각 칼럼에 비즈니스와 연관성이 높고 표준화된 태그를 적용함으로써 사용자들이 수작업을 거치지 않고도 손쉽게 조회하고 통찰력을 얻을 수 있도록 지원한다.

현명한 의사결정의 기반 대규모 통신 제공업체인 E사는 수천만 명의 고객에게 모바일, 인터넷 및 TV 서비스를 제공하고 있다. E사는 업무상 중요한 데이터의 액세스 단순화와 프로세스 최적화를 통해 비즈니스 의사결정 과정을 개선하고자 했다.

역동적인 시장 상황에서는 비즈니스 민첩성이 매우 중요하기 때문에, E사는 루마다 데이터 통합 및 루마다 애널리틱스를 통해 대규모 데이터를 단일 플랫폼에 통합했다. 더 중요한 것은 해당 데이터를 보고 및 분석에 실시간으로 손쉽게 활용 가능하게 했다는 것이다. 데이터 프로세스를 최적화함으로써 비용을 절감하는 동시에 무중단으로 데이터 액세스를 자동화했다. 이로써 비즈니스 사용자는 스마트한 의사결정을 지원할 수 있는 분석을 활용할 수 있게 되었다.


 

스마트 팩토리 구현, 디지털 기술 확보가 관건

 

 

4월 29일, 디지털데일리 DD튜브 플랫폼을 통해 ‘데이터비즈니스 인사이트’ 웨비나가 진행되었다. 효성인포메이션시스템 안정준 전문위원은 스마트 팩토리 사례 중심의 ‘데이터 파이프라인 구현을 통한 비즈니스 가치 창출’을 주제로 화면을 통해 모습을 드러냈다.


제조업의 스마트화, 더는 늦출 수 없다

인더스트리 4.0으로 대표되는 제조업은 업무 프로세스 혁신의 개념을 뛰어 넘어 사물인터넷(IoT)과 디지털 공급망을 기반으로 진화하고 있다. IT 시스템을 결합한 ‘스마트 팩토리’로 가기 위해서는 IoT, 사이버 물리 시스템, 디지털 공급망의 세 가지 기술적 요소가 필요하다.

제조업에 디지털화가 더해지면 IoT와 같은 새로운 기술이 접목되면서 경제적인 측면에서 한 단계 업그레이드 된다. 특히 지역별 생산 거점단위로 생산이 진행되는 글로벌 공급망 체계 하에서는 더 중요해진다.

스마트한 솔루션은 데이터 기반의 고급 분석 기술을 통해 최적화, 예측정확도 향상, 운영 자동화 등 제조업의 KPI를 개선시킨다. 그리고 이는 접근성, 민첩성, 적시성, 표준화, 자동화, 균일화 등을 창출해 비즈니스의 가치로 연결될 것이다.

그러나 현재 제조업은 단절된 환경, 스마트한 자산 관리 역량의 부족, 시스템의 자동화 미흡, 공급망의 시장 수요 대응 지연 등 여러 가지 문제를 안고 있다. 맥킨지에 따르면, 전 세계 공장의 90%는 연결되어 있지 않고, 불량품은 제조업 생산 원가에서 심각한 문제 중 하나로 꼽히고 있다.


스마트 팩토리 구현의 핵심 솔루션

안정준 전문위원은 현재 제조업이 처한 문제의 해결방안으로 3단계의 스마트 팩토리 구현 전략을 제안했다.

첫번째 물리적인 현실세계(아날로그)를 데이터로 관리 가능한 형태로 변경해 데이터 간 상관 관계, 실시간 운영상황·분석 결과를 시각화하는 대시보드 운영, 데이터 기반 공정 진행상황 등을 구현하는 것이다.

2단계는 확보한 데이터를 활용해 생산 프로세스를 지능적으로 운영하는 것이며, 마지막 3단계는 물리적인 공급망에서 재고의 움직임을 확인해 데이터 기반으로 재고 수준 최적화 관리를 진행하는 것이다.

이렇게 제조업 비즈니스의 효율성을 향상시키기 위해서는 데이터 파이프라인 관리 기반의 스마트 솔루션이 필요하다.

효성인포메이션시스템의 루마다 IoT 플랫폼과 펜타호는 스마트 팩토리 구현을 지원하는 솔루션이다. 루마다 IoT 플랫폼은 원천 데이터부터 솔루션까지 데이터의 일관성을 확보한 상황에서 데이터 파이프라인을 구축한다. 데이터 파이프라인 관리 솔루션인 펜타호는 현장의 센서 정보와 OT 시스템 정보를 데이터 레이크 형태로 수집해서 전처리(ETL), AI 및 ML 등 분석, 보안, 자동화, 시각화를 모두 제공한다.

웨비나는 제조업의 현황 및 트렌드, 그리고 스마트 팩토리 구현을 위한 솔루션을 소개한 데 이어 효성인포메이션시스템의 스마트 팩토리 솔루션을 통해 품질 개선과 최적화 관련 혁신 성과를 달성한 고객, 공정 관리 영역의 혁신 성과를 달성한 고객의 두 가지 사례를 소개함으로써 마무리됐다.


“제조업의 디지털 혁신을 위해서는 데이터 수집부터 처리, 분석, 인사이트 도출로 이어지는, 데이터 파이프라인 기반의 스마트 팩토리 솔루션의 활용이 가장 중요합니다.”