추론인프라 썸네일형 리스트형 학습에서 추론으로 이동하는 AI 무게중심을 위한 전략 지금까지 인공지능(AI) 시장은 대규모 모델 개발을 위한 ‘학습’ 중심으로 성장해왔다. 빅테크와 하이퍼스케일러가 대규모 그래픽처리장치(GPU) 투자에 집중해 온 이유다. 그러나 학습된 모델을 실제 서비스에 적용하는 ‘추론’ 수요가 빠르게 확대되면서 AI 시장의 무게중심도 이동하고 있다. 빠르게 확대되는 ‘추론’ 수요 챗봇이 사용자 질문에 답하고 검색 서비스가 필요한 문서를 찾으며, 번역기가 문장을 변환하는 모든 과정에서 AI 추론 연산이 활용된다. AI 학습이 대규모 모델을 직접 개발하는 소수 빅테크 중심이라면, 추론 수요는 기존 모델을 업무와 서비스에 활용하는 다양한 산업으로 확산되고 있다. 기업의 생성형 AI 활용 역시 단순 개념검증(PoC)에서 실제 업무와 서비스 환경으로 확대되고 있다. 사내 지.. 더보기 이전 1 다음 What Inspires Sustainable Technology?
