데이터 이동 없이 LLM·이상 탐지 운영… 엔터프라이즈 AI 통제력 강화
클라우데라(한국지사장 최승철)가 엔비디아(NVIDIA) 기술로 구동되는 클라우데라 AI 인퍼런스와 트리노(Trino) 기반 데이터 웨어하우스의 온프레미스 확장을 발표했다. 또한 데이터 비주얼라이제이션의 AI 및 분석 역량을 강화해 클라우드·엣지·데이터센터 전반에서 AI 워크플로우를 보다 간소화했다고 밝혔다.
기업들이 AI 실험 단계를 넘어 본격적인 운영 단계로 진입하면서, 데이터가 어디에 저장돼 있든 AI가 이를 안전하고 신뢰 가능한 방식으로 활용할 수 있는 구조가 핵심 과제로 떠오르고 있다.
클라우데라가 최근 발표한 ‘기업용 AI와 데이터 아키텍처의 현황’ 보고서에 따르면, 전체 기업의 약 42%가 데이터를 데이터 웨어하우스에 저장하고 있는 것으로 나타났다. AI 애플리케이션이 해당 데이터에 안전하게 접근할 수 있다면 민감한 정보를 외부로 이동시키지 않고도 의미 있는 인사이트를 도출할 수 있으며, 이는 보안 리스크 최소화와 규제 대응 부담 완화, 운영 효율성 향상으로 이어진다.
엔비디아 기술로 구동되는 클라우데라 AI 인퍼런스는 온프레미스 환경을 지원해 기업이 대규모언어모델(LLM), 이상 거래 탐지, 컴퓨터 비전, 음성 AI 등 다양한 AI 모델을 자체 데이터센터에서 직접 배포하고 확장할 수 있도록 한다. 해당 솔루션은 엔비디아 블랙웰 GPU, 다이나모-트리톤 추론 서버, 엔비디아 NIM 마이크로서비스를 기반으로 가속된다.
이를 통해 기업은 클라우드 비용 변동성을 피하고 지연 시간, 규제 준수, 데이터 프라이버시를 완벽히 통제하면서도 예측 가능한 비용 구조로 엔터프라이즈급 AI를 운영할 수 있다고 업체 측은 밝혔다.
트리노 기반 클라우데라 데이터 웨어하우스 역시 데이터센터 환경 지원을 통해 중앙화된 보안과 거버넌스를 유지하면서 인사이트 접근 속도를 크게 높였다. AI 기반 분석 및 시각화 기능이 통합돼 있어, 기업은 보안이나 규제 준수, 운영 통제를 저해하지 않으면서도 복잡한 데이터를 실행 가능한 성과로 전환할 수 있다.
레오 브루닉(Leo Brunnick) 클라우데라 최고제품책임자(CPO)는 “이번 온프레미스 확장은 기업에게 전례 없는 수준의 AI 통제력과 유연성을 제공한다”며, “가장 중요한 데이터를 이동하지 않고도 AI와 분석을 안전하게 배포할 수 있는 기반을 마련했다”고 말했다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
