Since 1959

2026.05.27 (수)
2026.05.27 (수)
F5, “국내 기업 55%, AI 추론 워크로드 이미 운영 중”
2026-05-26 김미혜 기자, elecnews@elec4.co.kr

‘2026 애플리케이션 전략 현황’ 보고서 발표…AI, 실험 넘어 프로덕션 단계 진입


F5가 연례 ‘애플리케이션 전략 현황(State of Application Strategy, SOAS)’ 보고서를 발표하고, 인공지능(AI)이 더 이상 실험 단계에 머무르지 않고 실제 운영 환경의 핵심 워크로드로 자리 잡고 있다고 밝혔다.


F5는 5월 26일 발표한 보고서를 통해 국내 기업의 55%가 이미 AI 추론 워크로드를 운영 중이며, 다수 기업이 전체 애플리케이션의 40~60%에 AI를 적용하고 있다고 설명했다.



이번 조사는 전 세계 엔터프라이즈 IT 및 보안 리더를 대상으로 진행됐으며, AI 운영 확산에 따라 기업들이 편의성보다 통제력과 운영 안정성을 우선시하고 있는 것으로 나타났다.


이형욱 F5코리아 지사장은 “AI는 실험 단계를 넘어 실제 운영의 영역으로 들어왔다”며, “이제 기업의 고민은 AI를 도입할지 여부가 아니라, 이를 얼마나 안정적이고 안전하게 대규모로 운영할 수 있는가로 이동하고 있다”고 말했다.


이어 “AI 추론은 이미 비즈니스 핵심 영역으로 자리 잡고 있으며, AI 서비스 운영은 트래픽 관리 문제로, AI 보안은 거버넌스와 통제 체계 문제로 진화하고 있다”며, “이런 변화를 먼저 읽은 기업이 더 빠르고 안정적으로 대응할 수 있을 것”이라고 설명했다.


AI, 더 이상 실험 아닌 운영 현실


보고서에 따르면 국내 기업들은 현재 프로덕션 환경에서 평균 2~3개의 AI 모델을 운영하고 있으며, 65%는 실시간 운영 자동화를 위해 AI를 활용하고 있는 것으로 나타났다.


이는 AI 시스템의 운영 거버넌스 중요성이 높아지고 있음을 보여주는 결과다. 기업들은 추론 워크로드를 애플리케이션 스택에 통합된 관리형·정책 기반 시스템으로 운영하고 있으며, 기존 핵심 업무 시스템과 동일한 수준의 보안·확장성·아키텍처 기준을 적용하고 있다는 설명이다.


“AIaaS만으로는 부족”… 멀티 모델 전략 확대


서비스형 AI(AI-as-a-Service, AIaaS)에 대한 인식도 변화하고 있다.


퍼블릭 AI 서비스만 단독 활용하는 국내 기업은 8%에 불과했으며, 대부분의 기업은 비용·정확도·가용성을 고려해 복수의 AI 모델 포트폴리오를 운영 중인 것으로 조사됐다. 이에 따라 정교한 라우팅, 장애 대응(fallback), 정책 기반 제어 기능의 중요성이 함께 커지고 있다고 F5는 분석했다.


이번 보고서는 AI 운영 확대가 하이브리드 멀티클라우드 환경 확산과 맞물려 진행되고 있다고 분석했다.


국내 기업의 74%는 복수의 퍼블릭 클라우드 사업자를 이용하고 있으며, 68%는 여러 온프레미스 데이터센터를 운영 중이다. 또한 72%는 코로케이션 환경을 다변화해 활용하고 있는 것으로 나타났다.


AI 워크로드 역시 비용·가용성·정확도 최적화를 위해 고도화된 라우팅과 정책 제어 기능을 요구하고 있으며, 이에 따라 기업 전반을 아우르는 통합 서비스 제공·보안·거버넌스 전략이 핵심 과제로 부상하고 있다는 설명이다.


F5는 다양한 인프라 환경에서 일관된 정책 적용과 통합 보안 전략을 구현하기 위해서는 정밀한 통제 체계가 필수적이라고 강조했다.


AI 보안·거버넌스, 전사 차원 핵심 과제로 부상


AI 시스템이 프로덕션 단계로 진입하면서 보안과 거버넌스 역시 기업 핵심 과제로 떠오르고 있다.


국내 기업의 56%는 AI 워크로드 운영 비용을 가장 큰 과제로 꼽았으며, 51%는 에이전트 ID(Agent Identities) 증가에 따른 보안 및 관리 문제를 우려하고 있는 것으로 나타났다.


이는 AI 도입 확대와 함께 보다 강력한 거버넌스·비용 통제·보안 프레임워크 필요성이 커지고 있음을 보여준다고 F5는 전했다.


프롬프트·토큰 계층, AI 운영 핵심 제어 포인트로 부상


보고서는 AI 워크로드 관리 중심이 인프라에서 프롬프트·토큰·API 계층으로 이동하고 있다는 점도 주요 변화로 꼽았다. 국내 기업의 36%는 프롬프트 계층을 가장 중요한 서비스 제공 메커니즘으로 지목했으며, 21%는 토큰 계층과 제어 계층을 핵심 우선순위로 꼽았다.


F5는 프롬프트와 토큰 계층에 대한 거버넌스를 확보하는 것이 비용·성능·안전성 최적화의 핵심 요소가 되고 있으며, 향후 AI 경쟁력의 중요한 차별화 포인트가 될 것이라고 분석했다.


한편 F5는 이번 보고서를 통해 AI 성숙도가 단순 기술 도입 수준을 넘어 운영 탄력성과 경쟁력을 가늠하는 핵심 지표로 자리 잡고 있다고 강조했다. 회사는 AI가 실행되는 모든 환경 전반에서 가시성·인증·통합 제어 체계에 투자하는 기업이 AI의 가능성을 지속 가능한 비즈니스 가치로 전환하게 될 것이라고 전망했다.

<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>

100자평 쓰기