← 목록으로

“AI 운영 시대 열렸다”…F5 “국내 기업 55%, AI 추론 워크로드 이미 가동”

“AI 운영 시대 열렸다”…F5 “국내 기업 55%, AI 추론 워크로드 이미 가동”

요약

F5가 발표한 ‘2026 애플리케이션 전략 현황’ 보고서에 따르면 국내 기업의 55%가 이미 AI 추론 워크로드를 운영 중인 것으로 나타났다. AI 운영이 실험 단계를 넘어 실제 비즈니스 시스템으로 자리잡으면서 멀티클라우드·보안·거버넌스 중요성도 커지고 있다. The post “AI 운영 시대 열렸다”…F5 “국내 기업 55%, AI 추론 워크로드 이미 가동” appeared first on 벤처스퀘어.

본문

  • 국내 기업 절반 이상 AI 추론 운영…멀티클라우드 기반 AI 운영 확산
  • “AI 보안·거버넌스, 기업 경쟁력 좌우하는 핵심 요소로 부상”

글로벌 애플리케이션 전송·보안 기업 F5가 연례 ‘애플리케이션 전략 현황(State of Application Strategy, SOAS)’ 보고서를 발표하고, 국내 기업들의 AI 활용이 실험 단계를 넘어 실제 운영 중심으로 빠르게 전환되고 있다고 진단했다.

보고서에 따르면 국내 기업의 55%는 이미 AI 추론 워크로드를 운영 중인 것으로 나타났다. 다수 기업은 전체 애플리케이션의 40~60%에 AI를 적용하고 있으며, AI를 핵심 비즈니스 시스템 수준으로 관리하는 흐름이 확산되고 있다는 분석이다.

또한 국내 기업들은 현재 평균 2~3개의 AI 모델을 실제 운영 환경에서 활용하고 있으며, 65%는 실시간 운영 자동화에 AI를 적용하고 있는 것으로 조사됐다.

F5 로고 (자료 제공: F5)

AI 서비스 경쟁력, ‘운영·통제·보안’으로 이동

이형욱 F5코리아 지사장은 “AI는 이제 실험 단계를 넘어 실제 운영 영역으로 들어왔다”며 “기업들의 고민 역시 AI를 도입할지 여부가 아니라 이를 얼마나 안정적이고 안전하게 대규모로 운영할 수 있는가로 이동하고 있다”고 말했다.

이번 보고서는 AI 운영 환경이 서비스형 AI(AIaaS) 단일 구조보다 복수 AI 모델을 조합하는 방식으로 재편되고 있다는 점도 짚었다. 퍼블릭 AI 서비스에만 의존하는 기업은 국내 기준 8%에 불과했으며, 대부분 기업은 비용·정확도·가용성 최적화를 위해 다양한 모델 포트폴리오를 구축 중인 것으로 나타났다.

이에 따라 정교한 라우팅과 장애 대응, 정책 기반 제어 역량 확보가 새로운 운영 경쟁력으로 떠오르고 있다는 설명이다.

보고서는 하이브리드 멀티클라우드 환경이 AI 운영의 새로운 표준으로 자리잡고 있다고 분석했다.

국내 기업의 74%는 복수의 퍼블릭 클라우드 서비스를 사용 중이며, 68%는 여러 온프레미스 데이터센터를 운영하고 있는 것으로 조사됐다. 코로케이션 환경을 다변화해 활용 중이라는 응답도 72%에 달했다.

AI 보안과 거버넌스 역시 주요 과제로 부상했다. 국내 기업의 56%는 AI 워크로드 운영 비용을 가장 큰 부담 요소로 꼽았으며, 51%는 에이전트 ID 증가에 따른 보안·관리 문제를 우려하고 있다고 답했다.

특히 프롬프트와 토큰 계층이 AI 서비스 운영의 핵심 제어 지점으로 이동하고 있다는 점도 강조됐다. 국내 기업의 36%는 프롬프트 계층을 가장 중요한 서비스 제공 메커니즘으로 꼽았으며, 21%는 토큰·제어 계층 중심 운영을 우선시한다고 응답했다.

F5는 “AI 성숙도는 이제 운영 탄력성과 경쟁력을 보여주는 핵심 지표가 되고 있다”며 “AI 환경 전반에 대한 가시성과 통합 제어 역량을 확보한 기업이 지속 가능한 비즈니스 경쟁력을 확보하게 될 것”이라고 분석했다.

Like this:

Like Loading...

“The Era of AI Operations Has Begun”… F5: “55% of Domestic Companies Already Running AI Inference Workloads”

F5 , a global application delivery and security company, released its annual 'State of Application Strategy (SOAS)' report and assessed that the use of AI by domestic companies is rapidly shifting from the experimental stage to a focus on actual operations.

According to the report, 55% of domestic companies are already operating AI inference workloads. Analysis indicates that many companies are applying AI to 40–60% of their total applications, and a trend of managing AI at the level of core business systems is spreading.

In addition, it was found that domestic companies are currently utilizing an average of 2 to 3 AI models in actual operating environments, and 65% are applying AI to real-time operational automation.

F5 logo (Image courtesy of F5)

AI Service Competitiveness Shifts to 'Operations, Control, and Security'

Lee Hyung-wook, General Manager of F5 Korea, stated, “AI has now moved beyond the experimental stage and entered the realm of actual operation,” adding, “Companies’ concerns are also shifting from whether to adopt AI to how to operate it stably and safely on a large scale.”

This report also pointed out that the AI operating environment is being restructured into a combination of multiple AI models rather than a single AI-as-a-Service (AIaaS) structure. It was found that only 8% of domestic companies rely solely on public AI services, while most companies are building diverse model portfolios to optimize cost, accuracy, and availability.

Accordingly, it is explained that securing capabilities for sophisticated routing, fault response, and policy-based control is emerging as a new operational competitive advantage.

The report analyzed that hybrid multi-cloud environments are establishing themselves as the new standard for AI operations.

It was found that 74% of domestic companies use multiple public cloud services, and 68% operate multiple on-premises data centers. Responses indicating that they are diversifying and utilizing colocation environments also reached 72%.

AI security and governance have also emerged as major challenges. 56% of domestic companies cited the cost of operating AI workloads as the biggest burden, and 51% responded that they are concerned about security and management issues arising from the increase in agent IDs.

In particular, it was emphasized that the prompt and token layers are moving to become the core control points of AI service operations. 36% of domestic companies cited the prompt layer as the most important service delivery mechanism, while 21% responded that they prioritize operations centered on the token and control layers.

F5 analyzed, “AI maturity is now becoming a key indicator of operational resilience and competitiveness,” adding that “companies that secure visibility and integrated control capabilities across the entire AI environment will secure sustainable business competitiveness.”

「AI運営時代開かれた」… F5「国内企業55%、AI推論ワークロードすでに稼働」

グローバルアプリケーション伝送・セキュリティ企業F5が年次「アプリケーション戦略現況(State of Application Strategy, SOAS)」報告書を発表し、国内企業のAI活用が実験段階を超えて実際の運営中心に急速に転換されていると診断した。

報告書によると、国内企業の55%がすでにAI推論ワークロードを運営していることが明らかになった。多くの企業は、アプリケーション全体の40~60%にAIを適用しており、AIをコアビジネスシステムレベルで管理する流れが広がっているという分析だ。

また、国内企業は現在、平均2~3個のAIモデルを実際の運用環境で活用しており、65%はリアルタイム運営自動化にAIを適用していることが調査された。

F5ロゴ(資料提供:F5)

AIサービス競争力、「運営・統制・セキュリティ」に移動

イ・ヒョンウクF5コリア支社長は「AIは今や実験段階を超えて実際の運営領域に入ってきた」とし「企業の悩みもAIを導入するかどうかではなく、これをどれだけ安定して安全に大規模に運営できるかに移動している」と話した。

今回の報告書は、AI運営環境がサービス型AI(AIaaS)単一構造よりも複数のAIモデルを組み合わせる方式で再編されていることもわかった。パブリックAIサービスだけに依存する企業は国内基準8%に過ぎず、ほとんど企業はコスト・精度・可用性最適化のために多様なモデルポートフォリオを構築中であることが分かった。

これにより、洗練されたルーティングと障害対応、政策ベースの制御能力確保が新しい運営競争力で浮上しているという説明だ。

報告書は、ハイブリッドマルチクラウド環境がAI運用の新しい標準に位置していると分析した。

国内企業の74%は複数のパブリッククラウドサービスを使用しており、68%は複数のオンプレミスデータセンターを運営していることが調査された。コロケーション環境を多様化して活用中という回答も72%に達した。

AIセキュリティとガバナンスも主な課題として浮上した。国内企業の56%はAIワークロード運営コストを最大の負担要素とし、51%はエージェントIDの増加に伴うセキュリティ・管理問題を懸念していると答えた。

特にプロンプトとトークン層がAIサービス運営の中核制御点に移動していることも強調された。国内企業の36%はプロンプト層を最も重要なサービス提供メカニズムに挙げ、21%はトークン・制御層中心運営を優先視すると答えた。

F5は「AI成熟度はこれから運営弾力性と競争力を示す核心指標となっている」とし「AI環境全般に対する可視性と統合制御力量を確保した企業が持続可能なビジネス競争力を確保することになるだろう」と分析した。

“人工智能运维时代已经到来”……F5:“国内已有55%的企业运行人工智能推理工作负载”

全球应用交付和安全公司F5发布了年度《应用战略现状 (SOAS)》报告,评估认为国内企业对人工智能的使用正在迅速从实验阶段转向实际运营。

报告显示,国内已有55%的企业运行人工智能推理工作负载。分析表明,许多企业已将人工智能应用于其全部应用的40%至60%,在核心业务系统层面管理人工智能的趋势正在蔓延。

此外,调查发现,国内企业目前在实际运营环境中平均使用 2 到 3 个 AI 模型,65% 的企业正在将 AI 应用于实时运营自动化。

F5标志(来源:F5)

人工智能服务竞争力转向“运营、控制和安全”

F5韩国总经理李亨旭表示:“人工智能现在已经超越了实验阶段,进入了实际运行的领域。”他补充道:“企业关注的焦点也从是否采用人工智能,转移到如何大规模、稳定、安全地运行人工智能。”

该报告还指出,人工智能运行环境正在从单一的人工智能即服务(AIaaS)模式重构为多种人工智能模型的组合模式。报告发现,仅有8%的国内企业完全依赖公共人工智能服务,而大多数企业正在构建多元化的模型组合,以优化成本、准确性和可用性。

因此,可以解释为,确保具备复杂的路由、故障响应和基于策略的控制能力正在成为一种新的运营竞争优势。

该报告分析指出,混合多云环境正在成为人工智能运营的新标准。

调查发现,74%的国内企业使用多种公有云服务,68%的企业运营多个自建数据中心。另有72%的企业表示正在实现多元化发展并利用托管环境。

人工智能安全和治理也已成为重大挑战。56%的国内企业表示,人工智能工作负载的运营成本是最大的负担,51%的企业表示,他们担心代理ID数量增加会带来安全和管理问题。

尤其值得注意的是,提示层和令牌层正逐渐成为人工智能服务运营的关键控制点。36%的国内企业认为提示层是最重要的服务交付机制,而21%的企业则表示他们优先考虑以令牌层和控制层为中心的运营。

F5 分析道:“人工智能成熟度现在正成为运营韧性和竞争力的关键指标”,并补充说,“能够确保整个人工智能环境的可见性和集成控制能力的公司将确保可持续的业务竞争力。”

« L’ère des opérations d’IA a commencé »… F5 : « 55 % des entreprises nationales exécutent déjà des charges de travail d’inférence d’IA »

F5 , une entreprise mondiale de distribution d'applications et de sécurité, a publié son rapport annuel « State of Application Strategy (SOAS) » et a constaté que l'utilisation de l'IA par les entreprises nationales passe rapidement de la phase expérimentale à une focalisation sur les opérations réelles.

D'après le rapport, 55 % des entreprises nationales utilisent déjà des charges de travail d'inférence basées sur l'IA. L'analyse révèle que nombre d'entre elles appliquent l'IA à 40 à 60 % de leurs applications, et la tendance à intégrer l'IA aux systèmes d'information critiques se généralise.

En outre, il a été constaté que les entreprises nationales utilisent actuellement en moyenne 2 à 3 modèles d'IA dans des environnements opérationnels réels, et que 65 % d'entre elles appliquent l'IA à l'automatisation opérationnelle en temps réel.

Logo F5 (Source : F5)

La compétitivité des services d'IA se déplace vers « les opérations, le contrôle et la sécurité ».

Lee Hyung-wook, directeur général de F5 Korea, a déclaré : « L’IA a désormais dépassé le stade expérimental et est entrée dans le domaine de l’exploitation réelle », ajoutant : « Les préoccupations des entreprises évoluent également : elles ne se demandent plus si elles doivent adopter l’IA, mais comment l’exploiter de manière stable et sûre à grande échelle. »

Ce rapport souligne également que l'environnement opérationnel de l'IA se restructure pour privilégier une combinaison de plusieurs modèles d'IA plutôt qu'une structure unique d'IA en tant que service (IAaaS). Il apparaît que seulement 8 % des entreprises nationales s'appuient exclusivement sur des services d'IA publics, tandis que la plupart développent des portefeuilles de modèles diversifiés afin d'optimiser les coûts, la précision et la disponibilité.

En conséquence, il est expliqué que la capacité à sécuriser les opérations de routage sophistiquées, de réponse aux pannes et de contrôle basé sur des politiques apparaît comme un nouvel avantage concurrentiel opérationnel.

Le rapport analyse que les environnements multicloud hybrides s'imposent comme la nouvelle norme pour les opérations d'IA.

Il a été constaté que 74 % des entreprises nationales utilisent plusieurs services de cloud public et que 68 % exploitent plusieurs centres de données sur site. Par ailleurs, 72 % des réponses indiquent une diversification et le recours à des environnements de colocation.

La sécurité et la gouvernance de l'IA constituent également des défis majeurs. 56 % des entreprises nationales citent le coût d'exploitation des charges de travail d'IA comme le principal obstacle, et 51 % se disent préoccupées par les problèmes de sécurité et de gestion liés à la multiplication des identifiants d'agents.

Il a notamment été souligné que les couches d'invite et de jeton deviennent les points de contrôle centraux des opérations de services d'IA. 36 % des entreprises nationales ont cité la couche d'invite comme le mécanisme de prestation de services le plus important, tandis que 21 % ont indiqué privilégier les opérations centrées sur les couches de jeton et de contrôle.

F5 a analysé : « La maturité de l'IA devient désormais un indicateur clé de la résilience opérationnelle et de la compétitivité », ajoutant que « les entreprises qui sécurisent la visibilité et les capacités de contrôle intégrées sur l'ensemble de l'environnement d'IA garantiront une compétitivité commerciale durable. »

Like this:

Like Loading...
← 목록으로