🔗 원문 전체 보기 → Venturesquare.net
요약
AI 모델 경량화·최적화 기업 노타가 ‘독자 AI 파운데이션 모델’ 프로젝트에 이어 정부의 ‘모두의 AI’ 사업에 참여한다. SK텔레콤 주관 컨소시엄에서 AI 모델 인프라 분야를 맡아 대규모 국민 서비스에 적용되는 모델의 연산량과 메모리 사용량을 줄이고 운영 효율을 높... The post 국가 AI 모델, 국민 서비스까지 가볍게 돌린다…노타 ‘모두의 AI’ 참여 appeared first on 벤처스퀘어.
본문
- SK텔레콤 주관 컨소시엄 AI 모델 인프라 분야 참여…모델 경량화·최적화로 대규모 서비스 운영 지원
- ‘독자 AI 파운데이션 모델’ 이어 국가 AI 프로젝트 연속 참여…넷츠프레소 기반 연산량·메모리 사용량 절감
좋은 AI 모델을 만드는 것과 수많은 사람이 동시에 사용할 수 있는 AI 서비스를 운영하는 것은 다른 문제다. 이용자가 늘고 여러 AI 모델과 에이전트가 동시에 작동하면 연산량과 메모리 사용량, 응답 속도는 곧 서비스 비용과 품질로 이어진다. 국가 AI 경쟁의 무게중심이 모델 개발에서 실제 활용으로 이동하면서 제한된 인프라 안에서 AI를 효율적으로 구동하는 최적화 기술의 역할도 커지고 있다.
AI 모델 경량화·최적화 기업 노타(대표 채명수)가 정부의 ‘독자 AI 파운데이션 모델(독파모)’ 프로젝트에 이어 ‘모두의 AI’ 사업에 참여한다.
‘모두의 AI’는 과학기술정보통신부와 정보통신산업진흥원이 국민 누구나 일상에서 AI를 활용할 수 있도록 추진하는 사업이다. 노타는 SK텔레콤이 주관하는 컨소시엄에서 AI 모델 인프라 분야를 맡아 서비스에 적용되는 AI 모델의 경량화와 최적화를 지원한다.
SK텔레콤 컨소시엄은 이용자의 상황과 필요를 파악해 공공·생활 정보를 맞춤형으로 안내하고 필요한 후속 행동까지 연결하는 AI 서비스를 구현할 계획이다. 향후 공공서비스 탐색과 신청, 증명서 발급을 비롯해 의료·교통·금융·교육 등 생활 영역의 예약과 신청, 결제까지 지원하는 실행형 AI로 발전시키는 것을 목표로 하고 있다.
모델 성능만큼 중요한 ‘운영 효율’…AI 전 주기 최적화
노타의 역할은 AI 모델이 실제 대규모 서비스 환경에서 효율적으로 작동하도록 연산 부담을 줄이는 데 있다. 전 국민 대상 서비스에서는 단순 정보 검색부터 여러 단계의 판단과 외부 도구 활용이 필요한 업무까지 다양한 요청이 동시에 발생한다. 모든 작업을 하나의 고성능 모델에 의존할 경우 연산 자원과 운영 비용 부담이 커질 수 있다.
여러 AI 모델과 에이전트를 함께 활용하는 환경에서는 응답 속도와 안정성, 메모리 사용량, 연산 효율을 함께 관리해야 한다. 노타는 모델 자체의 경량화뿐 아니라 실제 서비스 환경에서 제한된 연산 자원을 효율적으로 배분하고 운영할 수 있도록 최적화 기술을 적용할 예정이다.
기반 기술은 자체 AI 모델 경량화·최적화 플랫폼 ‘넷츠프레소(NetsPresso)’다. AI 모델의 특성과 적용할 하드웨어 환경을 함께 분석해 모델 성능을 유지하면서 연산량과 메모리 사용량을 줄이고 데이터센터와 기업 서버, 엣지 디바이스 등 서로 다른 인프라에서 구동할 수 있도록 지원한다.
앞서 참여한 ‘독파모’가 독자적인 AI 파운데이션 모델 개발에 초점을 맞췄다면 이번 ‘모두의 AI’에서는 개발된 AI 역량을 실제 국민 대상 서비스로 연결하는 과정에 최적화 기술을 적용한다. 모델 개발 단계의 연산 효율화에서 실제 서비스의 대규모 운영까지 국가 AI 생태계의 전 과정에 참여하게 된 셈이다.
채명수 노타 대표는 “국가 AI 경쟁력은 우수한 모델 개발을 넘어 국민이 실제 사용하는 서비스를 구현하고 이를 대규모 환경에서도 빠르고 안정적으로 운영하는 역량에서 완성된다”며 “‘모두의 AI’에서도 모델 개발부터 실제 서비스 운영까지 최적화 역량을 폭넓게 적용해 대한민국이 독자적인 AI 기술과 활용 기반을 갖추는 데 기여하겠다”고 말했다.
Like this:
Like Loading...Related
National AI Models to Lightly Power Even Public Services… Nota Joins 'AI for All'
Building a good AI model is a different matter from operating an AI service that numerous people can use simultaneously. As the number of users increases and multiple AI models and agents operate concurrently, computational load, memory usage, and response speed directly impact service costs and quality. As the center of gravity of national AI competition shifts from model development to actual application, the role of optimization technology for efficiently running AI within limited infrastructure is also becoming increasingly important.
Nota (CEO Chae Myung-soo), a company specializing in AI model lightweighting and optimization, is participating in the 'AI for All' project following the government's 'Independent AI Foundation Model (Dokpamo)' project.
'AI for All' is a project promoted by the Ministry of Science and ICT and the Korea Information and Communications Technology Promotion Agency to enable all citizens to utilize AI in their daily lives. Nota is responsible for the AI model infrastructure sector within a consortium led by SK Telecom, supporting the lightweighting and optimization of AI models applied to services.
The SK Telecom consortium plans to implement an AI service that identifies users' situations and needs to provide customized public and lifestyle information and connects them to necessary follow-up actions. In the future, the goal is to develop it into an actionable AI that supports not only the search and application for public services and certificate issuance, but also reservations, applications, and payments in lifestyle areas such as medical care, transportation, finance, and education.
'Operational Efficiency' as Important as Model Performance… Optimizing the Entire AI Lifecycle
Nota's role is to reduce the computational burden so that AI models can operate efficiently in actual large-scale service environments. In nationwide services, diverse requests occur simultaneously, ranging from simple information searches to tasks requiring multi-stage decision-making and the use of external tools. Relying on a single high-performance model for all tasks can lead to a significant burden on computational resources and operational costs.
In environments utilizing multiple AI models and agents, response speed, stability, memory usage, and computational efficiency must be managed together. Nota plans to apply optimization technologies not only to lightweight the models themselves but also to efficiently allocate and manage limited computational resources in actual service environments.
The underlying technology is 'NetsPresso,' a proprietary AI model lightweighting and optimization platform. By analyzing both the characteristics of the AI model and the hardware environment in which it will be applied, it reduces computational load and memory usage while maintaining model performance, and supports operation across diverse infrastructures such as data centers, enterprise servers, and edge devices.
While the previously participated 'Dokpamo' focused on developing proprietary AI foundation models, 'AI for All' applies optimization technologies to the process of connecting developed AI capabilities to actual services for the public. This effectively means participating in the entire process of the national AI ecosystem, ranging from optimizing computational efficiency during the model development phase to the large-scale operation of actual services.
Chae Myeong-su, CEO of Nota, stated, “National AI competitiveness is completed not only by developing excellent models, but also by the capability to implement services actually used by the public and operate them quickly and stably even in large-scale environments.” He added, “In ‘AI for All,’ we will contribute to Korea establishing its own independent AI technology and utilization foundation by broadly applying optimization capabilities from model development to actual service operations.”
国家AIモデル、国民サービスまで軽く回す…野田「みんなのAI」参加
良いAIモデルを作るのと、多数の人が同時に使えるAIサービスを運営することは違う問題だ。ユーザーが増え、複数のAIモデルとエージェントが同時に動作すると、演算量とメモリ使用量、応答速度はすぐにサービスコストと品質につながる。国家AI競争の重心がモデル開発から実際の活用に移行しながら、限られたインフラ内でAIを効率的に駆動する最適化技術の役割も大きくなっている。
AIモデル軽量化・最適化 企業のノータ（代表チェ・ミョンス）が政府の「独自AIファンデーションモデル（独派母）」プロジェクトに続き、「すべてのAI」事業に参加する。
「みんなのAI」は、科学技術情報通信部と情報通信産業振興院が国民誰もが日常でAIを活用できるように推進する事業だ。ノータはSKテレコムが主管するコンソーシアムでAIモデルインフラ分野を引き受け、サービスに適用されるAIモデルの軽量化と最適化を支援する。
SKテレコムコンソーシアムは、利用者の状況と必要性を把握し、公共・生活情報をカスタマイズして案内し、必要な後続行動まで連結するAIサービスを実現する計画だ。今後、公共サービスの探索と申請、証明書の発給をはじめ、医療・交通・金融・教育など生活領域の予約や申請、決済まで支援する実行型AIに発展させることを目指している。
モデル性能ほど重要な「運用効率」… AI全周期最適化
Notaの役割は、AIモデルが実際の大規模なサービス環境で効率的に機能するように計算負荷を軽減することです。全国民対象サービスでは、簡易情報検索から様々な段階の判断と外部ツールの活用が必要な業務まで、多様な要請が同時に発生する。すべての作業が単一の高性能モデルに依存すると、計算リソースと運用コストの負担が大きくなる可能性があります。
複数のAIモデルとエージェントを一緒に活用する環境では、応答速度と安定性、メモリ使用量、演算効率を一緒に管理する必要があります。 Notaは、モデル自体の軽量化だけでなく、実際のサービス環境で限られた演算リソースを効率的に配分して運営できるように最適化技術を適用する予定だ。
基盤技術は独自のAIモデル軽量化・最適化プラットフォーム「NetsPresso」だ。 AIモデルの特性と適用するハードウェア環境を一緒に分析し、モデル性能を維持しながら演算量とメモリ使用量を減らし、データセンターや企業サーバー、エッジデバイスなど、異なるインフラで駆動できるように支援する。
先に参加した「独派母」が独自のAIファンデーションモデル開発に焦点を当てた場合、今回の「すべてのAI」では、開発されたAI能力を実際の国民対象サービスにつなげる過程に最適化技術を適用する。モデル開発段階の演算効率化から実サービスの大規模運営まで、国家AI生態系の全過程に参加することになったわけだ。
チェ・ミョンス野田代表は「国家AI競争力は優秀なモデル開発を超え、国民が実際に使用するサービスを実装し、これを大規模な環境でも迅速かつ安定的に運営する能力で完成する」とし「「すべてのAI」でもモデル開発から実際のサービス運営まで最適化力量を幅広く適用し、大韓民国が独自のAI技術。
国家人工智能模型将轻量级地赋能公共服务……Nota加入“人工智能惠及所有人”计划
构建优秀的AI模型与运营可供众多用户同时使用的AI服务截然不同。随着用户数量的增加以及多个AI模型和代理的并发运行，计算负载、内存使用和响应速度将直接影响服务的成本和质量。随着国家级AI竞赛的重心从模型开发转向实际应用，在有限的基础设施下高效运行AI的优化技术也变得日益重要。
Nota（CEO Chae Myung-soo）是一家专注于人工智能模型轻量化和优化的公司，在政府的“独立人工智能基础模型（Dokpamo）”项目之后，参与了“全民人工智能”项目。
“AI for All”是由韩国科学技术信息通信部和韩国信息通信技术振兴院共同推进的项目，旨在让所有公民都能在日常生活中使用人工智能。Nota公司在SK Telecom牵头的联盟中负责人工智能模型基础设施建设，致力于支持应用于服务的人工智能模型的轻量级化和优化。
SK Telecom联盟计划推出一项人工智能服务，该服务能够识别用户的具体情况和需求，提供定制化的公共服务和生活方式信息，并将用户与必要的后续行动联系起来。未来，该服务的目标是发展成为一个可操作的人工智能系统，不仅支持公共服务和证件的搜索和申请，还能支持医疗、交通、金融和教育等生活方式领域的预约、申请和支付。
“运营效率”与模型性能同等重要……优化整个人工智能生命周期
Nota 的作用是降低计算负担，使 AI 模型能够在实际的大规模服务环境中高效运行。在全国性服务中，各种请求同时发生，从简单的信息搜索到需要多阶段决策和使用外部工具的任务，不一而足。如果所有任务都依赖单一的高性能模型，可能会对计算资源和运营成本造成显著负担。
在采用多种人工智能模型和代理的环境中，响应速度、稳定性、内存使用和计算效率必须协同管理。Nota 计划应用优化技术，不仅用于轻量化模型本身，还用于在实际服务环境中高效分配和管理有限的计算资源。
其底层技术是“NetsPresso”，这是一个专有的AI模型轻量级和优化平台。它通过分析AI模型的特性及其应用的硬件环境，在保持模型性能的同时降低计算负载和内存使用量，并支持在数据中心、企业服务器和边缘设备等各种基础设施上运行。
此前参与的“Dokpamo”项目专注于开发专有的人工智能基础模型，而“AI for All”项目则将优化技术应用于将已开发的人工智能能力与面向公众的实际服务对接的过程。这实际上意味着参与国家人工智能生态系统的整个过程，涵盖从模型开发阶段的计算效率优化到实际服务的大规模运营。
Nota首席执行官蔡明洙表示：“国家人工智能竞争力不仅体现在开发优秀的模型上，更体现在能够将实际服务交付给公众，并在大规模环境下快速稳定地运行。” 他补充道：“在‘AI for All’项目中，我们将广泛应用从模型开发到实际服务运营的优化能力，为韩国建立自主的人工智能技术和应用基础做出贡献。”
Des modèles d'IA nationaux pour alimenter même les services publics de manière allégée… Nota rejoint l'initiative « L'IA pour tous »
Concevoir un bon modèle d'IA est différent d'exploiter un service d'IA utilisable simultanément par de nombreuses personnes. À mesure que le nombre d'utilisateurs augmente et que plusieurs modèles et agents d'IA fonctionnent en parallèle, la charge de calcul, l'utilisation de la mémoire et la vitesse de réponse influent directement sur les coûts et la qualité du service. Alors que le centre de gravité de la compétition nationale en IA se déplace du développement de modèles vers l'application concrète, le rôle des technologies d'optimisation pour une exécution efficace de l'IA au sein d'infrastructures limitées devient également de plus en plus crucial.
Nota (PDG Chae Myung-soo), une entreprise spécialisée dans l'allègement et l'optimisation des modèles d'IA, participe au projet « IA pour tous » suivant le projet gouvernemental « Modèle de fondation d'IA indépendante (Dokpamo) ».
« L’IA pour tous » est un projet du ministère des Sciences et des TIC et de l’Agence coréenne de promotion des technologies de l’information et de la communication visant à permettre à tous les citoyens d’utiliser l’IA au quotidien. Nota est responsable de l’infrastructure des modèles d’IA au sein d’un consortium dirigé par SK Telecom, et contribue à l’allègement et à l’optimisation des modèles d’IA appliqués aux services.
Le consortium SK Telecom prévoit de mettre en œuvre un service d'IA qui identifiera la situation et les besoins des utilisateurs afin de leur fournir des informations personnalisées sur les services publics et les modes de vie, et de les orienter vers les démarches nécessaires. À terme, l'objectif est de développer une IA opérationnelle qui prenne en charge non seulement la recherche et la demande de services publics et l'obtention de certificats, mais aussi les réservations, les demandes et les paiements dans des domaines tels que la santé, les transports, la finance et l'éducation.
L’« efficacité opérationnelle » est aussi importante que la performance du modèle… Optimisation de l’ensemble du cycle de vie de l’IA
Le rôle de Nota est de réduire la charge de calcul afin que les modèles d'IA puissent fonctionner efficacement dans des environnements de services à grande échelle. Dans les services nationaux, des requêtes diverses surviennent simultanément, allant de simples recherches d'informations à des tâches nécessitant une prise de décision en plusieurs étapes et l'utilisation d'outils externes. S'appuyer sur un seul modèle haute performance pour toutes les tâches peut engendrer une charge importante sur les ressources de calcul et des coûts opérationnels élevés.
Dans les environnements utilisant plusieurs modèles et agents d'IA, la vitesse de réponse, la stabilité, l'utilisation de la mémoire et l'efficacité de calcul doivent être gérées conjointement. Nota prévoit d'appliquer des technologies d'optimisation non seulement pour alléger les modèles eux-mêmes, mais aussi pour allouer et gérer efficacement les ressources de calcul limitées dans les environnements de service réels.
La technologie sous-jacente est « NetsPresso », une plateforme propriétaire d'allègement et d'optimisation des modèles d'IA. En analysant à la fois les caractéristiques du modèle d'IA et l'environnement matériel dans lequel il sera appliqué, elle réduit la charge de calcul et l'utilisation de la mémoire tout en maintenant les performances du modèle, et prend en charge le fonctionnement sur diverses infrastructures telles que les centres de données, les serveurs d'entreprise et les périphériques de périphérie.
Alors que le projet « Dokpamo », auquel il avait participé précédemment, se concentrait sur le développement de modèles d'IA propriétaires, « L'IA pour tous » applique des technologies d'optimisation au processus de connexion des capacités d'IA développées à des services publics concrets. Concrètement, cela signifie participer à l'ensemble du processus de l'écosystème national de l'IA, depuis l'optimisation de l'efficacité de calcul lors de la phase de développement des modèles jusqu'à l'exploitation à grande échelle des services.
Chae Myeong-su, PDG de Nota, a déclaré : « La compétitivité nationale en matière d’IA ne repose pas uniquement sur le développement d’excellents modèles, mais aussi sur la capacité à mettre en œuvre des services réellement utilisés par le public et à les exploiter rapidement et de manière stable, même à grande échelle. » Il a ajouté : « Dans le cadre de l’initiative « L’IA pour tous », nous contribuerons à ce que la Corée se dote d’une base technologique et d’une expertise en IA indépendantes, en appliquant largement nos capacités d’optimisation, du développement de modèles à l’exploitation concrète des services. »