🔗 원문 전체 보기 → Venturesquare.net
요약
소프트프릭이 멀티모달 AI 모델의 프라이버시 취약점 진단과 AI 게이트웨이 보안 제어에 관한 특허 2건을 등록했다. 텍스트·이미지 기반 공격으로 민감정보 노출 가능성을 점검하고 AI 에이전트의 프롬프트와 시스템 이용 행위를 통제하는 기술이다. 소프트프릭은 해당 기술을 기존 취약점 진단 솔루션 파바타와 개발 중인 LLM·AI 게이트웨이에 단계적으로 적용한다. 보안 점검 자동화와 생성형 AI 모델 보호 기술 연구도 병행하고 있다.
본문
- 텍스트·이미지 결합한 멀티모달 공격으로 AI 모델의 프라이버시 취약점 진단
- 프롬프트·시스템 행위 보안 제어 기술 확보…기존 솔루션과 AI 게이트웨이에 적용 추진
기업의 생성형 인공지능(AI) 도입이 확대되면서 AI 모델의 안전성을 검증하고 시스템 접근 권한을 관리하는 기술의 중요성이 커지고 있다. 특히 AI 에이전트가 기업 내부 데이터와 업무 시스템을 이용하는 환경에서는 민감정보 노출 가능성을 점검하고 실행 행위를 통제할 필요가 있다. API 거버넌스 전문기업 소프트프릭이 이러한 보안 수요에 대응하는 기술을 특허로 확보했다.
소프트프릭(대표 김동철)은 멀티모달 AI 모델의 프라이버시 취약점을 진단하는 기술과 AI 게이트웨이의 보안 제어 기술에 관한 특허 2건을 등록했다.
등록된 특허는 ‘인공지능 모델의 프라이버시 취약점 진단을 위한 멀티 모달 공격 방법’과 ‘AI 게이트웨이가 실행하는 프롬프트 및 시스템 행위에 대한 보안 제어 방법’이다.
첫 번째 특허는 텍스트와 이미지 등 다양한 입력 형태를 활용한 공격 시나리오로 AI 모델의 민감정보 노출 가능성을 점검하는 기술이다. 텍스트 기반 진단만으로 확인하기 어려운 멀티모달 AI의 취약점을 사전에 파악하는 데 목적이 있다.
해당 기술은 소프트프릭이 지난해 출원한 AI 프라이버시 취약점 진단 관련 특허 5건 가운데 하나로, AI 모델 자체의 안전성을 검증하는 ‘AI 보안 테스팅(AI Security Testing)’ 분야에 활용된다.
두 번째 특허는 AI 게이트웨이를 통해 프롬프트와 시스템 이용 행위를 보안정책에 따라 통제하는 기술이다. AI 에이전트가 기업의 API와 데이터, 외부 도구를 이용할 때 접근 권한과 실행 행위를 관리하고 추적할 수 있도록 설계됐다.
소프트프릭은 API 관리·보안 분야에서 확보한 인증·인가와 접근제어 기술을 기반으로 기존 API 게이트웨이의 기능을 LLM 게이트웨이와 AI 게이트웨이로 확장하고 있다.
파바타·AI 게이트웨이에 특허 기술 적용…보안 자동화 연구도 병행
소프트프릭은 이번에 등록한 특허 기술을 기존 취약점 진단 솔루션 ‘파바타(F-Avata)’와 개발 중인 LLM·AI 게이트웨이에 단계적으로 적용할 계획이다.
멀티모달 AI의 프라이버시 취약점 진단 기술은 파바타의 AI 보안 진단 기능으로 개발하고 있다. AI 게이트웨이 보안 제어 기술은 프롬프트·응답과 AI 에이전트의 시스템 접근 및 실행 행위를 관리하는 기능으로 구현 중이다.
현재 제품화를 위한 기술 검증을 병행하고 있으며, 검증이 완료된 기능부터 기존 솔루션과 연계할 방침이다.
AI를 활용한 보안 자동화 기술도 연구하고 있다. LLM이 보안 가이드라인을 분석해 취약점 점검 규칙과 진단 스크립트를 자동 생성하는 기술을 특허 출원했으며, 파바타와의 연계를 추진한다.
이와 함께 위험도에 따라 보호 정책을 조정하는 기술과 생성형 AI 모델의 재학습·증류·미세 조정을 추적하는 워터마킹 기술 등 모델 보호 관련 특허 출원도 이어가고 있다.
김동철 소프트프릭 대표는 “공격자가 AI로 취약점을 찾고 공격을 자동화하면서 사람 중심의 대응만으로는 공격의 속도와 규모를 따라가기 어려워지고 있다”며 “방어에도 AI를 적극 활용하는 동시에 기업이 사용하는 AI의 안전성을 검증하고 접근과 행위를 통제해야 한다”고 말했다.
소프트프릭은 API 게이트웨이와 취약점 진단, 계정관리 및 접근제어 솔루션에 AI 보안 기술을 결합해 AI 모델 검증부터 에이전트 접근·행위 통제, 보안 업무 자동화까지 지원하는 ‘AI 보안 및 API 거버넌스’ 체계를 구축할 계획이다.
Like this:
Like Loading...Related
Softfreak Registers Two Patents for AI Sensitive Information Exposure Diagnosis and Agent Access Control Technology
As the adoption of generative artificial intelligence (AI) expands within enterprises, the importance of technologies that verify the safety of AI models and manage system access rights is growing. Particularly in environments where AI agents utilize internal corporate data and business systems, it is necessary to monitor for potential exposure of sensitive information and control execution behavior. Softfreak, a company specializing in API governance, has secured a patent for technology that addresses these security demands.
Softfreak (CEO Kim Dong-cheol) has registered two patents related to technology for diagnosing privacy vulnerabilities in multimodal AI models and security control technology for AI gateways.
The registered patents are 'Multimodal attack method for diagnosing privacy vulnerabilities of artificial intelligence models' and 'Security control method for prompts and system behaviors executed by an AI gateway'.
The first patent is a technology that checks for the potential exposure of sensitive information in AI models through attack scenarios utilizing various input forms, such as text and images. Its purpose is to identify vulnerabilities in multimodal AI in advance that are difficult to detect through text-based diagnosis alone.
This technology is one of five patents related to AI privacy vulnerability diagnosis filed by Softfreak last year, and is used in the field of 'AI Security Testing' to verify the safety of the AI model itself.
The second patent is a technology that controls prompts and system usage behaviors according to security policies through an AI gateway. It is designed to manage and track access rights and execution behaviors when AI agents utilize corporate APIs, data, and external tools.
Softfreec is expanding the capabilities of its existing API gateways into LLM gateways and AI gateways, based on authentication, authorization, and access control technologies secured in the fields of API management and security.
Applying patented technology to Favatar and AI Gateways… Simultaneously conducting research on security automation
Softfreak plans to gradually apply the newly registered patented technology to its existing vulnerability assessment solution 'F-Avata' and the LLM/AI gateway currently under development.
Multimodal AI's privacy vulnerability diagnosis technology is being developed using PAVATA's AI security diagnostic capabilities. The AI gateway security control technology is being implemented as a function that manages prompts, responses, and the system access and execution behavior of AI agents.
We are currently conducting technical verification for product commercialization, and we plan to integrate with existing solutions starting with the functions that have been verified.
We are also researching security automation technology utilizing AI. LLM has filed a patent for technology that automatically generates vulnerability check rules and diagnostic scripts by analyzing security guidelines, and is pursuing a collaboration with Pavatar.
Along with this, patent applications related to model protection are also continuing, including technology that adjusts protection policies based on risk levels and watermarking technology that tracks the retraining, distillation, and fine-tuning of generative AI models.
Kim Dong-cheol, CEO of Softfreak, stated, “As attackers use AI to find vulnerabilities and automate attacks, it is becoming difficult to keep up with the speed and scale of attacks relying solely on human-centered responses.” He added, “We must actively utilize AI for defense while simultaneously verifying the safety of the AI used by companies and controlling access and behavior.”
Softfreec plans to establish an 'AI Security and API Governance' system that combines AI security technology with API gateways, vulnerability assessment, account management, and access control solutions to support everything from AI model verification to agent access and behavior control and security task automation.
ソフトフリック、AI敏感情報露出診断・エージェントアクセス制御技術特許2件登録
企業の生成型人工知能（AI）の導入が拡大し、AIモデルの安全性を検証し、システムアクセス権を管理する技術の重要性が高まっている。特にAIエージェントが企業内部データと業務システムを利用する環境では、機密情報の暴露の可能性を確認し、実行行為を制御する必要がある。 APIガバナンス専門企業ソフトフリックが、こうしたセキュリティ需要に対応する技術を特許として確保した。
ソフトフリック(代表キム・ドンチョル)はマルチモーダルAIモデルのプライバシー脆弱性を診断する技術とAIゲートウェイのセキュリティ制御技術に関する特許2件を登録した。
登録された特許は「人工知能モデルのプライバシー脆弱性診断のためのマルチモーダル攻撃方法」と「AIゲートウェイが実行するプロンプトおよびシステム行為に対するセキュリティ制御方法」である。
最初の特許は、テキストや画像など多様な入力形態を活用した攻撃シナリオで、AIモデルの機密情報露出の可能性をチェックする技術だ。テキストベースの診断だけでは確認するのが難しいマルチモーダルAIの脆弱性を事前に把握することに目的がある。
同技術はソフトフリックが昨年出願したAIプライバシー脆弱性診断関連特許5件のうちの1つで、AIモデル自体の安全性を検証する「AIセキュリティテスト(AI Security Testing)」分野に活用される。
2番目の特許は、AIゲートウェイを介してプロンプトとシステムの利用をセキュリティポリシーに従って管理する技術です。 AIエージェントが企業のAPIとデータ、外部ツールを利用する際のアクセス権と実行行為を管理し追跡できるように設計された。
ソフトフリックは、API管理・セキュリティ分野で確保した認証・認可とアクセス制御技術を基盤に、既存のAPIゲートウェイの機能をLLMゲートウェイとAIゲートウェイに拡張している。
パバタ・AIゲートウェイに特許技術適用…セキュリティ自動化研究も並行
ソフトフリックは今回登録した特許技術を既存の脆弱性診断ソリューション「F-Avata」と開発中のLLM・AIゲートウェイに段階的に適用する計画だ。
マルチモーダルAIのプライバシー脆弱性診断技術は、パバタのAIセキュリティ診断機能として開発している。 AIゲートウェイセキュリティ制御技術は、プロンプト・応答とAIエージェントのシステムアクセスおよび実行行為を管理する機能として実装中である。
現在製品化のための技術検証を並行しており、検証が完了した機能から既存ソリューションと連携する方針だ。
AIを活用したセキュリティ自動化技術も研究している。 LLMがセキュリティガイドラインを分析し、脆弱性チェックルールと診断スクリプトを自動生成する技術を特許出願し、パバタとの連携を推進する。
これとともに、危険度に応じて保護政策を調整する技術や、生成型AIモデルの再学習・蒸留・微調整を追跡するウォーターマーキング技術など、モデル保護関連の特許出願も続いている。
キム・ドンチョルソフトフリック代表は「攻撃者がAIで脆弱性を探して攻撃を自動化しつつ、人中心の対応だけでは攻撃の速度と規模を追いにくくなっている」とし「防御にもAIを積極的に活用するとともに、企業が使用するAIの安全性を検証し、接近と行為を統制しなければならない」と話した。
ソフトフリックはAPIゲートウェイと脆弱性診断、アカウント管理およびアクセス制御ソリューションにAIセキュリティ技術を結合し、AIモデル検証からエージェントアクセス・行為制御、セキュリティ業務自動化まで支援する「AIセキュリティおよびAPIガバナンス」体系を構築する計画だ。
Softfreak公司注册了两项专利，分别是人工智能敏感信息泄露诊断和代理访问控制技术。
随着生成式人工智能 (AI) 在企业中的应用日益广泛，验证 AI 模型安全性和管理系统访问权限的技术的重要性也日益凸显。尤其是在 AI 代理使用企业内部数据和业务系统的环境中，必须监控敏感信息的潜在泄露风险并控制其执行行为。专注于 API 治理的 Softfreak 公司已获得一项专利，其技术能够满足这些安全需求。
Softfreak（CEO 金东哲）已注册两项与多模态 AI 模型隐私漏洞诊断技术和 AI 网关安全控制技术相关的专利。
注册专利包括“用于诊断人工智能模型隐私漏洞的多模态攻击方法”和“用于人工智能网关执行的提示和系统行为的安全控制方法”。
第一项专利是一种利用多种输入形式（例如文本和图像）进行攻击场景模拟的技术，旨在检测人工智能模型中是否存在敏感信息泄露的风险。其目的是提前识别多模态人工智能中仅靠基于文本的诊断难以发现的漏洞。
这项技术是 Softfreak 去年申请的五项与 AI 隐私漏洞诊断相关的专利之一，用于“AI 安全测试”领域，以验证 AI 模型本身的安全性。
第二项专利是一种通过人工智能网关，根据安全策略控制提示和系统使用行为的技术。它旨在管理和跟踪人工智能代理在使用企业应用程序接口、数据和外部工具时的访问权限和执行行为。
Softfreec 正在扩展其现有 API 网关的功能，使其能够基于 API 管理和安全领域中受保护的身份验证、授权和访问控制技术，实现 LLM 网关和 AI 网关的功能。
将专利技术应用于虚拟化身和人工智能网关……同时开展安全自动化方面的研究
Softfreak 计划逐步将新注册的专利技术应用于其现有的漏洞评估解决方案“F-Avata”和目前正在开发的 LLM/AI 网关。
多模态人工智能的隐私漏洞诊断技术是利用PAVATA的人工智能安全诊断能力开发的。人工智能网关安全控制技术被实现为一个功能，用于管理人工智能代理的提示、响应以及系统访问和执行行为。
我们目前正在进行产品商业化的技术验证，并计划从已验证的功能开始，与现有解决方案进行集成。
我们也在研究利用人工智能的安全自动化技术。LLM已为一项通过分析安全指南自动生成漏洞检查规则和诊断脚本的技术申请了专利，并正在与Pavatar寻求合作。
与此同时，与模型保护相关的专利申请也在继续，包括根据风险级别调整保护策略的技术，以及跟踪生成式人工智能模型的重新训练、提炼和微调的水印技术。
Softfreak首席执行官金东哲表示：“随着攻击者利用人工智能寻找漏洞并自动化攻击，仅靠人工应对越来越难以跟上攻击的速度和规模。”他补充道：“我们必须积极利用人工智能进行防御，同时验证企业所用人工智能的安全性，并控制其访问权限和行为。”
Softfreec 计划建立一个“AI 安全和 API 治理”系统，将 AI 安全技术与 API 网关、漏洞评估、帐户管理和访问控制解决方案相结合，以支持从 AI 模型验证到代理访问和行为控制以及安全任务自动化的一切。
Softfreak dépose deux brevets pour une technologie de diagnostic de l'exposition aux informations sensibles par l'IA et de contrôle d'accès des agents
Avec l'adoption croissante de l'intelligence artificielle générative (IA) en entreprise, l'importance des technologies garantissant la sécurité des modèles d'IA et gérant les droits d'accès aux systèmes s'accroît. Dans les environnements où les agents d'IA exploitent les données et systèmes internes de l'entreprise, il est particulièrement nécessaire de surveiller les risques de divulgation d'informations sensibles et de contrôler leur comportement d'exécution. Softfreak, société spécialisée dans la gouvernance des API, a obtenu un brevet pour une technologie répondant à ces exigences de sécurité.
Softfreak (PDG Kim Dong-cheol) a déposé deux brevets liés à une technologie de diagnostic des vulnérabilités en matière de confidentialité dans les modèles d'IA multimodaux et à une technologie de contrôle de sécurité pour les passerelles d'IA.
Les brevets déposés sont intitulés « Méthode d'attaque multimodale pour le diagnostic des vulnérabilités en matière de confidentialité des modèles d'intelligence artificielle » et « Méthode de contrôle de sécurité pour les invites et les comportements du système exécutés par une passerelle d'IA ».
Le premier brevet concerne une technologie permettant de détecter les risques de divulgation d'informations sensibles dans les modèles d'IA grâce à des scénarios d'attaque utilisant divers types de données d'entrée, comme du texte et des images. Son objectif est d'identifier en amont les vulnérabilités des IA multimodales difficiles à déceler par un diagnostic basé uniquement sur le texte.
Cette technologie est l'un des cinq brevets relatifs au diagnostic des vulnérabilités en matière de confidentialité de l'IA déposés par Softfreak l'année dernière, et est utilisée dans le domaine des « tests de sécurité de l'IA » pour vérifier la sécurité du modèle d'IA lui-même.
Le second brevet concerne une technologie qui contrôle les messages et les comportements d'utilisation du système en fonction des politiques de sécurité, via une passerelle d'IA. Elle est conçue pour gérer et suivre les droits d'accès et les comportements d'exécution lorsque des agents d'IA utilisent les API, les données et les outils externes de l'entreprise.
Softfreec étend les capacités de ses passerelles API existantes aux passerelles LLM et aux passerelles d'IA, en s'appuyant sur des technologies d'authentification, d'autorisation et de contrôle d'accès sécurisées dans les domaines de la gestion et de la sécurité des API.
Application d'une technologie brevetée à Favatar et aux passerelles d'IA… Conduite simultanée de recherches sur l'automatisation de la sécurité
Softfreak prévoit d'appliquer progressivement la technologie brevetée nouvellement enregistrée à sa solution d'évaluation des vulnérabilités existante « F-Avata » et à la passerelle LLM/AI actuellement en développement.
La technologie de diagnostic des vulnérabilités de confidentialité de l'IA multimodale est développée à partir des capacités de diagnostic de sécurité IA de PAVATA. La technologie de contrôle de sécurité de la passerelle IA est implémentée comme une fonction gérant les invites, les réponses, ainsi que l'accès au système et le comportement d'exécution des agents IA.
Nous procédons actuellement à la vérification technique en vue de la commercialisation du produit et nous prévoyons de l'intégrer aux solutions existantes en commençant par les fonctions qui ont été vérifiées.
Nous menons également des recherches sur les technologies d'automatisation de la sécurité utilisant l'IA. LLM a déposé un brevet pour une technologie qui génère automatiquement des règles de vérification des vulnérabilités et des scripts de diagnostic en analysant les directives de sécurité, et poursuit une collaboration avec Pavatar.
Parallèlement, les demandes de brevets relatives à la protection des modèles se poursuivent également, notamment les technologies qui ajustent les politiques de protection en fonction des niveaux de risque et les technologies de tatouage numérique qui suivent le réentraînement, la distillation et le réglage fin des modèles d'IA génératifs.
Kim Dong-cheol, PDG de Softfreak, a déclaré : « Face à l’utilisation croissante de l’IA par les attaquants pour identifier les vulnérabilités et automatiser leurs attaques, il devient difficile de suivre le rythme et l’ampleur de ces dernières en se basant uniquement sur des réponses humaines. » Il a ajouté : « Nous devons activement exploiter l’IA à des fins de défense, tout en vérifiant la sécurité de l’IA utilisée par les entreprises et en contrôlant les accès et les comportements. »
Softfreec prévoit de mettre en place un système de « sécurité de l'IA et de gouvernance des API » qui combinera la technologie de sécurité de l'IA avec des passerelles API, l'évaluation des vulnérabilités, la gestion des comptes et des solutions de contrôle d'accès pour prendre en charge tout, de la validation des modèles d'IA au contrôle d'accès et de comportement des agents et à l'automatisation des tâches de sécurité.