🔗 원문 전체 보기 → Venturesquare.net
요약
야타브가 제1금융권 금융기관과 생성형 AI 활용 과정의 정보유출을 방지하는 보안 체계를 구축한다. AI-DLP를 통해 질문과 답변, 첨부파일에 포함된 개인정보·신용정보·기업 중요정보를 실시간으로 탐지하고 통제한다. 금융기관은 AI 기능과 조직, 사용자별로 이용 권한을 ... The post 생성형 AI는 쓰되 민감정보는 막는다…야타브, 제1금융권에 ‘AI-DLP’ 구축 appeared first on 벤처스퀘어.
본문
- 생성형 AI 질문·답변과 첨부파일 실시간 분석…개인정보·신용정보·기업 기밀 탐지
- 파일 업로드·이미지 생성·코드 실행 등 기능별 권한 설정…조직·사용자별 보안 정책 적용
금융권의 생성형 AI 도입은 업무 효율과 정보보호를 동시에 다뤄야 하는 과제로 이어진다. 직원이 AI에 입력하는 질문이나 첨부파일에는 개인정보와 신용정보, 내부 문서가 포함될 수 있기 때문이다. 서비스를 전면 차단하면 업무 활용성이 떨어지고, 별도 통제 없이 허용하면 민감정보가 외부로 전달될 위험이 커진다. AI 보안 기업 야타브는 제1금융권 금융기관과 업무상 AI 사용은 유지하면서 정보유출을 관리하는 보안 체계 구축에 착수했다.
이번 협력은 금융기관의 생성형 AI 서비스를 일괄 차단하는 대신 업무에 필요한 이용 범위와 기능을 구분해 통제하는 데 초점을 맞췄다. 개인정보와 신용정보, 기업 기밀이 외부 AI 서비스로 전송될 가능성을 사전에 확인하고 정책에 따라 제한하는 방식이다.
보안 체계에는 야타브의 AI 정보유출 방지 기능인 ‘AI-DLP’가 적용된다. AI-DLP는 임직원이 생성형 AI에 입력하는 질문과 AI가 내놓은 답변을 실시간으로 분석한다.
탐지 대상에는 계좌번호와 신용카드번호, 전화번호 등 개인정보·신용정보가 포함된다. 계약서와 내부 재무정보, 소스코드, API 키처럼 업무 과정에서 다루는 중요정보도 식별해 통제한다.
문서·이미지 속 민감정보 확인…사용 권한도 세분화
PDF와 워드, 엑셀 문서 및 이미지 파일에 대한 보안 점검 기능도 제공한다. 파일에 포함된 문자를 판독해 민감정보 여부를 확인하고, 외부 생성형 AI 서비스에 파일을 올리는 과정에서 보안 정책 위반 가능성을 식별한다.
금융기관은 업무 특성과 사용자 권한에 따라 AI 서비스의 이용 범위를 다르게 설정할 수 있다. 같은 생성형 AI를 사용하더라도 파일 업로드와 다운로드, 이미지 생성, 코드 실행 등 각각의 기능을 허용하거나 제한할 수 있다. 부서와 사용자, 조직 단위로 서로 다른 통제 정책을 적용하는 것도 가능하다.
AI 이용 현황과 정책 위반 내역은 통합 관리된다. 보안 담당자는 서비스별·부서별·사용자별 이용 패턴을 확인할 수 있으며, 위반이 발생하면 실시간 알림을 받는다. 이용자가 입력한 내용과 AI 생성 결과, 업로드 파일 정보도 기록해 사후 점검과 보안 감사 자료로 활용할 수 있다.
야타브는 향후 금융권과 엔터프라이즈의 생성형 AI 이용 확대에 맞춰 입력·출력 데이터와 첨부파일, AI 기능, 사용자 권한을 함께 관리하는 정보유출 방지 체계를 고도화할 계획이다.
이성찬 야타브 대표는 “AI-DLP를 통해 금융 업무의 생산성을 높이는 동시에 개인정보와 기업 중요정보를 보호할 수 있는 실효성 있는 AI 보안 환경을 제공하겠다”고 말했다.
Like this:
Like Loading...Related
Use Generative AI but Block Sensitive Information… Yatav Implements 'AI-DLP' in Major Financial Sector
The adoption of generative AI in the financial sector presents the challenge of simultaneously addressing operational efficiency and information security. This is because the questions or attachments employees input into the AI can contain personal information, credit data, and internal documents. Completely blocking the service reduces operational usability, while allowing it without separate controls increases the risk of sensitive information being leaked externally. AI security firm Yatav has embarked on establishing a security system with a major financial institution to manage data leakage while maintaining the operational use of AI.
This collaboration focused on controlling the scope and functions of use necessary for business operations by distinguishing them, rather than blanketly blocking generative AI services at financial institutions. It is an approach that identifies in advance the possibility of personal, credit, and corporate secrets being transmitted to external AI services and restricts them according to policy.
Yatav's AI-based data leakage prevention feature, 'AI-DLP,' is applied to the security system. AI-DLP analyzes the questions employees input into the generative AI and the answers generated by the AI in real time.
Detection targets include personal and credit information such as account numbers, credit card numbers, and phone numbers. It also identifies and controls critical information handled during business processes, such as contracts, internal financial information, source code, and API keys.
Identifying sensitive information in documents and images… Permissions also finely tuned
It also provides security check functions for PDF, Word, Excel documents, and image files. It analyzes characters contained in files to verify whether they contain sensitive information and identifies potential security policy violations during the process of uploading files to external generative AI services.
Financial institutions can set different scopes for the use of AI services based on business characteristics and user permissions. Even when using the same generative AI, individual functions such as file uploads and downloads, image generation, and code execution can be allowed or restricted. It is also possible to apply different control policies at the department, user, and organizational levels.
AI usage status and policy violation records are managed in an integrated manner. Security personnel can check usage patterns by service, department, and user, and receive real-time notifications when violations occur. User input, AI-generated results, and uploaded file information are also recorded and can be utilized as data for post-inspection and security audits.
Yatav plans to enhance its data leakage prevention system, which manages input and output data, attachments, AI functions, and user permissions together, in line with the future expansion of generative AI usage in the financial sector and enterprises.
Lee Seong-chan, CEO of Yatav, stated, “Through AI-DLP, we will provide an effective AI security environment that enhances the productivity of financial operations while protecting personal and critical corporate information.”
生成型AIは使われ、機密情報は防ぐ。ヤタブ、第1金融圏に「AI-DLP」を構築
金融圏の生成型AIの導入は、業務効率と情報保護を同時に扱わなければならない課題につながる。従業員がAIに入力する質問や添付ファイルには、個人情報や信用情報、内部文書が含まれる可能性があるからだ。サービスを全面遮断すると業務活用性が低下し、別途統制なしに許可すると機密情報が外部に伝達される危険が大きくなる。 AIセキュリティ企業ヤタブは、第1金融圏金融機関と業務上AIの使用は維持しながら情報流出を管理するセキュリティ体系の構築に着手した。
今回の協力は、金融機関の生成型AIサービスを一括遮断するのではなく、業務に必要な利用範囲と機能を区分して統制することに焦点を当てた。個人情報と信用情報、企業機密が外部AIサービスに送信される可能性を事前に確認し、政策によって制限する方式だ。
セキュリティシステムには、ヤタブのAI情報漏洩防止機能である「AI-DLP」が適用される。 AI-DLPは、従業員が生成型AIに入力する質問とAIが出した回答をリアルタイムで分析する。
検出対象には口座番号とクレジットカード番号、電話番号など個人情報・クレジット情報が含まれる。契約書と内部財務情報、ソースコード、APIキーのように、業務過程で扱う重要情報も識別して統制する。
文書・画像の中の機密情報を確認…権限もセグメンテーション
PDFとWord、Excel文書、および画像ファイルのセキュリティチェック機能も提供します。ファイルに含まれる文字を読み取って機密情報があるかどうかを確認し、外部生成型AIサービスにファイルをアップロードする過程でセキュリティポリシー違反の可能性を識別する。
金融機関は、業務特性とユーザー権限によってAIサービスの利用範囲を異なるように設定することができる。同じ生成型AIを使用しても、ファイルのアップロードとダウンロード、画像生成、コード実行など、それぞれの機能を許可または制限することができます。部門、ユーザー、組織単位で異なる管理方針を適用することも可能です。
AI利用状況と政策違反履歴は統合管理される。セキュリティ担当者はサービス別・部署別・ユーザー別利用パターンを確認することができ、違反が発生するとリアルタイムの通知を受ける。利用者が入力した内容とAI生成結果、アップロードファイル情報も記録し、事後点検とセキュリティ監査資料として活用できる。
ヤタブは今後の金融圏とエンタープライズの生成型AI利用拡大に合わせて入力・出力データと添付ファイル、AI機能、ユーザー権限を共に管理する情報流出防止体系を高度化する計画だ。
イ・ソンチャンヤタブ代表は「AI-DLPを通じて金融業務の生産性を高めるとともに、個人情報と企業の重要情報を保護できる実効性のあるAIセキュリティ環境を提供する」と述べた。
利用生成式人工智能，但屏蔽敏感信息……Yatav 在主要金融领域实施“AI-DLP”
在金融领域应用生成式人工智能面临着如何同时兼顾运营效率和信息安全的挑战。这是因为员工输入到人工智能系统中的问题或附件可能包含个人信息、信用数据和内部文档。完全禁用该服务会降低运营效率，而允许其在缺乏独立控制的情况下运行则会增加敏感信息泄露的风险。人工智能安全公司 Yatav 已着手与一家大型金融机构合作，建立一套安全系统，旨在管理数据泄露，同时确保人工智能的正常运营。
此次合作的重点在于通过区分不同功能和用途来控制业务运营所需的人工智能应用范围和功能，而不是一刀切地禁止金融机构使用生成式人工智能服务。这种方法能够预先识别个人、信用和公司机密信息可能被传输到外部人工智能服务的风险，并根据相关政策加以限制。
Yatav的基于人工智能的数据泄露防护功能“AI-DLP”应用于安全系统。AI-DLP实时分析员工输入到生成式人工智能中的问题以及人工智能生成的答案。
检测目标包括个人和信用信息，例如账号、信用卡号和电话号码。它还能识别和控制业务流程中处理的关键信息，例如合同、内部财务信息、源代码和API密钥。
识别文档和图像中的敏感信息……权限设置也经过精细调整
它还提供针对PDF、Word、Excel文档和图像文件的安全检查功能。它会分析文件中的字符，以验证其中是否包含敏感信息，并在将文件上传到外部生成式人工智能服务的过程中识别潜在的安全策略违规行为。
金融机构可以根据业务特点和用户权限，为人工智能服务的使用设定不同的范围。即使使用相同的生成式人工智能，也可以允许或限制诸如文件上传和下载、图像生成和代码执行等具体功能。此外，还可以在部门、用户和组织层面应用不同的控制策略。
AI 使用状态和策略违规记录以集成方式进行管理。安全人员可以按服务、部门和用户查看使用模式，并在发生违规行为时收到实时通知。用户输入、AI 生成的结果和上传的文件信息也会被记录，并可作为事后检查和安全审计的数据。
Yatav 计划加强其数据泄露预防系统，该系统可同时管理输入输出数据、附件、人工智能功能和用户权限，以适应未来生成式人工智能在金融领域和企业中的应用扩展。
Yatav 首席执行官 Lee Seong-chan 表示：“通过 AI-DLP，我们将提供有效的 AI 安全环境，在保护个人和关键企业信息的同时，提高金融运营的效率。”
Utiliser l'IA générative tout en bloquant les informations sensibles… Yatav met en œuvre une solution « IA-DLP » dans un grand secteur financier
L'adoption de l'IA générative dans le secteur financier pose le défi de concilier efficacité opérationnelle et sécurité de l'information. En effet, les questions ou les pièces jointes saisies par les employés dans l'IA peuvent contenir des informations personnelles, des données de crédit et des documents internes. Bloquer complètement le service réduit son utilité opérationnelle, tandis que l'autoriser sans contrôles distincts accroît le risque de fuite d'informations sensibles. La société Yatav, spécialisée dans la sécurité de l'IA, a entrepris, avec une grande institution financière, la mise en place d'un système de sécurité pour gérer les fuites de données tout en préservant la continuité d'utilisation de l'IA.
Cette collaboration visait à contrôler la portée et les fonctions d'utilisation nécessaires aux opérations commerciales en les distinguant, plutôt que de bloquer systématiquement les services d'IA générative dans les institutions financières. Il s'agit d'une approche qui identifie en amont la possibilité de transmission de données personnelles, bancaires et d'entreprise confidentielles à des services d'IA externes et qui les restreint conformément aux politiques en vigueur.
La fonctionnalité de prévention des fuites de données basée sur l'IA de Yatav, « AI-DLP », est appliquée au système de sécurité. AI-DLP analyse en temps réel les questions posées par les employés à l'IA générative et les réponses générées par celle-ci.
Les cibles de détection incluent les informations personnelles et bancaires telles que les numéros de compte, de carte bancaire et de téléphone. Le système identifie et contrôle également les informations critiques traitées lors des processus métier, comme les contrats, les données financières internes, le code source et les clés API.
Identification des informations sensibles dans les documents et les images… Gestion des autorisations également optimisée.
Il offre également des fonctions de contrôle de sécurité pour les documents PDF, Word, Excel et les fichiers image. Il analyse les caractères contenus dans les fichiers afin de vérifier s'ils renferment des informations sensibles et identifie les violations potentielles des politiques de sécurité lors du chargement de fichiers vers des services d'IA générative externes.
Les institutions financières peuvent définir différents périmètres d'utilisation des services d'IA en fonction de leurs caractéristiques métiers et des autorisations des utilisateurs. Même avec une même IA générative, certaines fonctions, comme le téléchargement et l'envoi de fichiers, la génération d'images et l'exécution de code, peuvent être autorisées ou restreintes. Il est également possible d'appliquer des politiques de contrôle différentes selon le département, l'utilisateur et l'organisation.
L'état d'utilisation de l'IA et les enregistrements des violations de politiques sont gérés de manière intégrée. Le personnel de sécurité peut consulter les habitudes d'utilisation par service, département et utilisateur, et recevoir des notifications en temps réel en cas de violation. Les données saisies par l'utilisateur, les résultats générés par l'IA et les informations des fichiers téléchargés sont également enregistrées et peuvent servir de données pour les inspections a posteriori et les audits de sécurité.
Yatav prévoit d'améliorer son système de prévention des fuites de données, qui gère conjointement les données d'entrée et de sortie, les pièces jointes, les fonctions d'IA et les autorisations des utilisateurs, en prévision de l'expansion future de l'utilisation de l'IA générative dans le secteur financier et les entreprises.
Lee Seong-chan, PDG de Yatav, a déclaré : « Grâce à l'IA-DLP, nous fournirons un environnement de sécurité IA efficace qui améliorera la productivité des opérations financières tout en protégeant les informations personnelles et les informations critiques de l'entreprise. »