요약
MS, 기존 보안 플랫폼 기능 확장내외부 AI 에이전트 실시간 대응마이크로소프트(MS)가 기업 외부의 인공지능(AI) 공격뿐 아니라 내부에서 사용하는 AI 위험까지 막을 수 있도록 보안 플랫폼을 확장했다.MS는 20일 기업 외부의 AI 공격에 대응하는 기존의 에이전트 기반 보안 플랫폼 ‘프로젝트 퍼셉션’의 기능을 확장해 기업 내부에서 활동하는 AI 에이전트···
본문
MS, 기존 보안 플랫폼 기능 확장
내외부 AI 에이전트 실시간 대응
마이크로소프트(MS)가 기업 외부의 인공지능(AI) 공격뿐 아니라 내부에서 사용하는 AI 위험까지 막을 수 있도록 보안 플랫폼을 확장했다.
MS는 20일 기업 외부의 AI 공격에 대응하는 기존의 에이전트 기반 보안 플랫폼 ‘프로젝트 퍼셉션’의 기능을 확장해 기업 내부에서 활동하는 AI 에이전트를 감시, 통제할 수 있도록 했다고 밝혔다.
프로젝트 퍼셉션은 기업 내 전 영역에서 AI 에이전트를 탐지해 관리체계에 편입하고, 에이전트가 시도하는 행동과 관련된 위험을 산정하며 지속적으로 감독한다. 가디언 에이전트 팀은 에이전트의 모든 행동을 24시간 감시하고 위험 수준이 높아지면 실시간으로 정밀 대응한다. 에이전트를 감독한 뒤 위험이 나타난 원인을 확인할 수 있는 추적 정보도 제공한다.
기존의 AI 보안 문제는 외부 해커가 AI 모델을 활용해 공격하는 기업 외부 위험에 주로 초점이 맞춰졌다. 기업 내부 AI 에이전트는 자체적으로 배포해 쓴다는 이유로 별도 검증 없이 신뢰하는 경우가 많았다. 하지만 기업 내부에서 사용하는 AI 에이전트도 무조건 신뢰해선 안 되고 감시가 필요하다는 게 MS 시각이다.
하예테 갈로트 MS 시큐리티 총괄수석부사장은 이날 공식 블로그에서 “에이전트가 기업 환경에 대규모로 도입됐고, 데이터와 시스템에 접근할 수 있으며 핵심 단계에서 결정까지 내릴 수 있는 기업 활동의 능동적 참여자이자 기업 내부자”라면서 “이들에 대한 모니터링과 보안이 필요하다”고 했다.
MS는 AI 모델을 통제하는 제어장치는 모델 외부에 있어야 한다는 입장이다. 사티아 나델라 MS 최고경영자(CEO)는 지난 11일(현지시간) “정보의 제공과 정보에 대한 통제권을 분리해야 한다”며 모델 외부의 제어장치 필요성을 강조했다. 모델 스스로 보안 기관 역할을 하도록 해선 안 되고, 별도 감시 시스템을 가동해야 한다는 뜻이다.
MS는 그런 점에서 앤트로픽이 AI가 지켜야 할 행동기준을 담은 ‘클로드 헌법’ 등을 내놓는 데 비판적이다.