요약
키보드 위로 마이크로소프트 로고가 보이는 모습. 로이터연합뉴스마이크로소프트(MS)가 기업 외부의 인공지능(AI) 공격 뿐 아니라 기업 내부에서 사용하는 AI 위험까지 막을 수 있도록 보안 플랫폼을 확장했다.MS는 20일 기업 외부의 AI 기반 공격에 대응하는 기존의 에이전트 기반 보안 플랫폼 ‘프로젝트 퍼셉션’의 기능을 확장해 기업 내부에서 활동하는 AI ···
본문
키보드 위로 마이크로소프트 로고가 보이는 모습. 로이터연합뉴스
마이크로소프트(MS)가 기업 외부의 인공지능(AI) 공격 뿐 아니라 기업 내부에서 사용하는 AI 위험까지 막을 수 있도록 보안 플랫폼을 확장했다.
MS는 20일 기업 외부의 AI 기반 공격에 대응하는 기존의 에이전트 기반 보안 플랫폼 ‘프로젝트 퍼셉션’의 기능을 확장해 기업 내부에서 활동하는 AI 에이전트를 감시, 통제할 수 있도록 했다고 밝혔다.
프로젝트 퍼셉션은 기업 내 전 영역에서 AI 에이전트를 탐지해 관리 체계에 편입하고, 에이전트가 시도하는 행동과 관련된 위험을 산정하며 지속적으로 감독한다. 가디언 에이전트 팀은 에이전트의 모든 행동을 24시간 감시하고 위험 수준이 높아지면 실시간으로 정밀 대응한다. 에이전트의 행동을 감독한 뒤 위험이 나타난 원인을 확인할 수 있는 추적 정보도 제공한다.
기존의 AI 보안문제는 외부 해커가 AI 모델을 활용해 공격하는 기업 외부 위험에 주로 초점이 맞춰졌다. 기업 내부에서 사용되는 AI 에이전트는 자체적으로 배포해 사용한다는 이유로 별도의 검증 없이 신뢰하는 경우가 많았다. 하지만 기업 내부에서 사용하는 AI 에이전트도 무조건 신뢰해선 안되고 감시가 필요하다는 게 MS의 시각이다.
하예테 갈로트 MS 시큐리티 총괄 수석 부사장은 이날 공식 블로그에 올린 글을 통해 “에이전트가 기업 환경에 대규모로 도입됐고, 데이터와 시스템에 접근할 수 있으며 핵심 단계에서 결정까지 내릴 수 있는 기업 활동의 능동적 참여자이자 기업 내부자”라며 “이들에 대한 모니터링과 보안이 필요하다”고 했다.
MS는 AI 모델을 통제하는 제어장치는 모델 외부에 있어야 한다는 입장이다. 사티아 나델라 MS 최고경영자(CEO)는 지난 11일(현지시간) “정보의 제공과 정보에 대한 통제권을 분리해야 한다”며 모델 외부의 제어장치 필요성을 설파했다. 모델 스스로 보안 기관 역할을 하도록 해선 안 되고, 별도 감시 시스템을 가동해야 한다는 것이다. MS는 그런 점에서 앤트로픽이 AI가 지켜야 할 행동기준을 담은 ‘클로드 헌법’ 등을 내놓는 데 비판적이다.