MS, AI 에이전트 보안용 오픈소스 도구 램파트·클래리티 공개

• 마이크로소프트가 AI 에이전트 보안용 오픈소스 도구 2개를 공개함

  • 이름은 램파트(Rampart)와 클래리티(Clarity)
  • 둘 다 “에이전트 안전을 출시 직전 체크리스트가 아니라 개발 프로세스 안에 넣자”는 방향임

• MS가 보는 문제는 명확함. AI 에이전트는 이제 그냥 챗봇이 아니라 실제 권한을 가진 시스템으로 가고 있음

  • 프롬프트 인젝션, 안전하지 않은 도구 호출, 권한 상승, 의도치 않은 자율 행동 같은 문제가 생김
  • 기존 웹앱 보안 점검만으로는 이런 흐름을 다 막기 어렵다는 판단임

• 램파트는 개발 중인 AI 에이전트를 반복해서 때려보는 쪽에 가까움

  • MS의 생성형 AI 레드팀 프레임워크 PyRIT을 기반으로 만들어짐
  • 공격 시나리오와 정상 시나리오를 구조화해서 자동 실행할 수 있음
  • 교차 프롬프트 인젝션, 안전하지 않은 데이터 처리, 취약한 도구 실행 같은 에이전트 특화 공격 경로를 배포 전에 잡는 게 목적임

• 중요한 건 레드팀 결과를 “보고서”로 끝내지 않는다는 점임

  • 한 번 발견한 취약 시나리오를 반복 가능한 자동화 테스트로 바꿈
  • CI/CD 워크플로우에 붙이면 에이전트가 바뀔 때마다 회귀 문제가 생겼는지 확인 가능함
  • MS 설명대로 PyRIT이 배포 후 블랙박스 탐지에 강하다면, 램파트는 만드는 중인 엔지니어를 돕는 도구에 가까움

• 클래리티는 코드 짜기 전 단계에서 설계 가정을 털어보는 도구임

  • 에이전트가 어떤 행동을 할 것으로 기대하는지, 어떤 권한을 갖는지, 외부 시스템과 어디까지 연결되는지 점검함
  • 신뢰 경계, 실패 가능성, 의사결정 기록 같은 걸 구조화된 대화로 남김
  • 데스크톱 앱, 웹 UI, 코딩 에이전트에 통합해서 쓸 수 있다고 MS가 설명함

• 클래리티가 만든 기록은 저장소 안에 남길 수 있음

  • .clarity-protocol/ 디렉터리에 마크다운 파일 형태로 저장됨
  • 코드처럼 커밋하고 풀 리퀘스트에서 리뷰할 수 있음
  • 변경 diff도 볼 수 있으니, “이 에이전트가 왜 이런 권한을 갖게 됐는지”를 나중에 추적하기 쉬워짐

• MS는 최근 에이전트 거버넌스와 안전성 스택을 계속 쌓는 중임

  • 지난달에는 정책 적용, 상시 통제, OWASP 기준 보안을 지원하는 에이전트 거버넌스 툴킷을 공개했음
  • 램파트와 클래리티도 단일 도구라기보다는 그 전략의 일부로 보면 됨

---

기술 맥락

• 이번 선택의 핵심은 보안 검증을 개발 흐름 밖에 두지 않는 거예요. AI 에이전트는 프롬프트와 코드, 도구 권한, 외부 시스템 연결이 같이 움직이기 때문에 출시 직전 점검만으로는 놓치는 구간이 많거든요.

• 램파트가 CI/CD와 맞물리는 이유도 여기에 있어요. 레드팀이 한 번 찾아낸 공격 패턴을 자동 테스트로 바꿔두면, 모델 프롬프트나 도구 호출 로직이 바뀔 때 같은 문제가 다시 생기는지 계속 확인할 수 있어요.

• 클래리티는 더 앞단을 건드려요. 코드를 쓰기 전에 에이전트가 어떤 권한을 가져야 하는지, 어디까지 자동으로 행동해도 되는지, 어떤 시스템을 신뢰하면 안 되는지를 기록하게 만드는 거죠. 이 기록을 저장소에 남기면 보안 판단이 회의실 안에서 사라지지 않고 코드 리뷰 흐름으로 들어와요.

• 결국 MS가 말하는 방향은 AI 에이전트 보안을 별도 이벤트가 아니라 소프트웨어 엔지니어링 산출물로 다루자는 거예요. 테스트, 설계 문서, 리뷰, 배포 파이프라인이 같이 움직여야 에이전트가 커져도 통제력을 잃지 않기 때문이에요.