에버스핀·티냅스, AI 레드팀으로 신뢰 보안 시장 노린다

• 에버스핀과 티냅스가 'AI 신뢰 보안(AI Trust Security)' 분야에서 전략적 협력 계약을 맺음

  • 에버스핀은 AI 레드티밍을 포함한 신뢰 보안 서비스를 맡고
  • 티냅스는 기업 AI 시스템을 실시간으로 보호하는 런타임 보안·거버넌스 플랫폼을 제공함
  • 에버스핀은 한국, 일본, 동남아 사업 기반을 활용해 글로벌 시장까지 노린다는 그림임

• 이 협력이 나온 배경은 생성형 AI와 AI 에이전트가 만들고 있는 새로운 보안 문제임

  • 프롬프트 주입(Prompt Injection), 탈옥(Jailbreak), 데이터 유출, 권한 오남용, 에이전트 오용 같은 위협이 빠르게 늘고 있음
  • 기존 정보보안이 서버, 네트워크, 계정 탈취 중심이었다면 AI 보안은 모델의 판단과 행동 자체를 검증해야 함
  • 특히 AI 에이전트는 도구를 호출하고 업무를 대신 수행할 수 있어서 잘못 움직이면 피해 범위가 커질 수 있음

• 에버스핀은 AI 시스템의 설계 단계부터 운영 단계까지 가능한 위협을 사전 검증하겠다고 밝힘

  • AI 레드티밍으로 모델이 위험한 지시를 따르는지, 민감 정보를 흘리는지, 정책을 우회하는지 테스트하는 방식임
  • 운영 단계에서는 런타임 보안과 거버넌스로 실제 사용 중 발생하는 위험을 통제하는 쪽에 무게가 실림
  • 한 번 점검하고 끝나는 보안이 아니라, 배포 이후에도 계속 감시하는 구조가 필요하다는 얘기임

• 타깃 산업은 금융, 공공, 플랫폼, 제조임

  • 금융과 공공은 규제와 책임 소재가 빡빡해서 AI 신뢰성 검증 수요가 큼
  • 플랫폼은 사용자 입력이 많아 프롬프트 공격이나 악성 사용 패턴에 노출되기 쉬움
  • 제조는 내부 공정 데이터와 운영 시스템이 엮일 가능성이 있어 데이터 유출과 권한 통제가 중요함

• 에버스핀은 기존 해킹방지·피싱방지 솔루션에 AI 신뢰 보안을 더해 포트폴리오를 넓히려는 전략임

  • 일본 등 해외 네트워크를 기반으로 글로벌 레퍼런스를 만들겠다는 계획도 포함됨
  • 결국 'AI를 잘 쓰는 회사'보다 'AI를 안전하게 운영할 수 있는 회사'가 고객 설득 포인트가 되는 시장을 보는 셈임

• 기사에서 흥미로운 건 보안의 기준점이 성능 평가에서 운영 신뢰성 평가로 옮겨가고 있다는 점임

  • 모델이 얼마나 똑똑한지뿐 아니라, 위험한 입력에 어떻게 반응하는지 봐야 함
  • 어떤 권한으로 어떤 도구를 호출하는지 기록하고 통제해야 함
  • 규제와 국제 표준에 대응할 수 있는 평가 체계까지 제품화하려는 흐름임

---

기술 맥락

• 여기서 선택의 핵심은 AI 보안을 배포 전 테스트로만 보지 않고, 운영 중 런타임 통제까지 포함하는 쪽으로 가져가는 거예요. 에이전트가 실제 시스템 도구를 호출하면 취약점이 모델 내부에만 머물지 않거든요.

• AI 레드티밍이 필요한 이유는 일반 보안 점검처럼 포트가 열렸는지만 보는 방식으로는 프롬프트 주입이나 탈옥을 잡기 어렵기 때문이에요. 공격자는 자연어 입력, 문서 내용, 외부 검색 결과를 이용해서 모델의 행동을 바꾸려 할 수 있어요.

• 금융, 공공, 제조를 먼저 보는 것도 이유가 있어요. 이 산업들은 민감 데이터와 업무 권한이 강하게 묶여 있어서, AI가 잘못된 판단을 하거나 권한을 오용하면 단순 장애가 아니라 규제 리스크로 번질 수 있어요.

• 그래서 AI 신뢰 보안은 모델 성능 평가와는 다른 레이어예요. 정확한 답을 잘하는지와 별개로, 위험한 요청을 거절하고 권한 범위 안에서만 행동하며 운영 로그를 남기는지가 실제 도입의 기준이 되는 거예요.