AI 시대 오픈소스, 공공재에서 공격 통로로 바뀌는 중

• 오픈소스를 바라보는 보안 업계의 시선이 꽤 거칠게 바뀌고 있음

  • 예전엔 IT 생태계의 민주화와 혁신을 이끈 공공재라는 인식이 강했음
  • 이제는 AI 에이전트가 자동화된 속도로 파고드는 가장 낮은 방어선이자 공격 통로가 되고 있다는 문제의식이 나옴

• 가장 큰 변화는 공격 속도임

  • 앤스로픽의 미토스(Mythos) 같은 고성능 AI 모델이 오픈소스 프로젝트의 고위험 취약점을 초 단위로 찾는 상황이 언급됨
  • 과거엔 인간 연구자가 몇 달씩 뒤져야 했던 취약점이 이제는 AI에 의해 무차별 탐색될 수 있다는 얘기임
  • 트리비(Trivy) 같은 대중적인 오픈소스 보안 도구도 고도화된 AI 공격 앞에서는 탐지 한계가 생길 수 있다고 봄

• 특히 AI 애플리케이션 공급망은 작은 라이브러리 하나가 전체 서비스를 흔들 수 있음

  • LiteLLM처럼 대규모 언어 모델(LLM) 연동을 지원하는 핵심 라이브러리에서 보안 결함이 나면 여러 AI 앱이 동시에 영향을 받을 수 있음
  • 오픈AI가 GPT-5.5-Cyber와 코덱스 시큐리티(Codex Security)로 취약점 탐지와 패치 자동화에 나선 것도 이런 흐름의 일부로 해석함

• 필자는 기존 보안 체계를 엑셀 체크리스트식 보안이라고 비판함

  • 공격자는 기계 속도의 자율 루프를 돌리는데, 방어는 아직도 연례 점검과 문서 확인에 머물러 있다는 얘기임
  • 그래서 보안은 사후 점검이 아니라 실시간 기술적 보증(Technical Assurance)으로 전환돼야 한다고 주장함

• 여기서 제안하는 핵심 구조가 AI 자재명세서(AIBOM)와 안전 통행 관문(Safe Pass Gateway)임

  • AIBOM은 AI 소프트웨어 구성요소를 인벤토리처럼 파악하고 관리하는 개념임
  • Safe Pass Gateway는 AI 판단이 민간 산업 기반 인프라에 들어가기 전에 정책 위반 여부를 실시간으로 심사하는 관문에 가까움
  • 정책을 벗어나면 즉시 킬 스위치를 작동시키는 주권적 검증권(Sovereign Verifier)의 아키텍처로 설명됨

• 폐쇄형 블랙박스 모델에 대한 경계도 강하게 나옴

  • 금융, 제조 같은 산업 기반 인프라에 내부 작동을 알 수 없는 모델을 넣는 건 위험하다는 입장임
  • 국가대표 독자 파운데이션 모델뿐 아니라, 직접 가져와 분석하고 통제할 수 있는 오픈웨이트(Open-Weight) 모델도 기술 주권의 축으로 봄
  • 온프레미스(On-premise)에서 가중치를 분석하고 행위를 제어할 수 있어야 진짜 안보 자산이라는 논리임

• 결론은 안전하게 열어두기(Secure Openness)임

  • 보안이 기술을 막는 브레이크로만 작동하면 안 된다는 전제를 둠
  • 대신 한국이 오픈소스를 단순히 가져다 쓰는 사용자에서, 글로벌 공급망 신뢰를 보증하는 기여자로 바뀌어야 한다고 봄

• 정부와 기업에 대한 요구도 꽤 구체적임

  • 정보통신산업진흥원(NIPA), 한국인터넷진흥원(KISA) 같은 기관이 오픈소스 보안 바우처와 실증 지원 프로그램을 활성화해야 한다고 제안함
  • 사용자 기업은 보안을 비용이 아니라 미래 수출 경쟁력으로 보고 기술 부채를 줄이는 데 투자해야 한다고 봄
  • 대기업은 오픈소스 혜택을 크게 누리는 만큼 보안 커뮤니티의 핵심 스폰서로 나서야 한다는 압박도 들어감

---

기술 맥락

• 이 글에서 말하는 전환은 보안 도구 하나 더 붙이자는 수준이 아니에요. 공격자가 AI 에이전트로 취약점 탐색 속도를 올렸기 때문에, 방어도 소스코드 저장소부터 배포 파이프라인, 모델 호출 지점까지 계속 검증하는 구조로 바뀌어야 한다는 얘기예요.

• AIBOM이 중요한 이유는 AI 서비스가 단일 모델 하나로 끝나지 않기 때문이에요. 모델, 프롬프트, 플러그인, 라이브러리, 데이터 흐름이 엮이기 때문에 어떤 구성요소가 위험한지 모르면 사고가 나도 어디서 끊어야 할지 판단하기 어렵거든요.

• Safe Pass Gateway는 AI가 도구를 호출하거나 민감한 시스템에 접근할 때 정책을 검사하는 문지기 역할이에요. 특히 에이전틱 AI처럼 여러 단계를 자동으로 실행하는 구조에서는 사후 로그 분석만으로는 늦을 수 있어서, 실행 전에 막는 계층이 필요하다는 논리예요.

• 오픈웨이트 모델 얘기도 같은 맥락이에요. 내부 동작을 전혀 볼 수 없는 폐쇄형 모델은 빠르게 도입하기는 좋지만, 금융이나 제조처럼 규제와 책임 소재가 중요한 환경에서는 통제권 부족이 리스크가 될 수 있거든요.