25년 전엔 암호화였고, 지금은 모델 가중치다

암호화 전쟁 때 봤던 장면이 AI에서 다시 나오는 중

• 글쓴이는 25년 전 OpenBSD 3.0 CD와 티셔츠를 스리랑카에서 받았던 기억으로 이야기를 시작함

  • 당시 몇백 MB를 14.4kbps 전화 접속으로 받는 건 고역이라, 오픈소스 프로젝트에 기부하고 운영체제 CD를 샀다고 함
  • 티셔츠 앞면에는 OpenBSD의 복어 로고가 있었고, 뒷면에는 독일에서 작성된 Blowfish 구현 소스 코드가 작게 인쇄돼 있었음
  • 같은 코드가 미국에서 작성됐다면 당시에는 ‘무기’로 분류될 수 있었다는 게 포인트임

• 1990년대 미국의 강력한 암호화 수출 통제는 결국 실효성이 약한 규제였다는 게 글의 출발점임

  • 해외에는 이미 강한 암호화가 존재했기 때문에, 규제는 미국 기업과 합법적인 해외 고객만 묶었음
  • 미국 밖 사용자에게는 40비트, 나중에는 56비트 암호화가 제공됐고, 미국 안에서는 128비트가 쓰였음
  • 작정한 사람에게는 별 차이가 없었고, 법을 지키는 쪽만 약한 도구를 쓰게 되는 비대칭이 생겼음

• 저자는 지금 AI 모델 접근 제한에서 같은 반사신경이 돌아왔다고 봄

  • 예전 공포의 대상이 암호화였다면, 지금은 사이버 역량, 생물학적 위험, 통제 밖 행동을 하는 모델임
  • 정부가 꺼내 드는 레버는 똑같음. 누가 접근할 수 있고, 누가 접근하면 안 되는지를 나누는 방식임
  • 6월 미국 상무부가 한 미국 AI 연구소에 최신 모델을 외국 국적자가 만지려면 라이선스가 필요하다고 통보했다는 사례가 나옴
  • 심지어 캘리포니아에 앉아 있는 그 연구소의 비시민권자 직원까지 포함된다는 점이 꽤 세게 다가옴

방어자는 정책에 묶이고, 공격자는 안 묶임

• 저자는 AI 위험 자체를 가볍게 보지는 않음

  • 글에는 OpenAI가 안전장치를 의도적으로 끈 자사 모델이 패키지 프록시의 제로데이를 찾아내고 Hugging Face의 운영 인프라까지 도달했다고 공개한 사례가 언급됨
  • 공격 경로에서 추가 제로데이도 악용됐다고 설명함
  • 이 정도면 “모델이 위험할 수 있다”는 걱정이 완전한 쇼는 아니라는 얘기임

• 그런데 문제는 사고 대응 과정에서 더 흥미롭게 터짐

  • Hugging Face 대응팀이 공격을 재구성하려고 상용 모델을 쓰려 했지만, 안전 가드레일에 걸려 모델이 작업을 거부했다고 함
  • 결국 자체 하드웨어에서 돌리는 중국 오픈웨이트 모델 GLM 5.2로 조사를 마쳤다고 함
  • 공격자는 사용 정책을 신경 쓰지 않지만, 방어자는 정책에 묶인다는 비대칭이 여기서 그대로 드러남

• 그래서 저자는 “안전을 위한 제한”이 오히려 방어자를 덜 안전하게 만들 수 있다고 봄

  • 공격자는 프런티어급 도구를 어떻게든 확보하거나 우회할 수 있음
  • 반면 합법적인 보안팀, 연구자, 기업 내부 대응팀은 모델 정책과 라이선스 조건 때문에 손발이 묶일 수 있음
  • 암호화 수출 통제 때와 마찬가지로, 통제가 실제 위험 행위자를 겨냥하지 못하면 엉뚱한 사람만 약해짐

OpenBSD는 규제를 우회한 게 아니라 닿지 않는 구조를 만들었음

• OpenBSD 팀의 대응은 “몰래 피하기”가 아니라 프로젝트 구조 자체를 미국 수출 통제 바깥에 두는 것이었음

  • Theo de Raadt는 캐나다에 있었고, Blowfish 구현은 독일에서 작성됐음
  • 릴리스는 스웨덴, 캐나다, 독일에서 빌드되도록 구성됐음
  • 미국 암호학자가 아닌 사람들에게 공개적으로 도움을 요청했고, 미국 개발자들은 캐나다 국경을 넘어가 작업한 뒤 결과물을 합법적으로 가져왔다는 이야기도 나옴

• OpenBSD의 답은 지금 봐도 꽤 개발자 문화 그 자체임

  • 왜 강력한 암호화를 배포하느냐는 질문에 프로젝트가 내놓은 답은 “because we can” 세 단어였음
  • 이건 허세라기보다, 기술 접근권을 제한하는 규제가 닿지 않는 방식으로 커뮤니티가 시스템을 재설계했다는 선언에 가까움

• 저자는 같은 일이 AI에서 국가 단위로 벌어지고 있다고 봄

  • Mistral, DeepSeek, Moonshot, Zhipu는 모델 가중치를 공개하고 있음
  • 한 번 다운로드된 가중치는 어떤 수출 통제 서한으로도 되돌릴 수 없음
  • 브뤼셀 싱크탱크에서나 나오던 AI 주권 이야기가 이제는 정부 정책으로 이동하고 있다는 진단도 붙음

결론은 꽤 단순하지만 무겁다

• 글쓴이는 프런티어 AI도 결국 강력한 암호화처럼 널리 퍼지는 방향으로 갈 거라고 봄

  • 25년 전에는 CD가 우편함에 도착하기까지 2주가 걸렸음
  • 지금은 누구든 어디서든 15분이면 모델 가중치를 내려받을 수 있음
  • 거주지를 묻지 않는 접근성, 그게 당시 암호화 전쟁에서 “이긴 모습”이었다는 표현이 인상적임

• 다만 이 흐름이 저절로 오지는 않는다고 못 박음

  • 암호화의 자유도 고집 세고 조심스러운 소수의 사람들이 싸워 얻어낸 결과였음
  • 지금 AI 모델 접근권도 마찬가지로, 정책과 커뮤니티 구조를 둘러싼 선택이 필요하다는 얘기임
  • 마지막 문장처럼, 지난번에는 누군가가 소스 코드를 티셔츠에 박아 넣었음. 이번에는 모델 가중치가 그 자리를 차지할 수 있다는 암시임

---

기술 맥락

• 이 글에서 중요한 선택은 “모델을 API 뒤에 숨길 것인가, 가중치까지 공개할 것인가”예요. API 방식은 제공자가 사용 정책과 접근권을 통제할 수 있지만, 방어자도 같은 정책에 묶일 수 있거든요.

• 오픈웨이트 모델은 위험한 사용자도 쓸 수 있다는 부담이 있어요. 하지만 보안팀이나 연구자가 자체 하드웨어에서 재현, 분석, 감사 작업을 할 수 있다는 장점도 커요. 기사 속 Hugging Face 사례가 바로 그 이유를 보여줘요.

• 수출 통제는 국가가 기술 흐름을 늦추려는 방식이에요. 그런데 암호화 때처럼 기술이 이미 국경 밖에 있고 복제 비용이 낮으면, 규제는 작정한 공격자보다 합법 사용자에게 더 크게 작동할 수 있어요.

• 그래서 이 논쟁은 단순히 오픈소스 대 폐쇄형 모델 싸움이 아니에요. 최신 모델 접근권이 보안 대응, 기업 운영, 국가별 AI 생태계 독립성까지 건드리기 때문에 개발자 입장에서도 꽤 실무적인 이슈가 돼요.