빅테크 AI가 ‘깜깜이 마법’이 되기 전에 오픈소스 AI가 필요하다

오픈소스가 왜 이겼는지부터 다시 보자는 글

• 글쓴이는 1980년대 MIT 인공지능 연구소에서 리처드 스토먼과 오픈소스를 두고 오래 논쟁했던 경험으로 이야기를 시작함

  • 당시 스토먼은 소프트웨어 소스코드는 누구나 사용하고, 배우고, 개선하고, 공유할 수 있어야 한다고 주장했음
  • 글쓴이는 처음엔 기업이 코드 통제권을 가져야 소프트웨어가 발전한다고 봤지만, 결국 소프트웨어가 상업 자산이 아니라 지식 체계라는 점을 받아들이게 됐다고 말함

• 이 논쟁의 결과물이 오늘날 우리가 아는 오픈소스 생태계임

  • 스토먼은 컴파일러인 지씨씨를 만들었고, 수천 명의 개발자가 여기에 기여함
  • 같은 정신은 오늘날 인터넷의 많은 부분을 구동하는 지엔유/리눅스 생태계로 이어짐
  • 글쓴이의 표현대로 현대 세계는 오픈소스 위에서 돌아감

• 당시에도 가장 큰 반론은 보안이었음

  • 코드를 숨겨야 안전하다는 ‘은폐를 통한 보안’ 논리가 있었음
  • 하지만 투명한 코드는 전 세계 개발자가 문제를 찾고 고칠 수 있었고, 폐쇄성은 “아무도 깊이 안 보겠지”에 가까웠다는 게 글쓴이의 판단임
  • 결과적으로 개방성이 보안 논쟁에서도 이겼다는 주장임

그런데 인공지능은 반대로 가고 있음

• 글쓴이는 지금 인공지능이 점점 폐쇄화되는 걸 오픈소스 역사에 대한 역주행으로 봄

  • 인공지능도 결국 소프트웨어인데, 가장 앞선 프런티어 모델은 대부분 완전히 닫혀 있음
  • 문제는 인공지능 과학이 아직 성숙하지 않은 시점에 이런 폐쇄화가 벌어진다는 점임
  • 아직 핵심 돌파구가 남아 있는 분야일수록 공유된 지식이 중요한데, 오히려 지식이 기업 내부로 들어가고 있다는 얘기임

• 이건 개발자 업계만의 문제가 아니라 과학 전체의 문제로 확장됨

  • 미래 과학의 상당 부분이 인공지능에 의존하게 된다면, 인공지능을 소수 기업 내부에 가두는 건 과학적 진보의 일부를 같이 가두는 일이 될 수 있음
  • 글쓴이는 도서관 비유를 듦. 소수 기업이 모든 도서관을 사서, 우리가 읽을 수 있는 책과 내용을 정한다면 받아들이기 어렵지 않냐는 것임
  • 폐쇄형 인공지능은 미래의 독점 도서관처럼 될 수 있다는 경고임

• 폐쇄형 모델의 가장 큰 위험은 결과를 믿어야 하는데 검증할 수 없다는 점임
  • 의사가 진단에 모델을 쓰고, 엔지니어가 설계에 모델을 쓰고, 판사가 판단에 모델을 참고하는 상황을 떠올리면 문제가 선명해짐
  • 모델이 내놓는 설명은 실제 계산 과정의 기록이 아니라, 사후에 그럴듯하게 붙인 이야기일 수 있음
  • 내년에 같은 질문에 다른 답이 나왔을 때, 세상이 바뀐 건지 모델 공급업체가 바꾼 건지 알 방법도 없음

“위험하니까 닫아야 한다”는 반론에 대한 답

• 글쓴이는 인공지능을 공개하는 게 위험할 수 있다는 반론을 가볍게 넘기진 않음

  • 논문은 역량을 설명하지만, 소프트웨어는 역량 그 자체라는 차이가 있다는 점도 인정함
  • 즉 모델 공개가 단순 연구 공개보다 더 직접적인 위험을 만들 수 있다는 건 현실적인 우려임

• 그래도 폐쇄가 답은 아니라고 봄

  • 과학 연구도 악용 가능성이 있지만, 그렇다고 물리학 전체를 기밀로 묶지는 않음
  • 우리는 감시하고, 규칙을 만들고, 기초 지식은 열어두는 방식으로 균형을 잡아 왔음
  • 폐쇄형 모델도 유출될 수 있고, 탈옥될 수 있으며, 기술 집중 자체가 또 다른 위험을 만든다는 지적임

• 질문을 바꿔야 한다는 게 글의 핵심 논리임

  • “개방형 모델에 위험이 있나?”가 아니라 “이미 존재하는 위험 외에 유의미한 위험을 더하나?”를 물어야 한다는 것임
  • 위험을 이유로 전부 닫아버리면, 소수 기업이 나머지 인류가 무엇을 만들 수 있는지 결정하게 됨

진짜 오픈소스 인공지능은 모델 파일 공개만으로 부족함

• 글쓴이는 모델 뒤에 두 종류의 코드가 있다고 구분함

  • 하나는 모델을 실행하는 코드임
  • 다른 하나는 모델을 구축한 코드와 학습 데이터임
  • 글쓴이가 중요하게 보는 건 후자, 즉 모델이 어떻게 만들어졌는지 볼 권리임

• 요즘 일부 기업이 ‘오픈소스’라고 내놓는 모델은 이 기준에서 부족하다고 봄

  • 실행 가능한 모델이나 일부 코드만 공개하고, 학습 코드와 데이터 세트는 숨기는 경우가 많기 때문임
  • 사용자는 어떻게 형성됐는지 설명하기 어려운 거대한 숫자 덩어리를 받는 셈임
  • 글쓴이는 이를 실행할 수는 있지만 설명할 수는 없는 ‘마법의 숫자’에 가깝다고 비판함

• 더 큰 문제는 그 개방성이 의무가 아니라 기업의 선심이라는 점임

  • 오늘 열어준 모델을 내일도 같은 수준으로 열어준다는 보장이 없음
  • 언제든 꺼버릴 수 있는 개방성은 사회적 토대가 아니라 일시적 호의에 가깝다는 주장임

해법은 공공재로서의 오픈소스 인공지능 투자

• 글쓴이는 빅테크 인공지능 기업이 없어져야 한다고 말하지 않음

  • 오히려 그들이 존재해서 다행이라고까지 말함
  • 다만 그들이 유일한 선택지가 되어서는 안 된다는 게 핵심임

• 오픈소스 인공지능이 반드시 거대 프런티어 모델과 같은 규모로 경쟁할 필요도 없다고 봄

  • 세상이 필요로 하는 많은 용도는 절대적인 최첨단 모델을 요구하지 않음
  • 신뢰할 수 있는 개방형 선택지가 필요한 영역에 공공 컴퓨팅 자원을 투입하는 건 비용을 치를 가치가 있는 공공재라는 주장임

• 그래서 제안은 비교적 구체적임

  • 정부는 개방형 연구를 위한 공공 컴퓨팅 보조금을 지원해야 함
  • 기업과 자선 단체는 대학과 비영리 연구 조직을 지원해야 함
  • 공적 자금으로 구축된 인공지능은 기본적으로 오픈소스로 공개한다는 규칙이 필요함

---

기술 맥락

• 이 글에서 말하는 오픈소스 인공지능은 “모델을 내려받아 실행할 수 있다”에서 끝나지 않아요. 왜냐하면 모델 파일만 있으면 결과는 재현할 수 있어도, 그 모델이 어떤 데이터와 절차로 만들어졌는지는 검증하기 어렵거든요.

• 실행 코드와 학습 코드의 구분이 중요한 이유가 여기에 있어요. 실행 코드는 모델을 돌리는 데 필요하지만, 학습 코드와 데이터는 모델의 편향, 한계, 변경 가능성을 이해하는 데 필요해요.

• 폐쇄형 프런티어 모델이 사회적 의사결정에 들어갈수록 감사 가능성이 더 중요해져요. 의학, 법률, 엔지니어링처럼 틀리면 비용이 큰 영역에서는 모델이 그럴듯한 설명을 하는 것만으로는 부족하고, 독립적으로 확인할 수 있어야 하거든요.

• 공공 컴퓨팅 지원 이야기가 나오는 건 비용 때문이에요. 대규모 모델 학습은 개인 연구자나 작은 연구실이 감당하기 어려우니, 개방형 대안을 유지하려면 인프라 자체를 공공재처럼 다뤄야 한다는 논리예요.

• 결국 글의 기술적 선택지는 폐쇄형 최고 성능 하나에 사회를 태울지, 조금 덜 최첨단이어도 검증 가능한 개방형 선택지를 같이 유지할지예요. 글쓴이는 후자가 장기적으로 더 건강한 기술 생태계를 만든다고 보는 거예요.