---
title: "오픈 모델을 내 엔드포인트에 붙였더니 묘하게 해방감이 온다는 이야기"
published: 2026-07-28T02:37:14.000Z
canonical: https://jeff.news/article/5166
---
# 오픈 모델을 내 엔드포인트에 붙였더니 묘하게 해방감이 온다는 이야기

글쓴이는 Claude나 ChatGPT 대신 Kimi K3를 자기 Modal 관리형 추론 엔드포인트에 올리고 opencode와 연결해 써봤다. 기능 자체보다 인상적인 건 데이터가 노트북에서 자기 엔드포인트로 갔다가 돌아오는 감각, 즉 특정 대형 서비스에 묶이지 않는 느낌이었다.

- 글쓴이는 2년 정도 Claude와 ChatGPT를 평범하게 써온 개발자인데, 이번엔 오픈 모델을 자기 추론 엔드포인트에 붙여봤다고 함
  - 원래 오픈소스 신념이 강한 타입은 아니었다고 선을 긋고 시작함
  - 그래서 더 흥미로운 지점은 '철학적으로 옳다'가 아니라 '써보니 기분이 이상하게 좋다'는 쪽임

- 계기는 꽤 현실적임. 개인 계정에 Claude나 ChatGPT의 좋은 플랜이 없어서, 새 사이드 프로젝트를 시작하려다 다른 선택지를 찾은 것
  - 글쓴이는 Modal에서 일하고 있고, 회사가 그날 Kimi K3 관리형 엔드포인트를 출시함
  - Kimi K3가 꽤 괜찮다는 얘기를 알고 있어서, 유료 플랜 업그레이드 대신 직접 써보기로 함
  - 본인이 해당 기능 개발에 직접 기여한 건 아니라서, 실제로 만져본 건 이번이 처음이었다고 함

- 세팅은 약 5분 만에 끝남. opencode가 자기 Modal 엔드포인트를 바라보게 만들고 바로 실행한 것
  - 여기서 핵심은 '와 성능 미쳤다'가 아니라, 데이터 흐름이 단순해졌다는 체감임
  - 노트북에서 자기 엔드포인트로 요청이 갔다가 다시 돌아오는 구조라서, 뭔가 내 것 같다는 느낌이 들었다고 함

> [!IMPORTANT]
> 이 글의 포인트는 오픈 모델이 폐쇄형 모델을 무조건 이긴다는 주장이 아님. 개발자가 모델 호출 경로와 엔드포인트를 직접 고를 수 있을 때 생기는 체감이 생각보다 크다는 얘기임.

- 글쓴이는 그 감각을 '큰 IDE를 한참 쓰다가 vim을 열었을 때의 빈 공간'에 비유함
  - 기능이 적어서 좋다는 뜻이라기보다, 불필요한 결속감이 사라진 느낌에 가까움
  - 특정 provider에 묶여 있던 끈이 잘리고 숨을 쉬는 느낌이었다고 표현함
  - 본인도 좀 과장스럽게 들린다는 걸 알지만, 실제로 예상 밖이었다고 함

- 개발자 입장에서는 이게 꽤 중요한 변화임. AI 코딩 도구의 품질만큼이나 '어디로 요청이 가는가'가 경험의 일부가 되고 있음
  - 회사 업무에서는 보안, 비용, 데이터 정책 때문에 자체 엔드포인트나 관리형 프라이빗 추론이 더 중요해질 수 있음
  - 개인 개발에서도 구독 플랜 하나에 묶이지 않고 모델과 실행 환경을 바꿔 끼우는 흐름이 자연스러워지고 있음
  - 특히 opencode처럼 백엔드를 갈아끼울 수 있는 도구는 오픈 모델 생태계가 커질수록 존재감이 커질 가능성이 있음

---

## 기술 맥락

- 여기서 선택된 건 Claude나 ChatGPT 같은 완전 관리형 서비스 대신, Kimi K3를 Modal의 관리형 추론 엔드포인트로 호출하는 방식이에요. 왜 중요하냐면 모델 품질만 보는 게 아니라, 요청이 어디로 가고 누가 그 실행 경로를 통제하느냐가 개발 경험에 직접 영향을 주기 때문이에요.

- opencode를 중간에 둔 것도 포인트예요. 코딩 도구가 특정 모델 서비스에 고정돼 있으면 사용자는 플랜, 정책, 장애, 가격 변화에 그대로 묶이거든요. 반대로 엔드포인트만 바꿔 끼울 수 있으면 같은 작업 흐름 안에서 모델 공급자를 바꿔볼 수 있어요.

- Modal 관리형 엔드포인트를 쓴 건 로컬에서 모든 걸 직접 운영하는 선택과도 달라요. 인프라를 완전히 떠안지는 않으면서도, 적어도 내 계정의 엔드포인트로 요청을 보내는 구조를 만들 수 있거든요. 글쓴이가 말한 해방감은 바로 이 중간 지점에서 나온 감각에 가까워요.

- 이 글이 재밌는 이유는 거대한 벤치마크나 비용표 없이도 AI 개발 도구의 다음 논점을 보여주기 때문이에요. 앞으로는 '어떤 모델이 제일 똑똑한가'뿐 아니라 '내 코드와 데이터가 어떤 경로로 모델에 닿는가'가 점점 더 자주 논의될 거예요.

## 핵심 포인트

- opencode를 Modal의 Kimi K3 관리형 엔드포인트에 약 5분 만에 연결함
- 개인 Claude나 ChatGPT 유료 플랜을 올리는 대신 오픈 모델 기반 추론 환경을 시도함
- 성능 벤치마크보다 '내가 엔드포인트와 데이터 흐름을 통제한다'는 체감이 핵심

## 인사이트

이 글은 오픈 모델 담론을 거창한 철학이 아니라 개발자 개인의 작업 감각으로 끌어내린 게 재밌다. 로컬이든 관리형이든, 모델 선택권과 데이터 경로 통제권이 개발 경험의 일부가 되고 있다는 신호로 볼 만하다.