한국은 초거대 LLM 경쟁보다 산업용 AI 엔진에 집중해야 하나

• 이 글의 출발점은 꽤 넓음. 지금의 언어모델 붐을 갑자기 튀어나온 챗봇 유행이 아니라, 강화학습과 번역 기술이 길게 쌓여온 흐름으로 본다는 얘기임.

  • 구글 딥마인드는 2013년 Playing Atari with Deep Reinforcement Learning 논문에서 딥러닝 기반 강화학습(DRL)을 보여줬고, 2016년에는 강화학습 바둑 AI 알파고를 공개함.
  • 중국 텐센트는 이 흐름을 참고해 바둑 AI ‘절예’를 만들었고, 2019년 바둑 AI 대회에서 우승함.
  • 요즘 중국의 딥시크, 큐엔 같은 오픈소스 AI 모델도 그냥 운 좋게 나온 게 아니라, 중국 정부와 IT 기업이 10년 넘게 투자한 결과라는 게 글의 전제임.

• 언어모델을 이해하려면 ‘번역’을 좁게 보면 안 된다는 관점이 나옴.

  • 예를 들어 I want buy a apple이라는 문장을 보면 보통은 “나는 사과를 사고 싶다”가 자연스럽지만, 문맥에 따라 “나는 애플 폰을 사고 싶다”가 맞을 수도 있음.
  • 결국 좋은 번역은 단어를 1:1로 바꾸는 게 아니라, 앞뒤 문맥(Context)을 보고 다음 의미를 예측하는 작업에 가까움.
  • 글은 여기서 한 발 더 나가서, 사람이 말하고 글 쓰고 남의 말을 이해하는 과정도 넓은 의미의 ‘번역’으로 볼 수 있다고 말함. 꽤 흥미로운 프레이밍임.

• 이 관점에서는 멀티모달 모델도 결국 ‘번역 모델’의 확장판임.

  • 차트를 보고 언어로 설명하는 모델은 시각 데이터를 문장으로 바꾸는 셈이고, 텍스트로 이미지를 만드는 모델은 언어를 이미지 표현으로 바꾸는 셈임.
  • 그러니까 언어모델의 발전은 단순히 영어를 한국어로 바꾸는 문제가 아니라, 서로 다른 데이터 형식 사이에서 의미를 오가는 능력으로 확장되고 있음.
  • 그래서 요즘 언어모델과 추론(reasoning)이 같이 언급되는 것도, 글쓴이는 이 ‘이해로서의 번역’ 관점에서 보면 자연스럽다고 봄.

• 하지만 여기서 바로 브레이크가 걸림. 언어모델이 인간처럼 생각하는가에 대해서는 꽤 강한 반론들이 있다는 것.

  • 강화학습의 핵심 인물 중 한 명인 리처드 서튼은 언어모델을 ‘모방 엔진’으로 분류함.
  • 그의 관점에서 지능은 패턴을 따라 말하는 게 아니라, 행동하고, 실제 결과를 관찰하고, 그 결과에 맞춰 다시 행동을 조정하는 순환 과정임.
  • 즉 LLM은 인간의 언어 표현을 엄청 잘 흉내 내지만, 세상과 직접 상호작용하며 배우는 지능과는 다르다는 비판임.

• 비샬 시카의 비판은 더 수학적인 쪽임.

  • 인포시스 전 CEO이자 스탠퍼드 AI 박사인 비샬 시카는 Hallucination Stations라는 논문에서 트랜스포머 기반 언어모델의 기본 한계를 논증함.
  • 핵심은 현재의 트랜스포머 기반 AI 에이전트와 언어모델이 복잡하고 여러 단계를 거치는 작업을 안정적으로 처리하는 데 계산상의 한계를 가진다는 주장임.
  • 글쓴이는 이걸 “모델이 더 좋아질 수는 있지만, 하나의 아키텍처는 그 자체의 제약도 함께 가진다”는 의미로 읽고 있음.

• 그래서 글의 결론은 꽤 현실적임. 지금의 AI 언어모델은 아직 ‘아주 발달한 논리언어 중심 요약 엔진’에 가깝다는 것.

  • 여기서 요약 엔진이라는 표현은 단순히 짧게 줄인다는 뜻이 아니라, 방대한 언어 패턴을 바탕으로 그럴듯한 논리 구조를 재구성한다는 뜻에 가까움.
  • LLM이 유용하지 않다는 얘기가 아님. 오히려 너무 유용하지만, 그 한계와 작동 방식을 착각하면 전략을 잘못 짤 수 있다는 쪽임.

• AI 양강으로 언급되는 미국과 중국도 무작정 파운데이션 LLM만 키우는 방향에서 벗어나고 있다고 봄.

  • 글쓴이는 이들이 수익을 만들 수 있는 소형 언어 모델(SLM) 기반 에이전트 모델과 솔루션 쪽에 더 집중하고 있다고 해석함.
  • 범용 모델 경쟁은 돈도 인프라도 엄청나게 먹는 게임이라, 후발 주자가 똑같이 따라 들어가면 체력전이 될 가능성이 큼.
  • 반대로 산업별 전문 AI는 한국이 이미 강점을 가진 제조, 산업, 서비스 영역의 데이터를 활용할 여지가 있음.

• 마지막 질문은 한국 AI 전략으로 이어짐. 초거대 요약 엔진을 직접 만드는 데 집중할지, 산업 분야 전문 AI 엔진을 만들지 선택해야 한다는 것.

  • 한국은 근현대 산업 발전 과정에서 특정 산업 도메인에 강한 경험을 쌓아왔고, 글쓴이는 이걸 AI 전략의 출발점으로 삼아야 한다고 봄.
  • 결국 “우리도 챗GPT 같은 거 만들자”에서 끝나면 너무 얕고, “어떤 산업 문제를 AI로 풀어서 실제 돈과 생산성을 만들 것인가”까지 가야 한다는 얘기임.
  • 개발자 입장에서도 이건 남 얘기가 아님. 앞으로 필요한 역량이 범용 모델 학습보다 도메인 데이터, 에이전트 설계, 모델 운영, 검증 체계 쪽으로 이동할 수 있다는 신호니까.

---

기술 맥락

• 이 글에서 중요한 선택지는 초거대 파운데이션 LLM을 직접 만들 것인지, 아니면 산업별 전문 AI 엔진에 집중할 것인지예요. 왜냐하면 두 전략은 필요한 돈, 데이터, 인프라, 인재 구성이 완전히 다르거든요.

• 파운데이션 LLM 경쟁은 모델 규모와 학습 인프라가 핵심이에요. 미국과 중국처럼 장기간 투자와 대규모 컴퓨팅 자원을 가진 쪽이 유리한 게임이라, 후발 주자가 같은 방식으로 붙으면 비용 대비 성과가 애매해질 수 있어요.

• 반대로 SLM이나 산업 특화 에이전트는 특정 업무 맥락을 깊게 아는 게 더 중요해요. 제조 공정, 금융 심사, 반도체 설계, 의료 문서처럼 도메인 제약이 뚜렷한 곳에서는 작은 모델이라도 데이터와 워크플로에 잘 붙이면 실제 효용이 나올 수 있거든요.

• 글에서 LLM을 요약 엔진에 가깝다고 보는 이유도 여기에 있어요. 언어 패턴을 잘 재구성하는 능력은 강력하지만, 복잡한 다단계 업무를 안정적으로 끝내려면 모델 자체보다 검증, 도구 호출, 피드백 루프, 운영 설계가 같이 필요해요.

• 그래서 한국 개발자에게 이 논점은 꽤 실무적이에요. 앞으로는 모델을 크게 만드는 일만큼이나, 특정 산업의 문제를 모델이 다룰 수 있는 형태로 쪼개고 검증 가능한 에이전트 흐름으로 묶는 능력이 중요해질 가능성이 커요.