AGI 아키텍처를 범주론으로 비교해보자는 논문

• 이 논문은 AGI를 두고 ‘정의도 애매한데 벤치마크 점수만 보고 비교하는 거 괜찮냐’는 문제의식에서 출발함.

  • AGI는 빅테크가 엄청난 자원을 쏟아붓는 목표가 됐지만, 단일한 공식 정의는 아직 없음.
  • 지금 있는 건 주로 경험적 벤치마크 프레임워크인데, 논문은 이것만으로는 아키텍처의 구조적 차이를 설명하기 어렵다고 봄.

• 제안하는 해법은 꽤 수학적임. AGI 아키텍처를 범주론(Category Theory)으로 표현하고 비교하자는 것임.

  • 범주론은 객체와 객체 사이의 관계, 변환을 다루는 추상 수학 언어임.
  • 논문은 이 틀을 쓰면 강화학습(RL), 유니버설 AI, 능동 추론(Active Inference), 인과 강화학습(CRL), 스키마 기반 학습(SBL) 같은 후보들을 같은 무대에 올릴 수 있다고 봄.

• 목표는 ‘어느 쪽이 AGI에 더 가까움’ 같은 감상평이 아니라, 공통점과 차이를 명확히 드러내는 비교 프레임워크임.

  • 아키텍처 구조, 정보 조직, 에이전트 구현, 에이전트와 환경의 상호작용을 함께 다루려 함.
  • 시간에 따른 행동 발달과 경험적 평가 속성까지 포함하려는 더 큰 연구 프로그램의 첫 단계라고 설명함.

sequenceDiagram
  participant 연구자
  participant 범주론_프레임워크
  participant AGI_아키텍처
  participant 평가_환경
  연구자->>범주론_프레임워크: 구조와 관계를 형식화
  범주론_프레임워크->>AGI_아키텍처: RL·CRL·SBL을 같은 틀로 표현
  AGI_아키텍처->>평가_환경: 에이전트-환경 상호작용 정의
  평가_환경-->>범주론_프레임워크: 행동과 속성 평가 결과 제공
  범주론_프레임워크-->>연구자: 공통점과 차이 비교

• 이번 버전에서 실제로 다루는 예시는 강화학습, 인과 강화학습, 스키마 기반 학습 쪽임.

  • 논문은 이를 ‘AGI Architectures in a Category’로 보는 첫 연습이라고 표현함.
  • 기존의 ‘Machines in a Category’ 아이디어에서 영감을 받아 현대적인 AGI 아키텍처 비교로 확장하려는 흐름임.

• 읽는 사람에 따라 반응은 갈릴 수 있음.

  • 실무 개발자에게는 당장 모델 성능을 올리는 팁이 아니라서 멀게 느껴질 수 있음.
  • 대신 AGI 논의를 수학적으로 정리하고 싶은 연구자나, 서로 다른 에이전트 아키텍처를 비교하는 언어가 필요한 사람에게는 흥미로운 출발점임.

기술 맥락

• 이 논문이 고른 선택은 AGI를 ‘능력 점수’가 아니라 ‘아키텍처 구조’로 비교하는 거예요. 왜냐하면 벤치마크는 결과는 보여주지만, 그 결과가 어떤 내부 구조나 환경 상호작용에서 나왔는지는 흐릿하게 남기 쉽거든요.

• 범주론을 끌어온 이유는 서로 다른 접근법을 억지로 같은 용어로 번역하지 않고도 관계 중심으로 비교할 수 있기 때문이에요. 강화학습, 인과 강화학습, 스키마 기반 학습은 출발점이 다르지만, 에이전트·환경·정보 흐름이라는 관점에서는 공통 구조를 찾을 수 있어요.

• 여기서 중요한 건 논문이 완성된 AGI 정의를 내놓겠다는 게 아니라는 점이에요. 지금 단계는 포지션 페이퍼에 가깝고, 우선 몇 가지 아키텍처를 범주론 안에 올려보면서 어떤 속성을 비교할 수 있는지 확인하려는 시도예요.

• 실무 관점에서는 바로 구현할 프레임워크라기보다 연구 언어에 가까워요. 그래도 AGI 평가가 단순 리더보드 경쟁으로 흐를 때, ‘무엇이 어떻게 다른가’를 설명하는 도구가 필요하다는 문제의식은 꽤 현실적이에요.